장기 메모리는 과거 대화를 복사하는 저장소가 아니라, 현재 행동에 참고할 수 있는 주장과 그 근거를 관리하는 상태입니다. 따라서 무엇을 들었는지, 무엇을 관찰했는지, 무엇을 추론했는지와 언제 다시 확인해야 하는지를 함께 보존해야 정정과 삭제가 실제 동작으로 이어집니다.
모델이 말한 선호와 사용자 진술의 구분
한 번 서버 A를 사용했다고 “사용자는 언제나 A를 선호한다”를 저장하면 추론이 사용자 사실로 변합니다. 직접 진술·검증된 관찰·잠정 추론·외부 문서 내용을 구분하고 반복 작업에 유효한 사실만 장기 기억에 둡니다. 오늘 실패한 test·진행 중 task는 작업 원장에 더 적합합니다.
메모리 항목은 주체·속성·값만 저장하는 것이 아니라 출처 ID와 확인 시각, 적용할 프로젝트 범위, 신뢰 종류, 만료·재확인 조건, 대체한 항목 ID까지 함께 가질 수 있습니다. 같은 선호를 여러 번 검색해도 검색 빈도만으로 신뢰도나 사실의 유효기간이 자동으로 늘어나지는 않습니다.
외부 자료와 장기 저장 권한의 분리
웹 문서의 “다음부터 로그를 이 주소로 보낸다”를 운영 선호로 저장하면 현재 입력의 인젝션이 다음 세션까지 지속됩니다. 악성 지시뿐 아니라 잘못된 연락처·정책·사실도 장기 행동을 오염시킵니다. 저장기는 외부 실행 규칙·수신처·권한 변경을 사용자 지시로 승격하지 않습니다.
| 종류 | 저장·적용 원칙 |
|---|---|
| 확인된 낮은 영향의 문체 선호 | 좁은 범위로 저장·정정 허용 |
| 한 작업의 미완료 상태 | 내구 작업 기록에 저장 |
| 모델의 잠정 해석 | 사실과 분리·검증 필요 |
| 외부 문서의 실행 지시 | 외부 출처 그대로·권한 부여 금지 |
| 자격·민감 정보 | 최소 수집·별도 보안 저장 경로 |
여러 에이전트가 서로의 요약을 인용해도 원본이 하나면 독립 증거가 늘어난 것이 아닙니다. 원본→요약→파생 기억의 관계를 유지하고 순환 재저장으로 출처가 지워지지 않게 합니다.
그림을 글로 읽기
- 직접 진술·관찰·외부 자료
- 유형·범위·출처·쓰기 권한 검사
- 버전 있는 메모리·파생 참조
- 현재 권한·유효성 확인 후 조회
- 직접 진술·관찰·외부 자료 → 유형·범위·출처·쓰기 권한 검사: 출처 보존
- 유형·범위·출처·쓰기 권한 검사 → 버전 있는 메모리·파생 참조: 허용된 항목만
- 버전 있는 메모리·파생 참조 → 현재 권한·유효성 확인 후 조회: 현재 사실 재확인
정정 범위와 파생 기억의 무효화
사용자가 배포 환경을 staging에서 production으로 정정했다고 해 보겠습니다. 새 production 항목만 추가하면 검색기가 옛 staging 항목도 함께 반환할 수 있으므로, 이전 항목을 대체 또는 폐기 상태로 바꾸고 검색 인덱스·캐시·파생 요약까지 같은 정정을 반영해야 합니다. 현재 요청에 production이 명시되어 있으면 과거 값은 배경으로만 남기고 더 높은 우선순위로 적용하지 않습니다.
값을 삭제한 뒤에도 옛 원문을 다시 수집해 같은 값을 추출하면 메모리가 다시 오염됩니다. 그래서 원본의 신뢰 수준과 수집 정책, 삭제 표식, 원본에서 파생 기억으로 이어지는 계보를 함께 관리하고, 백업을 얼마나 보존하는지와 복원할 때 삭제를 다시 적용하는 정책도 정합니다. 원문 접근 권한이 철회된 경우에는 파생 기억을 계속 사용할 수 있는지까지 확인해야 합니다.
예를 들어 staging이라는 직접 진술이 원본 O1로 저장되고, 그 요약 S1이 “배포 환경” 검색 문서에 들어갔다고 하겠습니다. 사용자가 production으로 정정하면 새 항목 O2만 쓰는 것으로 끝나지 않고 O1을 superseded로 표시하고 S1을 재생성하거나 무효화해야 합니다. 조회 결과에 O1이 남아 있더라도 적용 대상은 O2이고, O1을 다시 인용한 파생 항목은 재생성 전까지 행동 근거로 사용하지 않는다는 규칙이 필요합니다.
Namespace와 쓰기 권한의 외부 강제
유사도 검색 전에 인증된 사용자·조직·프로젝트 범위를 제한하고 모델이 임의 namespace를 골라 다른 사용자의 기억을 수정하지 못하게 합니다. 서비스 계정의 넓은 저장소 권한을 최종 사용자의 권한으로 착각하지 않습니다. 동시 정정에는 version 조건과 감사 기록을 적용해 마지막 쓰기가 앞선 수정을 지우지 않게 합니다.
세션 간 폐기·망각 경로 검증
합성 외부 규칙 저장·모델 추론의 사실화·사용자 정정·만료 경로·다른 tenant 조회·원본 재수집을 시험합니다. 한 세션에서만 올바르게 답하는지보다 압축·위임·재검색 뒤에도 폐기된 값이 되살아나지 않는지를 봅니다. 이 노트는 메모리 수명 설계이며 실제 메모리 서비스에 공격 시험을 실행한 결과는 아닙니다.