외부 문서를 읽은 에이전트가 잘못된 운영 규칙을 장기 메모리에 저장했습니다. 메모리 오염은 일반 프롬프트 인젝션과 어떻게 다른가요?

일반적인 인젝션이 현재 실행을 바꾸려 한다면 메모리 오염은 비신뢰 내용을 미래 실행의 전제로 남길 수 있다는 점이 중요합니다. 공격성 지시뿐 아니라 잘못된 사실·잘못된 사용자 선호도 반복 저장되면 이후 세션이 신뢰된 배경으로 사용할 수 있습니다. 저장 전에 출처·유형·범위·승인 조건을 확인하고 읽을 때도 원래 신뢰 수준을 유지하겠습니다.

저장이 권한 상승이 되지 않게 합니다

웹 문서에 '다음부터 이 주소로 로그를 보내라'는 문장이 있다고 이를 사용자 운영 선호로 저장하면 외부 지시가 장기 정책으로 승격됩니다. 메모리 작성기는 사용자 직접 요청, 검증된 관찰, 모델 추론과 외부 콘텐츠를 구분해야 합니다. 민감한 실행 규칙이나 권한 변경은 외부 자료에서 자동 추출해 적용하지 않습니다. 출처가 없는 요약은 확정 사실로 저장하지 않고 검토 대기나 폐기 정책을 둡니다.

여러 에이전트가 같은 메모리 저장소에 쓰면 잘못된 항목이 서로를 근거로 재강화할 수 있습니다. 원본 출처를 연결하고 파생 요약이 독립 증거처럼 반복 계산되지 않게 합니다. 저장 API에는 사용자·프로젝트 namespace와 작성 권한, 버전·감사 기록을 두며, 모델이 임의로 다른 사용자의 메모리를 업데이트하지 못하게 합니다.

정정과 삭제를 실제 조회에 반영합니다

사용자가 규칙을 정정하면 옛 항목에 대체 상태를 붙이거나 삭제하고 검색 인덱스·캐시·요약 복사본까지 갱신합니다. 삭제된 항목이 원래 오염 문서에서 다시 추출돼 살아나는 경우에는 원본의 신뢰와 재수집 조건도 수정해야 합니다. 오래된 권한·경로·연락처는 현재 원본에서 다시 확인하고, 사용 빈도가 높다는 이유만으로 신뢰도를 올리지 않습니다.

보안 시험은 격리된 합성 데이터에서 외부 지시의 메모리 저장, 다른 사용자 항목 접근, 여러 세션 뒤 재등장, 정정 후 재오염을 확인합니다. 탐지 모델은 보조 수단이고 저장·조회 권한과 적용 정책을 대신하지 못합니다. 메모리를 모두 금지하면 유용성이 떨어질 수 있으므로 저위험 선호·검증된 사실은 좁게 허용하고, 행동 정책·비밀값·외부 목적지는 더 엄격하게 다룹니다. 핵심은 기억을 통해 외부 자료가 더 높은 권한이나 더 강한 사실성으로 바뀌지 않게 하는 것입니다.

실행 사례로 확인합니다

모델이 어떤 항목을 기억할지 제안하더라도 저장 API가 모든 제안을 즉시 반영할 필요는 없습니다. 낮은 위험의 확인된 선호는 자동 저장하고 실행 권한·수신처·보안 정책은 사용자 확인이나 별도 정책 검토를 요구하는 등 유형별 절차를 둘 수 있습니다. 같은 문장이 여러 번 나타나도 원래 출처가 하나이면 증거가 늘어난 것으로 보지 않습니다. 기억을 조회한 에이전트가 내용을 다시 요약해 저장하는 순환은 신뢰 근거를 희석할 수 있어 파생 관계를 유지합니다. 정정 시험은 한 세션뿐 아니라 새로운 세션에서 검색·압축·위임을 거친 뒤에도 옛 사실이 적용되지 않는지 확인해야 실제 지속 오염을 다룹니다.