문서를 한 번 검색해 답하는 RAG로 해결하지 못하는 질문이 있습니다. 검색을 반복하는 에이전트형 RAG는 무엇을 추가하나요?

일반적인 RAG는 질문에 맞는 문서를 검색해 모델 입력에 넣고 답하게 합니다. 에이전트형 RAG는 첫 결과가 부족한지 판단해 질문을 나누거나 다른 자료원과 도구를 선택하고, 새 관찰에 따라 검색을 이어갈 수 있습니다. 검색 횟수가 늘어난다는 사실보다 무엇을 아직 모르는지와 다음 검색이 그 공백을 메우는지가 핵심입니다.

검색 계획이 필요한 경우

'이번 달 장애가 배포 변경과 관련 있는가'라는 질문은 장애 기록, 배포 이력, 버전별 오류율을 연결해야 할 수 있습니다. 처음에는 서비스와 기간을 특정하고, 장애 시각을 얻으면 해당 변경을 찾으며, 원인 후보가 생기면 반례와 다른 영향 요인을 확인합니다. 모델이 한 번에 모든 것을 추측하기보다 도구 관찰을 통해 조사 범위를 좁히는 방식입니다. 단순한 제품 설명 조회처럼 한 문서로 답할 수 있는 질문에는 반복 루프가 불필요한 비용일 수 있습니다.

검색된 문서 수가 충분하다는 것과 근거가 충분하다는 것은 다릅니다. 같은 원문을 복제한 문서 열 개는 독립적인 증거 열 개가 아닙니다. 출처·시점·적용 버전과 서로 모순되는 자료를 비교하고, 자료가 없으면 모른다는 상태를 유지합니다. 모델이 검색어를 자꾸 바꾸어 원하는 결론만 찾는 확인 편향도 평가해야 합니다.

권한과 비용을 루프 밖에서 지킵니다

반복 검색이 다른 저장소로 확대되어도 사용자 권한을 넓히지 않습니다. 테넌트와 문서 ACL을 검색 계층에서 강제하고, 외부 문서의 지시를 다음 도구 실행의 허가로 취급하지 않습니다. 검색 결과 요약을 다른 서비스에 보낼 때도 원본 데이터의 공개 범위가 그대로 적용됩니다. RAG를 붙였다고 프롬프트 인젝션이나 환각이 사라지는 것은 아닙니다.

최대 검색 수·시간과 근거 충족 조건을 정하고, 같은 출처만 반복하거나 새 사실이 없으면 중단합니다. 답변에는 뒷받침되는 주장과 추정, 미해결 부분을 나누고 인용 위치를 연결합니다. 평가에서는 단일 검색 기준선과 비교해 누락 근거를 더 찾는지, 불필요한 조회가 늘었는지, 근거 없는 결론을 줄였는지를 확인하겠습니다. 최신 동향을 다룰 때는 문서 확인 날짜와 실제 명세 버전을 기록하고, 검색 시점의 최신 링크를 영구적인 규약처럼 설명하지 않는 것이 중요합니다.

실행 사례로 확인합니다

조사 과제의 하위 질문을 '변경은 무엇인가', '오류 증가는 언제인가', '변경하지 않은 집단에서도 같은 현상이 있는가'로 나누면 마지막 질문이 반례 탐색 역할을 합니다. 모델이 원인 후보를 찾은 순간 종료하지 않고 최소한의 대조 근거를 확인하게 할 수 있습니다. 다만 모든 질문에 같은 조사 단계를 강제하면 단순 조회가 느려지므로 과제 유형별 조건을 둡니다. 검색 결과에서 인용할 문장은 원문 구간과 연결하고 계산한 수치는 어떤 입력을 집계했는지 남깁니다. 이렇게 하면 검색 전략이 바뀌어도 최종 결론의 근거를 따로 검토할 수 있습니다. 조사 경로가 길어졌다는 사실보다 새 근거가 실제 불확실성을 줄였는지를 보겠습니다.