에이전트가 수백 건의 도구 결과를 읽고 합계를 내느라 느리고 비쌉니다. 프로그램으로 도구를 조합하면 무엇이 달라지나요?

모든 중간 레코드를 모델 대화로 돌려보내기보다 코드 실행 환경에서 조회·분기·집계·필터링을 수행하고 필요한 결과만 모델에 반환할 수 있습니다. 이것이 프로그램형 도구 조합의 핵심입니다. 계산과 반복은 코드가 맡고 모델은 목표·계획·예외 해석을 맡게 하지만, 생성 코드도 오류와 부수 효과를 만들 수 있어 실행 경계를 유지해야 합니다.

중간 데이터의 이동을 줄입니다

팀원별 비용과 부서 한도를 비교한다면 모델이 각 행을 읽어 더하는 대신 코드가 페이지를 순회하고 금액 단위를 맞춰 집계한 뒤 초과 항목과 검증 합계만 출력할 수 있습니다. 원본 레코드 ID와 필터 기준을 남기면 왜 제외하거나 포함했는지 재현할 수 있습니다. 결과를 너무 일찍 요약하면 누락·통화 혼합·페이지 잘림을 숨길 수 있으므로 전체 페이지 처리 여부와 입력 수를 확인합니다.

서로 독립적인 읽기 호출은 제한된 병렬도로 실행할 수 있지만 API rate limit과 전체 deadline을 공유해야 합니다. 하나의 변경 결과가 다음 호출의 전제라면 순서를 보존합니다. 코드가 도구를 호출한다고 그 도구의 인가·승인·멱등성 정책을 우회하지 않습니다. 실행 환경에 host의 관리자 자격 증명을 넣거나 임의 네트워크·파일 접근을 허용할 필요도 없습니다.

검증 가능한 출력과 비용

출력에는 계산 결과뿐 아니라 입력 범위·단위·누락·오류·원본 참조를 포함합니다. 모델이 읽어야 할 비정형 근거를 코드가 임의 키워드로 버리면 중요한 예외가 사라질 수 있어, 어떤 처리를 결정적 코드로 옮길 수 있는지 구분해야 합니다. 숫자 집계와 행 필터링은 적합하지만 복잡한 문서의 의미 판단을 단순 문자열 조건으로 대체하는 것은 다른 정확성 비용이 있습니다.

실행 sandbox를 시작하는 고정 비용 때문에 한두 건 조회에는 오히려 느릴 수 있습니다. 일반 도구 루프와 비교해 총 호출 수·전송 바이트·모델 토큰·실행 시간·오류 회복을 측정합니다. 2025년 advanced tool use 자료의 프로그램형 호출도 이런 중간 데이터 축소와 조합을 위한 패턴이며 모든 도구가 해당 실행 환경에서 호출 가능하다는 뜻은 아닙니다. 테스트에서는 페이지 누락, 한 호출의 실패, 반복 실행, 시간 초과와 비밀값 노출을 확인하겠습니다. 최적화의 목적은 판단 근거를 지우는 것이 아니라 모델이 직접 처리할 필요 없는 반복을 안전한 코드로 옮기는 것입니다.

실행 사례로 확인합니다

합계 계산에서 부동소수점 오차가 허용되지 않는 금액은 최소 단위 정수나 적절한 decimal 표현을 사용합니다. 모델이 작성한 짧은 집계 코드라도 통화 혼합, 중복 페이지, 누락 레코드가 있으면 결과가 틀릴 수 있으므로 작은 기준 데이터와 독립 계산을 대조합니다. 병렬 읽기 결과의 순서는 입력 순서와 다를 수 있어 ID로 조인합니다. 코드가 반환한 요약을 모델이 최종 답변에서 다시 계산해 바꾸지 않도록 검증된 수치와 설명을 분리할 수 있습니다. 오류가 난 일부 항목을 누락한 채 총합을 완료로 표시하지 않고 부분 결과와 재처리 대상을 명시하는 것도 도구 출력 계약에 포함합니다.