도구 호출은 의도대로 실행되는가? LLM 에이전트의 의도-실행 일치성 측정 및 복구
요약
LLM 에이전트의 도구 호출은 여러 단계를 거치며, 이 과정에서 호출 내용이 변경될 수 있습니다. 본 연구는 '의도-실행 일치성(IEC)'을 정의하고, IntAct 프로토콜을 통해 각 단계가 받은 원본 호출과 실제 실행된 동작 간의 불일치를 감지합니다. 이를 통해 에이전트 실패의 주요 원인이 경로 자체에 있음을 밝히고, 상용 제품에서 변경된 호출로 인한 오류를 효과적으로 복구할 수 있음을 입증했습니다.
핵심 포인트
- LLM 에이전트는 도구 호출 과정에서 내용 변경 위험을 안고 있습니다.
- IEC(의도-실행 일치성)는 실행 동작과 의도 간의 불일치를 측정하는 핵심 속성입니다.
- IntAct 프로토콜은 단계별로 원본 호출을 관찰하고, 변경된 호출을 거부하거나 전달합니다.
- 에이전트 실패의 상당 부분(50% 이상)은 LLM 자체보다 실행 경로 문제에서 기인합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기