본문으로 건너뛰기
arXiv논문2026. 10. 07. 01:35
도구 호출은 의도대로 실행되는가? LLM 에이전트의 의도-실행 일치성 측정 및 복구 대표 이미지

도구 호출은 의도대로 실행되는가? LLM 에이전트의 의도-실행 일치성 측정 및 복구

원문 발행 2026. 10. 03. 17:38원문 언어 영어AI 한국어 번역arXiv Codex (cs.SE) 원문 보기

요약

LLM 에이전트의 도구 호출은 여러 단계를 거치며, 이 과정에서 호출 내용이 변경될 수 있습니다. 본 연구는 '의도-실행 일치성(IEC)'을 정의하고, IntAct 프로토콜을 통해 각 단계가 받은 원본 호출과 실제 실행된 동작 간의 불일치를 감지합니다. 이를 통해 에이전트 실패의 주요 원인이 경로 자체에 있음을 밝히고, 상용 제품에서 변경된 호출로 인한 오류를 효과적으로 복구할 수 있음을 입증했습니다.

핵심 포인트

  • LLM 에이전트는 도구 호출 과정에서 내용 변경 위험을 안고 있습니다.
  • IEC(의도-실행 일치성)는 실행 동작과 의도 간의 불일치를 측정하는 핵심 속성입니다.
  • IntAct 프로토콜은 단계별로 원본 호출을 관찰하고, 변경된 호출을 거부하거나 전달합니다.
  • 에이전트 실패의 상당 부분(50% 이상)은 LLM 자체보다 실행 경로 문제에서 기인합니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
2

댓글

0