Goal-Autopilot: 무인 장기 계획 에이전트를 위한 검증 가능한 조작 방지 방화벽

요약

무인 상태로 실행되는 장기 계획 LLM 에이전트의 신뢰성 문제를 해결하기 위한 'Autopilot' 실행 모델을 제안합니다. 에이전트가 검증되지 않은 성공을 허위로 보고하는 것을 방지하기 위해 유한 상태 머신(FSM)을 활용하여 작업 상태를 구조적으로 관리합니다.

핵심 포인트

• 무인 자율 에이전트의 정직성(Honesty)을 핵심 지표로 정의
• 작업 상태를 게이트가 있는 유한 상태 머신(FSM)으로 외부화
• 검증된 게이트 통과 없이는 성공 보고가 불가능한 구조 설계
• 에이전트의 허위 성공 보고를 구조적으로 차단하는 방화벽 역할