Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
StateWise는 LLM 에이전트가 행동을 수행하기 전에 운영 상태를 지속적으로 진단하고 복구하는 프레임워크입니다. 이 시스템은 레코드 수준의 반사실적 재계획과 신뢰성 검사를 통해 의사결정에 중요한 기록의 유효성을 확보합니다. 테스트 결과, StateWise는 지속 상태 손상 상황에서 높은 정확도를 달성하며 안전한 에이전트 행동을 보장했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기LLM 에이전트는 추론(reasoning), 도구 사용(tool use), 그리고 영속적인 메모리를 결합하여 저장된 운영 기록을 나중 행동의 전제 조건으로 재사용함으로써 여러 작업을 지원합니다. 하지만 환경이나 요구사항의 변화는 이러한 기록들을 무효화할 수 있으며, 기존의 행동 검토(action review), 출처 추적(provenance tracking), 그리고 명확화 메커니즘은 근본적인 지속 상태를 수정하지 못한 채로 남겨둘 수 있습니다. 저희가 코딩 에이전트 궤적을 감사한 결과, 무효한 기록들이 재사용되어 작업 실패와 안전하지 않은 수정으로 이어지는 후보 실패 사슬(failure chains)들을 식별했습니다. 이에 저희는 행동 실행 전에 지속적인 운영 상태를 진단하고 복구하기 위한 프레임워크인 StateWise를 제안합니다. StateWise는 레코드 수준의 반사실적 재계획(record-level counterfactual replanning)을 사용하여 의사결정에 중요한 기록들을 식별한 다음, 신뢰성 검사(reliability checks), 기계가 관찰 가능한 사실(machine-observable facts)에 대한 읽기 전용 검증(read-only verification), 그리고 개발자 소유의 의도(developer-owned intent)를 목표로 하는 명확화를 통해 현재 유효성을 확립합니다. Typed evidence grounding은 증거를 특정 기록과 범위에 바인딩하여, 복구 계보(repair lineage)를 가진 지속적인 수정을 가능하게 합니다. 이후 에이전트는 복구된 상태에서 재계획을 수행하고, 실행 전에 독립적인 상태-행동 검사(state-action check)를 거칩니다. 저희는 다양한 런타임 환경, 작업 공간 구성, 그리고 저장소 설정을 아우르는 150개의 실행 가능한 코딩 에이전트 사례에 대해 StateWise를 평가했으며, 모델 간 교차 평가도 병행했습니다. 지속 상태가 손상된 상황에서 StateWise는 전체 정확도 93.3%를 달성하여 기준선(baseline) 에이전트의 38.7%와 비교되었으며, 안전하지 않은 행동은 발생하지 않았습니다. 컴포넌트 제거 실험(Component ablations), 다중 작업 실험(multi-task experiments), 그리고 전이 평가(transfer evaluations)는 효과적인 복구, 지속적 수정, 그리고 저장소 및 도구 인터페이스 간의 전이성을 추가로 입증했습니다.