REPOT: 체크포인트 수리를 통한 복구 가능한 사고 프로그램 (Recoverable Program-of-Thought)
요약
RePoT는 Program-of-Thought(PoT)의 실행 오류를 해결하기 위해 체크포인트 기반의 복구 메커니즘을 제안합니다. 첫 번째 무효한 동작 발생 시 검증된 접두사부터 재개하여 단 한 번의 추가 호출로 높은 복구 성능을 달성합니다.
핵심 포인트
- PoT의 단일 오류로 인한 전체 궤적 무효화 문제 해결
- 검증된 접두사(verified prefix)를 활용한 결정론적 재생 방식
- Gemini 및 주요 모델에서 PoT 대비 성능 대폭 향상
- 오류 피드백보다 체크포인트 정보가 복구의 핵심 신호임 확인
One-shot Program-of-Thought (PoT)는 원시 동작 계획 (primitive-action plan)을 출력하는 Python 프로그램을 생성하지만, 단 하나의 잘못된 동작만으로도 전체 궤적 (trajectory)이 조용히 무효화됩니다. 우리는 RePoT (Recoverable PoT)를 소개합니다. 이는 환경을 통해 계획을 첫 번째 무효한 전이 (invalid transition)까지 실행하는 결정론적 검증 재생 (deterministic verified replay) 방식이며, 그 후 검증된 접두사 (verified prefix)로부터 재개하는 단 한 번의 LLM 호출을 수행합니다. RePoT는 PoT가 실패하는 약 14%의 문제에 대해 최대 한 번의 추가 LLM 호출 비용만 발생합니다. RePoT는 PuzzleZoo-775의 네 가지 폐쇄형 모델 (closed-model) 구성에서 PoT보다 +3에서 +11pp 더 높은 성능을 보였으며, gpt-5.4-mini-medium에서는 86.3% 대비 96.9%로 정점을 찍었습니다. 예산이 동일한 PoT-retry 베이스라인과 비교했을 때, RePoT는 Gemini에서 결정적인 승리를 거두었으며 (+3.8pp, 95% CI [+2.2, +5.4]), GPT-medium 및 Claude에서는 샘플링 노이즈 (sampling noise) 범위 내에 있었고, GPT-mini에서는 패배했습니다. 이는 우리가 Adaptive RePoT를 통해 해결하기 시작한 능력 확장 (capability-scaling) 패턴입니다. Adaptive RePoT는 검증된 접두사 길이 (verified-prefix length)에 따라 접미사 수리 (suffix repair)와 새로운 PoT 재시도 (retry) 사이를 라우팅하는 규칙 기반 디스패처 (rule-based dispatcher)입니다 (예비 단계). 우리는 PlanBench Blocksworld (+1.1에서 +11.4pp)와 네 가지 오픈 웨이트 (open-weights) 모델 (네 개 중 세 개에서 +3.3에서 +20.0pp)에서 이를 재현했습니다. 우리의 통제된 복구 벤치마크인 Derail-550에서, 체크포인트 정보 (checkpoint information)에 접근할 수 있는 모든 조건은 GPT-medium에서 30% 이상, Gemini에서 70% 이상을 통과한 반면, 오류 전용 피드백 (error-only feedback)은 3.1% 이하를 기록했습니다. 이는 특정 검증된 접두사 꼬리 (verified-prefix tail)가 아니라 체크포인트 정보가 복구의 핵심 신호 (load-bearing recovery signal)임을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기