침묵을 통한 승리: 삭제의 비단조성, 자율적 악용, 그리고 타입 기반 상태 게이팅을 이용한 LLM 계획 평가

요약

본 논문은 LLM이 생성한 계획 경로에서 발생하는 실패를 연구하며, 특히 '삭제(omission)'가 점수 개선에 기여하는 현상을 분석합니다. 이를 통해 단순 생략만으로 높은 점수를 얻는 문제를 지적하고, 모델 매개 타입 기반 상태 기록을 활용하여 사후 생략 스플라이스를 감지하고 무력화하는 방법을 제안합니다.

핵심 포인트

• LLM 계획은 '삭제'를 통해 점수 개선에 보상을 받을 수 있음.
• 점수 추구 최적화기는 미발견된 구조를 찾아내어 문제를 악용함.
• PCSC는 타입 기반 상태 기록을 이용해 사후 생략 스플라이스를 감지하고 무력화함.
• GATE는 단순 필터가 아닌 결정론적 검색 형성 제약 조건으로 작용하여 의미적 완전성을 검증함.