토큰 예산 포화 및 Chain-of-Thought 모델의 추론 비수렴에 대한 기계론적 조기 탐지
요약
CoT 추론 모델의 토큰 예산 소진에 따른 수렴 및 비수렴 현상을 분석하고, 모델 내부의 은닉 상태 활성화를 통해 이를 조기에 탐지할 수 있음을 입증했습니다. 연구 결과, 사고 체인 초기의 중간 표현이 최종 수렴 여부를 예측하는 데 유효함을 확인했습니다.
핵심 포인트
- CoT 모델의 수렴 여부에 따른 성능 격차(90.3% vs 6.6%) 확인
- 토큰 50-300 구간의 은닉 상태로 수렴 여부 조기 탐지 가능
- 선형 프로브가 행동 기반 베이스라인보다 우수한 탐지 성능 기록
- 조기 종료 추론 및 적응형 연산 할당 연구의 가능성 제시
DeepSeek-R1-Distill-Qwen-7B와 같은 Chain-of-thought (CoT) 추론 모델은 이봉형 수렴 패턴 (bimodal convergence pattern)을 보입니다. 즉, 생성 과정이 토큰 예산 (token budget) 내에서 종료되거나 (수렴), 결론에 도달하지 못한 채 예산을 모두 소진합니다 (비수렴). 우리는 이러한 현상을 경험적으로 규명하였으며, 수렴된 생성물은 AIME 1983-2024에서 90.3%의 정확도를 달성한 반면, 비수렴된 생성물은 6.6%의 정확도만을 기록했으며, 전체 수렴률은 62.0%로 나타났습니다. 이어 우리는 모델의 내부 표현 (internal model representations)을 사용하여 이러한 결과가 사고 체인 (thinking chain)의 초기에 탐지 가능한지 질문을 던졌습니다. 토큰 위치 50-300에서의 은닉 상태 활성화 (hidden-state activations)에 대해 선형 프로브 (linear probes)를 학습시킨 결과, 토큰 150에서의 레이어-20 활성화가 AUC 0.608 (+-0.080, 5-fold CV)을 달성하였으며, 이는 토큰 50 시점에서도 우연 수준을 안정적으로 상회함을 확인했습니다. 활성화 프로브 (Activation probes)는 토큰 엔트로피 (token entropy) 및 반복 통계 (repetition statistics)에서 유도된 행동 기반 베이스라인 (behavioral baselines)보다 일관되게 우수한 성능을 보였습니다. 스윕 수준 순열 검정 (sweep-level permutation test) 결과 p=0.063 (100,000 permutations)이 도출되었으며, 이는 우리의 샘플 크기가 전통적인 임계값에서 확정할 수 없는 완만한 신호와 일치합니다. 이러한 발견은 수렴 여부가 생성이 끝나기 훨씬 전의 중간 표현 (intermediate representations)에 부분적으로 인코딩되어 있음을 시사하며, 조기 종료 추론 (early-exit inference) 및 적응형 연산 할당 (adaptive compute allocation)을 향한 경로를 제시합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기