효과적인 추론을 위한 코드 인터프리터(Code Interpreter)의 외재적 및 내재적 특성 탐구

요약

본 연구는 코드 인터프리터(CI)를 활용한 LLM의 추론 능력을 외재적 특성(핵심 토큰)과 내재적 특성(인지 행동) 관점에서 분석합니다. 연구 결과, 강력한 모델일수록 검증 및 백트래킹과 같은 행동이 빈번하며, 이를 추론과 학습 과정에 활용할 때 성능 향상이 가능함을 입증했습니다.

핵심 포인트

• CI 추론의 핵심인 외재적(토큰) 및 내재적(인지 행동) 특성 규명
• 검증, 백트래킹, 역방향 체이닝이 고성능 모델에서 높은 빈도로 관찰됨
• 핵심 토큰 추가 시 수학 및 최적화 추론 성능 향상
• 인지 행동 증강을 통해 SFT 및 강화 학습 성능 개선 가능
• 오답 시 과도한 생각(overthinking) 감소 및 토큰 효율성 개선