Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 추론 과정(CoT)의 토큰 사용량을 줄이면서도 성능 저하가 없는 새로운 디코딩 방법인 DoubtLess를 제안합니다. 이 방법은 작은 모델을 활용하여 큰 모델의 CoT를 간결하게 유도하고, 그 차이를 로짓에 더해 효율성을 높입니다. 벤치마크 테스트 결과, Qwen3-32B의 CoT를 정확도 변화 없이 31% 단축하는 등 뛰어난 성능을 입증했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기추론 모델은 긴 사고 과정(CoT)을 통해 강력한 성능을 달성하지만, 문제를 해결하는 데 필요한 토큰보다 더 많은 토큰을 사용하는 경우가 많습니다. CoT를 단축하기 위한 기존 방법들은 각 모델에 대한 추가 훈련을 요구하거나, 모델의 은닉 상태에 고정된 조향 벡터(steering vector)를 추가하거나, 'wait'와 같은 단어를 금지하는 조기 중단 등의 디코딩 휴리스틱을 사용하는데, 이는 정확도를 떨어뜨릴 수 있습니다. 우리는 DoubtLess라는 훈련 불필요한 디코딩 방법을 제안합니다. 이 방법에서는 훨씬 작은 추론 모델이 큰 모델을 간결함 쪽으로 유도합니다. 작은 모델은 큰 모델의 현재까지의 CoT를 두 번 읽습니다. 한 번은 간결하도록 프롬프트 받고(brief thinker), 다른 한 번은 장황하게 하도록 프롬프트 받은 후, 이 두 로그잇 벡터의 차이를 강도로 스케일링하여 CoT의 매 단계마다 큰 모델의 로짓에 더합니다. 경쟁 수학, 대학원 수준 과학 및 경쟁 프로그래밍의 7가지 벤치마크에서 DoubtLess는 Qwen3-32B의 CoT를 정확도 변화 없이 31% 단축했으며, 다섯 가지 추론 시간 기준선(baseline)을 능가했습니다. 또한, 우리는 DoubtLess가 자기 디버깅 코딩 에이전트에서 라운드당 사고 토큰을 20% 줄이고 작업 성능은 유지한다는 것을 보여줍니다. 이는 두 개의 다른 모델 패밀리에도 정확도 변화 없이 일반화됩니다. 훈련 기반 압축과 결합될 경우, 간결함을 위해 이미 훈련된 모델의 CoT를 추가로 단축합니다. 제거 분석(Ablations) 및 행동 분석에 따르면 DoubtLess는 반복적인 확인을 줄이며, 대부분의 토큰 절약은 올바른 답이 CoT에서 처음 나타난 후에 발생한다는 것을 보여줍니다. 저희 코드는 https://github.com/leoluolol/DoubtLess에서 이용 가능합니다.