선택하여 사고하기: 지역적 충분성을 통해 SLM 잠재력 해방

요약

본 논문은 소형 언어 모델(SLM)이 대형 언어 모델(LLM)의 추론 능력 격차를 극복하는 새로운 방법인 '지역적 충분성(local sufficiency)'을 제안합니다. 기존 방식들이 외부 LLM 호출이나 표준 지식전달에 의존하여 한계를 겪었던 문제를 해결하기 위해, 이 연구는 LLM의 선택 과정을 SLM이 제시한 후보 순위 내에서의 선택 논리로 재정의하는 'SELECT TO THINK (S2T)' 프레임워크를 도입합니다. 이를 통해 개발된 S2T-LOCAL은 외부 의존성 없이도 자율적인 리랭킹을 수행하며, 벤치마크에서 탐욕적 디코딩 대비 평균 24.1%의 성능 향상을 달성했습니다.

핵심 포인트

• SLM이 LLM의 추론 능력 격차를 해소하기 위해 '지역적 충분성(local sufficiency)' 개념을 활용합니다.
• 기존의 외부 LLM 호출 방식은 지연 시간과 비용 문제가 있어, SLM 기반의 선택 논리 재정의가 필요했습니다.
• 'SELECT TO THINK (S2T)' 프레임워크는 LLM의 역할을 개방형 생성에서 SLM 후보 순위 내에서의 선택으로 단순화합니다.
• S2T-LOCAL은 외부 의존성 없이 자율적인 리랭킹을 수행하며, 탐욕적 디코딩 대비 8 경로 자기 일관성과 유사한 성능 향상(평균 24.1%)을 보였습니다.