방법론 이전에 무엇을 해결할지 파악하기: Preplan 기반의 LLM 수학적 추론
요약
LLM의 수학적 추론 성능을 높이기 위해 '무엇을 해결할 것인가'를 명시적으로 파악하는 Preplan 단계를 도입한 PPC 프레임워크를 제안합니다. 합성 데이터 파이프라인과 복합 GRPO 보상 설계를 통해 기존 계획 기반 추론의 한계를 극복했습니다.
핵심 포인트
- 질문-Preplan-계획-CoT로 이어지는 새로운 PPC 패러다임 제안
- 문제 유형 인식 및 도구 파악을 위한 명시적 Preplan 단계 도입
- 데이터 무결성을 위한 스포일러 점수 탐지기 및 3단계 합성 파이프라인 설계
- 복합 GRPO 보상을 통해 Preplan과 계획 간의 논리적 연결 강제
- 수학적 추론 벤치마크에서 기존 베이스라인 대비 유의미한 성능 향상 달성
현재의 계획 기반 추론 (plan-based reasoning) 방식은 실행 전 계획 단계를 삽입함으로써 대규모 언어 모델 (LLMs)의 성능을 향상시키며, 이는 질문 $\rightarrow$ 계획 $\rightarrow$ 사고의 사슬 (CoT) 패러다임을 탄생시켰습니다. 이러한 방식은 효과적이지만, 면밀히 검토해 보면 본질적인 패러다임 수준의 격차가 존재함을 알 수 있습니다. 즉, 계획 단계와 실행 단계 모두 문제를 '어떻게' 해결할지를 결정하는 반면, 문제 유형을 인식하고, 적용 가능한 도구를 파악하며, 예상되는 함정을 인지하는 '무엇을' 해결할 것인가에 대한 선행 질문은 완전히 암묵적인 상태로 남아 있습니다.
이 격차를 해소하기 위해, 우리는 명시적인 문제 이해 단계인 'preplan'을 도입하여 새로운 질문 $\rightarrow$ preplan $\rightarrow$ 계획 $\rightarrow$ 사고의 사슬 (CoT) 패러다임을 생성하는 프레임워크인 PPC (Preplan-Plan-CoT)를 제안합니다. 이 패러다임을 구현하기 위해서는 양 끝단에서 preplan의 개념적 무결성을 보호해야 합니다. 구체적으로, 우리는 누출(leakage)과 스포일러 실패(spoiler failures)를 걸러내어 깨끗한 preplan 감독(supervision) 데이터를 구축하는 스포일러 점수 탐지기 (spoiler-score detector)가 포함된 3단계 합성 파이프라인을 설계하였으며, 생성된 계획이 preplan으로부터 진정으로 도출되도록 강제하는 복합 GRPO 보상 (composite GRPO reward)을 설계했습니다.
4개의 백본 (backbones)과 5개의 수학적 추론 벤치마크를 통한 실험 결과, PPC는 추가적인 추론 토큰 오버헤드 없이 가장 강력한 베이스라인 대비 maj@16과 pass@16을 각각 +2.23 및 +3.06 개선하며 40개의 지표 중 39개에서 최고의 결과를 달성했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기