PyraMathBench: 대규모 언어 모델(LLMs)의 수학적 능력 평가 및 개선

다양한 애플리케이션 전반에서 대규모 언어 모델(LLMs)의 수학적 능력의 초석으로서 수치적 추론(numerical reasoning)이 갖는 중추적인 역할에도 불구하고, 수치 처리(numerical processing)와 수학적 추론(mathematical reasoning)을 통합하여 LLM을 평가하는 벤치마크는 거의 없으며, 이는 수학 작업에서의 실패에 대한 해석 가능성(interpretability)을 저해합니다. 우리는 7,404개의 수학 문장제 문제(math word problems)에서 파생된 32,505개의 질문을 포함하며, 4개의 핵심 인지 측면(cognitive aspects), 14개의 하위 범주(subcategories), 그리고 2개의 양식(modalities)을 아우르는 포괄적인 계층적 벤치마크인 PyraMathBench를 소개합니다. 실험 결과, LLM의 성능은 부적절한 수치 계산(numerical computation)과 추상적인 수치 질문에 대한 취약한 처리 능력으로 인해 심각하게 저하되는 것으로 나타났습니다. 이를 해결하기 위해, 우리는 효율적인 도구 호출(tool calls)(퍼지 매칭(fuzzy matching) 및 저품질 호출 거부(low-quality call rejection))을 통해 LLM의 수치-수학적 시너지(numerical-mathematical synergy)를 강화하는 Smart Optimization & Learning-based VErsatile 모듈(SOLVE)과 Interactive Relative Policy Optimization (IRPO)를 제안합니다. 비교 실험을 통해 Qwen-2.5가 SOLVE 및 IRPO 학습을 통해 5.0점의 점수 향상을 달성함을 보여줍니다.