Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Reasoning Core는 수학, 논리, 코드 등 50개의 생성기로 구성된 광범위한 절차적 추론 데이터 컬렉션입니다. 실험 결과, 이 데이터셋을 활용한 학습은 기존 방식보다 DROP, LogiQA 등 주요 벤치마크에서 뛰어난 성능을 보였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기절차적 생성기(Procedural generators)는 대규모로 유용하고 검증 가능한 추론 문제들을 생성하지만, 완성형 지도 미세 조정(completion-supervised fine-tuning)을 위한 데이터로서는 상대적으로 적은 관심을 받아왔습니다. 우리는 수학, 논리, 계획(planning), 상태 추적(state tracking), 형식 언어(formal languages), 구조화된 데이터(structured data), 게임, 인과관계(causality), 그리고 코드에 걸쳐 있는 50개의 생성기로 구성된 컬렉션인 Reasoning Core를 소개합니다. 이 컬렉션은 의미론적 점수 산출기(semantic scorers), 난이도 제어(difficulty controls), 그리고 작업 평가기(task evaluators)를 포함합니다. 일치된 완성형 지도 프로토콜(completion-supervised protocol) 하에서, 우리는 네 가지 기본 모델 설정과 다양한 학습 기간에 걸쳐 Reasoning Core를 Procedural Warmup, Reasoning Gym, 그리고 SynLogic과 비교했습니다. 주요 3B 비교에서 Reasoning Core는 DROP, LogiQA, ARC-Challenge에서 가장 높은 평균 점수를 달성하였으며, 이는 절차적 데이터가 없는 베이스라인과 세 가지 대안적 절차적 컬렉션 모두를 능가하는 수치입니다. 작업 수준의 분석(Task-level analyses) 결과, 의미론적 타당성(semantic validity)만으로는 학습 효용성을 보장할 수 없음을 보여주었으며, 이는 압축된 타겟(compact targets)과 보정된 난이도(calibrated difficulty)가 중요한 설계 요소임을 강조합니다. 우리는 모델 보조 검토(model-assisted review), 인간 판정(human adjudication), 그리고 회귀 테스트(regression testing)를 결합한 감사(audits)를 수행했습니다. Reasoning Core 개발 과정 전반과 다른 컬렉션들에 적용된 이 감사 결과들은 생성(generation), 렌더링(rendering), 타겟(targets), 그리고 점수 산출(scoring) 사이에 미묘한 불일치가 존재함을 드러냈으며, 이는 절차적 생성(procedural generation)만으로는 정확성을 보장할 수 없음을 상기시켜 줍니다. 라이브러리, 생성된 데이터셋, 그리고 감사 자료는 공개적으로 사용할 수 있습니다.