MindForge: 소스 프리 프로그램 합성(Source-Free Program Synthesis)을 통한 소형 언어 모델(SLM)의

요약

MindForge는 소스 코드 없이 컴파일된 실행 파일과 문서만으로 학습 환경을 구축하는 자동화 파이프라인입니다. 이를 통해 고품질의 프로그램 합성 데이터를 생성하여 소형 언어 모델(SLM)을 미세 조정함으로써, 대규모 모델에 필적하는 소프트웨어 엔지니어링 성능을 달성했습니다.

핵심 포인트

• 소스 프리 환경을 통한 확장 가능한 학습 데이터 생성 파이프라인 구축
• GLM-5.2를 교사 에이전트로 활용한 고품질 프로그램 합성 궤적 큐레이션
• Qwen3.6-27B 미세 조정을 통해 ProgramBench 통과율을 49.51%로 향상
• SWE-bench 등 다양한 소프트웨어 엔지니어링 벤치마크에서 일관된 성능 개선