Nemotron-3-Super 기반 수학 추론 LLM 공개: AIME 2026에서 90%+ 성능 달성

요약

본 게시물은 NVIDIA의 Nemotron-3-Super-120B 모델을 기반으로 수학 추론 능력을 극대화한 경량화 LLM 버전을 공개합니다. 이 모델은 REAP(pruning) 기법을 통해 전문가 수를 512개에서 256개로 줄이고, AIMO3 및 AstralMath 문제에 GRPO (Guided Reinforcement Policy Optimization)를 적용하여 파인튜닝되었습니다. 최종적으로 AWQ 또는 FP8 양자화를 거쳐 메모리 효율성을 높였으며, 그 결과 단일 H100/RTX PRO 6000 Blackwell GPU로

핵심 포인트

• Nemotron-3-Super-120B를 기반으로 전문가 수를 512개에서 256개로 줄인 REAP(pruning) 모델을 공개했습니다.
• AIMO3 및 AstralMath 문제에 GRPO (Guided Reinforcement Policy Optimization) 파인튜닝을 적용하여 수학 추론 능력을 강화했습니다.
• 최종 경량화 모델은 AWQ 또는 FP8 양자화를 통해 각각 43GB, 72GB VRAM으로 메모리 효율성을 확보했으며, 단일 H100/RTX PRO 6000 Blackwell에서 구동 가능합니다.
• AIME 2026 벤치마크 결과, FP8 버전이 평균 정답률(avg@4) 0.9167, 통과율(pass@4) 0.9667을 기록하며 기존 120B 모델 대비 우수한 성능을 보였습니다.