2B Non-SFT 모델의 시각적 추론에서 발견된 R1-Zero의 '아하 모먼트 (Aha Moment)'

요약

2B 규모의 Non-SFT 모델에서 R1-Zero 방식의 학습을 통해 시각적 추론 시 '아하 모먼트(Aha Moment)'가 나타나는 현상을 분석합니다. 모델이 스스로 사고 과정을 최적화하며 논리적 도약을 보이는 과정을 다룹니다.

핵심 포인트

• 2B 파라미터 규모의 소형 모델에서도 R1-Zero 효과 확인
• Non-SFT 환경에서의 시각적 추론 능력 발현
• 모델의 사고 과정에서 나타나는 '아하 모먼트' 현상 분석