힌트가 얼마나 중요할까? 일반적인 피드백 라인이 회고적 자기 증류에서 스스로 작성한 비평과 일치함 (ACM ICAIF '26) [R]

요약

본 연구는 GPT-OSS-20B를 활용하여 다단계 금융 추론을 위한 회고적 자기 증류(hindsight self-distillation) 방법을 제시합니다. 학생 모델이 스스로 작성한 비평문보다 고정된 일반 피드백 라인을 사용하는 것이 성능 향상에 더 효과적이었습니다. 이는 회고적 증류 과정에서 필요한 특권 정보가 크게 감소할 수 있음을 시사하는 연구입니다.

핵심 포인트

• 회고적 자기 증류를 금융 추론 문제에 적용함.
• 일반적인 피드백 라인이 자체 비평문보다 성능 향상에 유리함을 입증.
• 비평문을 통한 회고적 증류는 필요한 특권 정보를 감소시킬 수 있음.
• 큰 모델의 상세한 비평문은 실제 성능 개선 효과가 미미함.