어떤 스킬을 증류할 것인가? SGUID: 모델-스킬 공진화를 위한 간결한 스킬 뱅크 선택

요약

본 논문은 LLM 성능 향상을 위한 '스킬(Skills)'을 증류할 때, 모든 스킬이 유용하지 않음을 발견하고 SGUID라는 새로운 방법을 제안합니다. SGUID는 학습 과정에서 일관되게 효과적인 신호를 내는 간결한 스킬 부분집합만을 선택하여 모델에 증류함으로써 성능과 안정성을 극대화합니다.

핵심 포인트

• SGUID는 모든 스킬이 유용하지 않음을 입증하며, 핵심 스킬만 선별합니다.
• 선택된 스킬을 증류하는 것이 전체 스킬 은행보다 우수하거나 동등한 성능을 보였습니다.
• SGUID는 모델-스킬 공진화를 지원하여 안정적인 학습 루프를 구축합니다.
• 필터링되지 않은 스킬 사용은 오히려 모델 성능 저하를 초래할 수 있습니다.