진정한 의도로 포장하다: 의도 인식 학습(Intent-Aware Training)을 통한 다양한 학습 체계에서의 LLM 안전성 분류 성능 향상

요약

사용자의 의도를 모델링하여 LLM 안전성 분류기의 성능을 높이는 '의도 인식 학습(Intent-Aware Training)' 방법론을 제안합니다. 새로운 데이터셋 AIMS를 통해 SFT, DPO, GRPO 등 다양한 학습 체계에서 의도 모델링의 효과를 입증했습니다.

핵심 포인트

• 사용자 의도를 명시적으로 모델링하는 AIMS 데이터셋 도입
• GRPO를 통한 의도 충실도 보상이 가장 강력한 안전성 성능 산출
• 의도 조건부 증류가 기존 추론 전용 증류보다 우수한 성능 기록
• 의도 인식 모델이 추론 지연 시간과 성능 간의 최적 파레토 프런티어 형성