숨겨진 표현 스티어링(Steering) 및 희소 오토인코더(SAE)를 통한 Whisper의 환각(Hallucination) 탐지 및 완화

요약

Whisper 모델의 환각 현상을 탐지하고 완화하기 위해 내부 표현과 희소 오토인코더(SAE)를 활용하는 연구를 소개합니다. SAE 기반 스티어링 전략을 통해 음성 인식 성능 저하를 최소화하면서도 환각 발생률을 획기적으로 낮추는 성과를 거두었습니다.

핵심 포인트

• Whisper의 오디오 인코더 활성화 값에서 환각 정보 추출 가능
• SAE 잠재 변수가 환각 탐지에 있어 높은 판별력을 가짐
• SAE 기반 스티어링으로 Whisper large-v3 환각률 86.88%에서 27.33%로 감소
• 미세 조정(Fine-tuning) 방식과 유사한 수준의 성능 유지