말을 적게 할수록 환각도 줄어들까? 선호도 최적화된 비전-언어 모델의 객체 커버리지 진단 및 복원
요약
본 논문은 선호도 최적화(PO)가 비전-언어 모델의 객체 환각을 줄이는 효과를 분석하고, 기본 모델이 PO에서 얻은 이득 중 상당 부분을 재현할 수 있음을 발견했습니다. 이에 따라 학습 없이 고신뢰도의 기본 모델 전용 카테고리를 추가하는 '기본 모델 기반 객체 카테고리 복원' 방법을 제안합니다.
핵심 포인트
- PO를 통한 객체 커버리지 이득은 EOS 로짓 편향만으로도 기본 모델이 상당 부분 재현 가능함.
- 단순히 텍스트 길이를 늘리는 것만으로는 놓친 객체 카테고리가 복원되지 않음.
- '기본 모델 기반 객체 카테고리 복원'은 환각률을 낮추는 효과를 보임.
- 제안된 방법론은 기본 모델의 리콜 수준 내에서 성능 향상을 유지함.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기