본문으로 건너뛰기
arXiv논문2026. 11. 19. 23:24
말을 적게 할수록 환각도 줄어들까? 선호도 최적화된 비전-언어 모델의 객체 커버리지 진단 및 복원 대표 이미지

말을 적게 할수록 환각도 줄어들까? 선호도 최적화된 비전-언어 모델의 객체 커버리지 진단 및 복원

원문 발행 2026. 11. 18. 03:24원문 언어 영어AI 한국어 번역arXiv cs.AI 원문 보기

요약

본 논문은 선호도 최적화(PO)가 비전-언어 모델의 객체 환각을 줄이는 효과를 분석하고, 기본 모델이 PO에서 얻은 이득 중 상당 부분을 재현할 수 있음을 발견했습니다. 이에 따라 학습 없이 고신뢰도의 기본 모델 전용 카테고리를 추가하는 '기본 모델 기반 객체 카테고리 복원' 방법을 제안합니다.

핵심 포인트

  • PO를 통한 객체 커버리지 이득은 EOS 로짓 편향만으로도 기본 모델이 상당 부분 재현 가능함.
  • 단순히 텍스트 길이를 늘리는 것만으로는 놓친 객체 카테고리가 복원되지 않음.
  • '기본 모델 기반 객체 카테고리 복원'은 환각률을 낮추는 효과를 보임.
  • 제안된 방법론은 기본 모델의 리콜 수준 내에서 성능 향상을 유지함.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0