Prefill-Time Intervention for Mitigating Hallucination in Large Vision-Language Models

요약

본 논문은 대형 시공간 언어 모델(LVLMs)의 신뢰성을 저해하는 환각 문제를 해결하기 위해 'Prefill-Time Intervention (PTI)'라는 새로운 패러다임을 제안합니다. 기존 연구들이 디코딩 단계에만 초점을 맞춰 오류 누적을 막지 못했던 한계를 극복하고, 초기 Key-Value(KV) 캐시를 모달리티 인식 방식으로 개선하여 환각의 근원적인 발생 가능성을 수정합니다. PTI는 시각적 객체 기반 키 유도와 배경 노이즈 필터링 값 분리를 통해 뛰어난 성능과 범용성을 입증했습니다.

핵심 포인트

• LVLMs의 주요 문제점은 환각(hallucination)으로 인한 신뢰성 저하이며, 기존 연구는 디코딩 단계에만 집중하여 오류 누적 문제를 해결하지 못했다.
• 제안된 Prefill-Time Intervention (PTI)은 오차가 누적되기 전인 초기 Key-Value 캐시를 개선하는 새로운 스티어링 패러다임이다.
• PTI는 모달리티 인식(modality-aware) 방식으로, 키(keys)는 시각적 객체에 집중시키고 값(values)은 배경 노이즈 필터링을 통해 환각의 근원을 수정한다.
• PTI는 기존 디코딩 단계 방법론과 직교하여 플러그 앤 플레이 통합이 가능하며, 다양한 LVLMs와 벤치마크에서 우수한 일반화 성능을 보인다.