MHSA: Steered Attention을 통해 환각을 완화하는 LVLM을 위한 경량 프레임워크

대규모 시각-언어 모델 (Large vision-language models, LVLMs)은 다양한 멀티모달 (multimodal) 작업에서 놀라운 성능을 달성했지만, 시각적 입력과 일치하지 않는 콘텐츠를 생성하는 환각 (hallucinations) 문제로 인해 여전히 어려움을 겪고 있습니다. 이전 연구인 DHCP (Detecting Hallucinations by Cross-modal Attention Pattern)는 교차 모달 어텐션 (cross-modal attention) 관점에서 환각 탐지를 탐구했으나, 환각 완화 (mitigation) 문제는 다루지 않았습니다. 본 논문에서는 LVLM의 교차 모달 어텐션 패턴을 교정하는 법을 학습함으로써 환각을 완화하는 경량 프레임워크인 MHSA (Mitigating Hallucinations via Steered Attention)를 제안합니다. MHSA는 DHCP 판별기 (discriminator)와 LVLM 자체의 감독 신호 (supervisory signals)에 의해 유도되어, 교정된 어텐션을 생성하도록 단순한 3층 MLP 생성기 (generator)를 학습시킵니다. 추론 (inference) 과정에서 MHSA는 어떠한 LVLM 파라미터도 수정하지 않고, 기존의 교차 모달 어텐션을 교정된 어텐션으로 단순히 교체함으로써 다양한 데이터셋과 LVLM에 걸쳐 판별적 (discriminative) 환각과 생성적 (generative) 환각을 모두 완화합니다. 교차 모달 어텐션 메커니즘을 환각 탐지에서 환각 완화로 확장함으로써, MHSA는 LVLM의 환각 연구에 대한 새로운 관점을 제공하며 모델의 신뢰성을 높이는 데 기여합니다.