Groc-PO: 진실성 있는 멀티모달 LLM을 위한 근거 기반 컨텍스트 선호도 최적화
요약
본 논문은 MLLMs의 진실성 부족 문제를 해결하기 위한 새로운 프레임워크 Groc-PO를 제안합니다. 기존 DPO는 최종 답변 수준에서 선호도 최적화를 적용하여 초기 근거 단계의 오류 전파를 막기 어렵다는 한계가 있었습니다. Groc-PO는 객체, 컨텍스트, 추론 등 다단계 근거 단계를 명시적으로 지도하여 신뢰성 있는 멀티모달 추론을 강화합니다.
핵심 포인트
- Groc-PO: MLLMs의 진실성을 높이는 근거 기반 선호도 최적화 프레임워크.
- 기존 DPO는 최종 답변에만 초점을 맞춰 초기 오류 전파를 막기 어려움.
- GCPD 구축을 통해 객체, 컨텍스트 등 다단계 근거 데이터를 제공함.
- Groc-PO가 환각 완화 및 추론 신뢰성 측면에서 우수한 성능을 보임.
멀티모달 대규모 언어 모델(MLLMs)이 빠르게 발전하고 있음에도 불구하고, 시각적 환각(visual hallucinations), 내용 조작(content fabrication), 신뢰할 수 없는 추론 등 진실성 부족 문제로 인해 여전히 어려움을 겪고 있으며, 이는 모델의 충실도와 실용적 유틸리티를 크게 저해합니다. Direct Preference Optimization (DPO)과 같은 인간 선호도 기반 정렬 방법들이 이러한 문제를 해결하기 위해 광범위하게 채택되었습니다. 하지만 멀티모달 추론 오류는 종종 여러 단계를 거쳐 전파되며, 최종 답변 오류는 초기 근거(grounding) 단계의 실수에서 기인하는 경우가 많습니다. 그럼에도 불구하고 표준 DPO는 일반적으로 최종 답변 수준에서 선호도 최적화를 적용합니다. 이러한 신용 할당(credit-assignment) 문제는 초기 근거 단계에 대한 지도 학습이 단계별(stage-specific)이기보다는 간접적이어서, 근거 표류(grounding drift)와 컨텍스트 불일치로 인해 발생하는 오류 전파를 억제하기 어렵게 만듭니다. 이를 해결하기 위해, 우리는 MLLMs를 위한 근거 기반 선호도 최적화 프레임워크인 Grounded Context Preference Optimization (Groc-PO)를 제안합니다. 나아가, 객체 근거(Object Grounding), 컨텍스트 근거(Contextual Grounding), 그리고 근거 추론(Grounded Reasoning)의 세 단계를 중심으로 다단계 선호도 샘플을 구성한 Grounded Context Preference Dataset (GCPD)를 구축했습니다. 이는 근거 기반 컨텍스트의 형성, 통합, 활용을 포착하기 위함입니다. 여러 근거 단계에 걸쳐 보다 명시적인 선호도 지도를 도입함으로써, Groc-PO는 컨텍스트 의존적 추론을 강화하고 단계 간 오류 전파를 완화합니다. 광범위한 실험 결과는 표준 DPO 및 다른 강력한 기준선(baselines)과 비교했을 때, Groc-PO가 환각 완화, 충실한 추론, 그리고 전반적인 신뢰성 측면에서 개선된 성능을 달성함을 보여주며, 이는 신뢰할 수 있는 멀티모달 추론을 위해 보다 명시적인 근거 기반 지도가 가치 있음을 뒷받침합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기