RADD: 다중 모드 지식 그래프 완성 위한 검색 증강 이산 확산

요약

본 논문은 다중 모드 지식 그래프 완성(MMKGC) 모델에서 발생하는 검색과 의사결정 과정의 병목 현상을 해결하기 위해 RADD(Retrieval-Augmented Discrete Diffusion) 프레임워크를 제안합니다. 기존 방식이 단일 임베딩 스코어로 전역 검색과 로컬 세밀화 작업을 결합하는 한계를 지적하며, RADD는 이 두 과정을 분리하여 성능을 향상시킵니다. 구체적으로 관계 인식 리트리버가 후보군(쇼트리스트)을 생성하고, 조건부 확산 모델이 이를 재순위화하여 정밀도와 검색 능력을 모두 극대화합니다.

핵심 포인트

• MMKGC의 핵심 병목 현상: 전역 검색과 로컬 세밀화는 서로 다른 유도 편향을 요구하므로 분리가 필요함.
• RADD 프레임워크 제안: 검색(Retrieve) 단계와 재순위화(Rerank) 단계를 명확히 분리하여 모델의 성능을 개선함.
• 구성 요소 역할: 관계 인식 다중 모드 KGE 리트리버가 전역 후보군을 생성하고, 조건부 이산 노이즈 제거기가 쇼트리스트를 정교하게 재순위화함.
• 학습 및 추론 과정: KGE 지도 신호와 확산 모델의 크로스 엔트로피 손실, 그리고 지식 증류(Knowledge Distillation)를 결합하여 학습하며, 추론 시에는 리트리버 $ ightarrow$ 노이즈 제거기 순서로 작동함.
• 성능 입증: 세 가지 MMKGC 벤치마크에서 기존 및 최신 베이스라인 대비 가장 우수한 성능을 달성했음을 실험적으로 입증함.