HKVM-RAG: 멀티홉 RAG를 위한 키-값 분리형 하이퍼그래프 증거 조직화

멀티홉 RAG (Multi-hop RAG)는 단순한 구절 매칭을 넘어선 데이터 엔지니어링 문제를 제기합니다. 즉, 고정된 검색 예산 내에서 시스템은 검색된 텍스트를 정답 체인을 드러내는 증거 단위로 조직화해야 합니다. 밀집 검색기 (Dense retrievers)는 구절을 독립적으로 점수화하는 반면, 그래프 기반 메모리는 연관 관계를 명시적으로 만들지만, 멀티홉 증거를 파편화하는 쌍(pairwise) 또는 엔티티 중심의 키 (entity-centered keys)에 의존하는 경우가 많습니다.

본 논문에서는 키-값 분리형 증거 조직화 계층인 HKVM-RAG를 제안합니다. 이 방식은 캐시된 구절 수준의 LLM 증거 튜플 (evidence tuples)로부터 정답 경로 하이퍼엣지 (answer-path hyperedges)를 조립하여 이를 검색 키 (retrieval keys)로 사용하며, 구절 텍스트는 정답 값 (answer values)으로 유지합니다. 키 공간 (key-space) 설계를 격리하기 위해, 우리의 고정 기질 프로토콜 (fixed-substrate protocol)은 쌍 기반 그래프와 하이퍼그래프 변형 모델 전반에 걸쳐 튜플 캐시, 후보 구절, 리더 (reader), 그리고 평가 예산을 일정하게 유지합니다.

가중치 하이퍼그래프 키-값 검색 (Weighted hypergraph key-value retrieval)은 2WikiMultiHopQA에서 +3.426 F1, MuSiQue에서 +3.592 F1을 기록하며 KG-PPR 대비 성능을 향상시켰습니다. HotpotQA의 결과는 더 높은 구조적 지원 범위 (structured support coverage)가 반드시 단독 정답-F1 (answer-F1) 이득으로 이어지지는 않는다는 것을 보여줍니다. 따라서 우리는 WHG-KV를 밀집 검색 (dense-retrieval)의 대체재가 아닌 증거 제어 신호 (evidence-control signal)로 연구합니다.

오라클 (Oracle) 및 학습-테스트 데이터 분리 (train-to-dev) 분석을 통해 지원 선택 (support selection)이 복구 가능하다는 것을 확인하였으며, 밀집 인지 컨트롤러 (dense-aware controller)는 out-of-fold HKVM 예측을 사용하여 동결된 ColBERTv2와 HKVM 순위/점수 특징을 결합합니다. 이 컨트롤러는 세 가지 벤치마크에서 각각 88.846, 65.073, 85.810 F1을 달성하며, ColBERTv2 대비 +11.084, +6.763, +5.966 F1의 향상을 보였습니다. 소스 수준의 절제 연구 (Source-level ablations)에 따르면, 매칭된 비-WHG 구조적 신호는 WHG-KV의 이득을 따라가지 못했습니다. 이러한 결과는 키-값 분리형 하이퍼그래프 조직화가 멀티홉 RAG를 위한 재사용 가능한 증거 제어 메커니즘으로 기능할 수 있다는 제한적 증거를 제공합니다.