XGRAG: 지식 그래프 기반 검색 증강 생성 (KG-based Retrieval-Augmented Generation) 을 설명하기 위한 그래프 네이티브 프레임워크

그래프 기반 검색 증강 생성 (Graph-based Retrieval-Augmented Generation, GraphRAG) 은 지식 그래프 (KGs) 를 활용하여 대규모 언어 모델 (LLMs) 에 구조화되고 의미론적으로 일관된 컨텍스트를 제공함으로써 더 견고한 답변을 도출하는 기존 RAG 의 확장입니다. 그러나 GraphRAG 의 추론 과정은 여전히 블랙박스 상태로 남아 있어, 특정 구조화된 지식 조각이 최종 출력에 어떻게 영향을 미치는지 이해하는 데 한계를 둡니다. 텍스트 기반 검색을 위해 설계된 기존 RAG 시스템의 설명 가능성 (XAI) 방법은 지식 구성 요소 간의 관계적 구조를 통해 LLM 응답을 해석하는 데만 제한되어 있어 투명성과 신뢰성 측면에서 결정적인 공백을 만듭니다. 이를 해결하기 위해 우리는 그래프 기반 교란 전략 (graph-based perturbation strategies) 을 활용하여 개별 그래프 구성 요소가 모델 답변에 기여하는 정도를 정량화함으로써 GraphRAG 시스템에 대해 인과적으로 근거된 설명을 생성하는 새로운 프레임워크인 XGRAG 를 제안합니다. 우리는 XGRAG 를 표준 RAG 의 XAI 베이스라인인 RAG-Ex 와 비교하는 광범위한 실험을 수행하며, 다양한 질문 유형, 서사 구조 및 LLM 에서의 강건성을 평가했습니다. 우리의 결과는 F1 점수 (생성된 설명과 원래 답변 간의 정렬도를 측정) 로 평가했을 때, XGRAG 가 베이스라인 RAG-Ex 대비 NarrativeQA, FairyTaleQA, TriviaQA 에서 설명 품질을 14.81% 향상시켰음을 보여줍니다. 또한, XGRAG 의 설명은 그래프 중심성 측정치 (graph centrality measures) 와 강한 상관관계를 보임으로써 그래프 구조를 포착하는 능력을 입증합니다. XGRAG 는 RAG 시스템의 해석 가능성을 향상시키는 투명한 그래프 기반 설명을 통해 신뢰할 수 있는 AI 로 가는 확장 가능하고 일반화 가능한 접근법을 제공합니다.