RSF-GLLM: 순환 소프트 흐름을 통한 다단계 지식 그래프 QA의 의미론적 격차 해소
요약
본 논문은 지식 그래프 기반 다단계 QA에서 발생하는 의미론적 격차 문제를 해결하기 위해 RSF-GLLM 프레임워크를 제안합니다. 이 모델은 순환 소프트 흐름(RSF) 모듈을 사용하여 연속적인 관련성 점수를 전파하고, 동적 게이팅 메커니즘으로 구조적 단서를 탐색합니다. 이를 통해 LLM 기반의 계산 비용 높은 방식 대비 우수한 성능과 추론 효율성을 입증했습니다.
핵심 포인트
- 지식 그래프 QA의 의미론적 격차 문제를 해결하는 프레임워크 제안
- RSF-GLLM은 순환 소프트 흐름(Recurrent Soft-Flow)을 사용해 관련성 점수를 전파함
- 동적 게이팅 메커니즘으로 구조적 단서를 활용하여 브릿지 노드를 탐색
- 소프트 확률에서 이산 추론 경로로의 수렴을 이론적으로 보장함
지식 그래프(Knowledge Graph) 기반의 다단계 질문 답변(Multi-hop Question Answering)은 중요한 난제에 직면해 있습니다. 기존의 검색 후 읽기(retrieve-then-read) 파이프라인은 미분 가능성(differentiability)을 깨뜨려, 중간 노드가 쿼리(query)와 어휘적 중첩(lexical overlap)이 부족한 의미론적 격차를 해소하는 방법을 리트리버(retriever)가 학습하는 것을 방해합니다. 이를 해결하기 위해, 우리는 미분 가능한 그래프 추론을 답변 생성으로부터 분리하는 프레임워크인 RSF-GLLM을 제안합니다. 우리의 순환 소프트 흐름(Recurrent Soft-Flow, RSF) 모듈은 GRU 기반의 쿼리 업데이트기(query updater)를 사용하여 연속적인 관련성 점수(continuous relevance scores)를 전파하며, 동적 게이팅 메커니즘(dynamic gating mechanism)을 활용하여 구조적 단서(structural cues)를 통해 의미론적으로 다른 브릿지 노드(bridge nodes)를 탐색합니다. 우리는 흐름 희소 정규화(flow sparsity regularization)를 도입하여 소프트 확률(soft probabilities)에서 이산 추론 경로(discrete reasoning paths)로의 수렴을 이론적으로 보장합니다. 이러한 경로는 추출되어 텍스트화되고 대규모 언어 모델(Large Language Model, LLM)을 미세 조정하는 데 사용되어, 생성된 답변이 사실적 토폴로지(factual topology)에 기반하도록 보장합니다. WebQSP와 CWQ에서의 실험 결과는 RSF-GLLM이 LLM 기반의 계산 비용이 많이 드는 접근 방식 대비 경쟁력 있는 성능과 우수한 추론 효율성을 달성함을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기