NeSy-RAG: 설명 가능한 질의응답을 위한 신경-기호학적 RAG (Neuro-Symbolic RAG)
요약
NeSy-RAG는 RAG의 불투명한 추론 과정을 개선하기 위해 신경-기호학적(Neuro-Symbolic) 방식을 도입한 프레임워크입니다. 검색된 텍스트를 Prolog 모듈로 합성하여 추론 과정을 투명하게 공개하고, 누락된 사용자 정보를 감지하는 메커니즘을 제공합니다.
핵심 포인트
- Prolog 모듈 합성을 통한 설명 가능한 추론 과정 제공
- 기호적 지식 격차 감지를 통한 사용자 문맥 누락 해결
- 실행 추적을 통해 각 추론 단계를 근거 소스와 연결
- ShARC 벤치마크에서 기존 RAG 대비 높은 정확도 달성
검색 증강 생성 (Retrieval-augmented generation, RAG)은 대규모 언어 모델 (Large Language Models, LLMs)을 텍스트 코퍼스와 같은 외부 지식에 기반하게 함으로써 질의응답 성능을 향상시킵니다. 그러나 RAG의 추론 과정은 여전히 상당 부분 불투명합니다. 즉, 중간 추론 단계는 검증하기 어렵고 특정 증거에 안정적으로 귀속시킬 수 없습니다. 또한, 사용자 특화 문맥 (user-specific context)의 누락을 체계적으로 감지하는 경우가 드물어, 종종 불완전하거나 부정확한 출력을 초래합니다. 우리는 검색된 텍스트 청크 (text chunks)로부터 귀속 가능한 Prolog 모듈을 합성하는 모듈형 신경-기호학적 (neuro-symbolic) RAG 프레임워크인 NeSy-RAG를 제안합니다. 각 청크에 대해, 시스템은 사용자 사실 (user facts)에 의존할 수 있는 불리언 주장 (Boolean claims)을 인코딩하는 의미론적으로 유의미한 술어 (predicates)를 생성합니다. 결합된 자연어-코드 임베딩 (joint natural language-code embeddings)을 사용하여, 술어들을 검색하고 이를 Prolog 쿼리로 구성합니다. 불완전한 사용자 문맥 문제를 해결하기 위해, 우리는 쿼리 결과에 영향을 미치는 누락된 사용자 사실을 식별하고 후속 상호작용을 자동으로 트리거하는 기호적 지식 격차 감지 (symbolic knowledge-gap detection) 메커니즘을 도입합니다. 결과로 생성된 Prolog 쿼리를 실행하면, 각 추론 단계를 기원 소스(originating source)와 연결하는 투명한 실행 추적 (execution traces)과 함께 결정론적인 답변을 얻을 수 있습니다. ShARC 벤치마크에서 NeSy-RAG는 도메인 특화 학습 없이도 61.1%의 정확도를 달성하였으며, 이는 42.8%의 정확도를 기록한 동일 모델 RAG 베이스라인을 능가하는 수치입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기