외부 서브그래프 생성을 통한 LLM의 단계적 추론 프레임워크 SGR

대규모 언어 모델 (LLMs)은 번역, 텍스트 생성, 질의응답과 같은 다양한 자연어 처리 (NLP) 애플리케이션에서 강력한 능력을 입증해 왔습니다. 그럼에도 불구하고, 깊은 추론과 논리적 추론 (logical inference)을 요구하는 복잡한 환경에서는 여전히 한계가 있습니다. 이러한 모델들은 대규모 텍스트 코퍼스 (text corpora)를 기반으로 학습되기 때문에, 생성 과정에서 무관하거나 노이즈가 섞인, 또는 사실과 일치하지 않는 콘텐츠를 도입할 수 있습니다. 이 문제를 완화하기 위해, 우리는 외부 서브그래프 (subgraph) 생성을 통해 LLM의 추론을 강화하는 단계적 프레임워크인 SGR을 소개합니다. SGR은 외부 지식 베이스 (knowledge bases)로부터 질의에 특화된 서브그래프를 구축하고, 그 의미론적 구조 (semantic structure)를 사용하여 다단계 추론 (multi-step inference)을 지원합니다. 중간 추론 단계를 구조화된 외부 지식에 근거하게 함으로써, 이 프레임워크는 모델이 관련 엔티티 (entities), 관계 (relations), 그리고 뒷받침하는 증거에 집중할 수 있도록 돕습니다. 특히, SGR은 먼저 입력된 질문에 맞춤화된 서브그래프를 구축합니다. 그런 다음 생성된 구조를 바탕으로 모델이 점진적으로 추론하도록 유도하며, 여러 추론 경로 (reasoning trajectories)를 결합하여 최종 예측을 얻습니다. 여러 벤치마크 데이터셋에 대한 실험 결과에 따르면, SGR은 경쟁력 있는 베이스라인 (baselines) 대비 일관된 개선을 달성하였으며, 이는 추론 정확도와 사실적 신뢰성을 모두 향상시키는 데 있어 SGR의 가치를 입증합니다.