요약

본 기사는 기존의 유사도 기반(벡터) RAG가 전문적이고 다단계 추론이 필요한 문서에서 한계를 보이는 문제를 지적하며, '관련성' 확보를 위해 추론 중심적인 새로운 접근법인 추론 기반 RAG(Reasoning-based RAG)를 제안합니다. 이 방법은 AlphaGo의 트리 검색 개념을 차용하여 LLM이 스스로 사고하고 가장 관련성 높은 문서 섹션으로 도달하도록 돕습니다. 핵심 구성 요소로, 긴 문서를 계층적 트리 구조로 조직화하는 오픈 소스 인덱싱 시스템인 PageIndex를 공개하며, 이를 통해 재무 문서 분석 등에서 기존 벡터 기반 시스템 대비 검색 정확도의 상당한 개선을 입증했습니다.

핵심 포인트

• 기존의 벡터 기반 RAG는 전문적이고 다단계 추론이 필요한 문서에서 관련성 확보에 어려움을 겪는다.
• 추론 기반 RAG(Reasoning-based RAG)는 LLM이 스스로 사고하고 구조화된 검색을 수행하도록 하여 '관련성'을 높인다.
• PageIndex는 긴 문서를 계층적 트리 구조로 조직하는 인덱싱 시스템으로, 추론 기반 RAG의 핵심 구성 요소이다.
• PageIndex는 문서 섹션과 정렬된 자연스러운 분할(Natural Segmentation) 및 정확한 페이지 참조 기능을 제공한다.