추출 증강 생성 (RAG) 을 사고 추적에 적용하면 추론 작업 성능 개선 가능

요약

본 논문은 기존에 RAG(추출 증강 생성)가 수학 및 코드 생성 같은 추론 작업에는 효과적이지 않다고 여겨졌던 통념을 반박하며, 사고 추적(thinking traces)을 검색 소스로 활용하는 새로운 접근 방식을 제안합니다. 문제 해결 과정에서 발생하는 중간 추론 경로를 구조화하고 검색 친화적인 표현으로 변환하는 T3라는 오프라인 방법을 소개했습니다. 이 방법으로 구성된 RAG 파이프라인은 AIME, LiveCodeBench 등 주요 벤치마크에서 최신 모델 대비 높은 성능 향상을 보였으며, 추가 추론 비용 절감 효과도 입증했습니다.

핵심 포인트

• RAG는 지식 집약적 작업뿐만 아니라 수학/코드 생성 같은 추론 집약적 문제에도 적용 가능하다.
• 단순 문서 검색 대신 '사고 추적(thinking traces)', 즉 중간 추론 경로를 검색 소스로 사용하는 것이 핵심이다.
• T3라는 오프라인 방법을 통해 사고 추적을 구조화하고 검색 친화적인 형태로 변환할 수 있다.
• 이 접근 방식은 AIME, LiveCodeBench 등에서 최신 모델 대비 높은 성능 향상을 보이며, 추가 추론 비용 절감 효과도 제공한다.