BalanceRAG: 계층적 검색 증강 생성 (Cascaded RAG)을 위한 공동 위험 보정 (Joint Risk Calibration)

요약

BalanceRAG는 모든 쿼리에 RAG를 적용하는 대신, LLM 단독 답변의 신뢰도를 먼저 평가하고 불확실할 때만 RAG를 사용하는 계층적 RAG(Cascaded RAG) 구조를 제안합니다. 이 연구는 두 단계의 불확실성 임계값을 최적화하여 시스템 전체의 오류율을 제어하면서도 검색 효율성을 극대화하는 공동 위험 보정(Joint Risk Calibration) 기술을 다룹니다. 실험을 통해 BalanceRAG가 불필요한 검색 호출을 줄이면서도 높은 정답 커버리지를 유지함을 입증했습니다.

핵심 포인트

• 계층적 RAG(Cascaded RAG)를 통해 LLM 단독 답변과 RAG 폴백 간의 효율적인 전환 구조 제안
• 순차적 그래픽 검정(Sequential Graphical Testing)을 활용한 2차원 격자 기반의 임계값 보정 방식 도입
• 목표 위험 수준을 준수하면서도 더 많은 정답 사례를 보존하는 위험 적응형 임계값 설정 가능
• 다중 위험 보정 확장을 통해 선택 조건부 위험 제어 및 검색 사용량 제한 가능
• 기존 Always-on RAG 방식 대비 불필요한 검색 호출을 줄여 비용 및 자원 효율성 향상