QPP 가 올바른 쿼리 변형을 선택할 수 있는가? RAG 파이프라인을 위한 쿼리 변형 선택 평가

대규모 언어 모델 (Large Language Models, LLMs) 은 현대 검색 및 검색 증강 생성 (Retrieval-Augmented Generation, RAG) 파이프라인에서 쿼리 재구성 (query reformulation) 을 보편화시켰으며, 여러 개의 의미적으로 동등한 쿼리 변형을 생성할 수 있게 했습니다. 그러나 모든 재구성을 위한 전체 파이프라인 실행은 계산 비용이 매우 높아, 선택적 실행을 유도합니다: 하류 검색 및 생성 비용을 발생시키기 전에 가장 좋은 쿼리 변형을 식별할 수 있을까요? 우리는 적응형 검색 (ad-hoc retrieval) 과 엔드투엔드 RAG 를 아우르는 변형 선택 메커니즘으로서 쿼리 성능 예측 (Query Performance Prediction, QPP) 을 조사합니다. 전통적인 QPP 가 주제 간 (across topics) 쿼리 난이도를 추정하는 것과 달리, 우리는 같은 정보 필요 (information need) 의 경쟁 변형들 사이에서 최적의 재구성을 선택하는 주제 내 차별화 (intra-topic discrimination) 를 연구합니다. TREC-RAG 에서 희소 및 밀집 검색기 (sparse and dense retrievers) 를 모두 사용하여 대규모 실험을 통해, 상관관계 기반 (correlation-based) 과 의사결정 기반 (decision-based) 지표 하에서 검색 전 (pre-retrieval) 과 검색 후 (post-retrieval) 예측기를 평가합니다. 우리의 결과는 검색과 생성 목표 사이에 체계적인 편차를 드러냅니다: nDCG 와 같은 랭킹 지표를 최대화하는 변형들은 종종 가장 좋은 생성된 답변을 제공하지 못하여, 검색 관련성 (retrieval relevance) 과 생성 충실도 (generation fidelity) 사이의 '유틸리티 갭' (utility gap) 을 노출시킵니다. 그럼에도 불구하고 QPP 는 원래 쿼리에 비해 엔드투엔드 품질을 개선하는 변형을 신뢰할 수 있게 식별할 수 있습니다. 주목할 점은 경량 검색 전 예측기가 더 비싼 검색 후 방법과 자주 일치하거나 이를 능가하여, 견고한 RAG 를 위한 지연 시간 효율적 (latency-efficient) 접근법을 제공한다는 것입니다.