Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
RAG 시스템의 질의와 문서 간 스타일 간극을 해결하기 위해 인덱싱 단계에서 가설 프롬프트를 사전 계산하는 HyPE 프레임워크를 제안합니다. 이 방식은 런타임 오버헤드 없이 검색 정밀도와 재현율을 크게 향상시킵니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기검색 증강 생성 (Retrieval-Augmented Generation, RAG) 시스템은 검색 메커니즘과 생성형 언어 모델을 결합하여 응답의 정확성과 관련성을 향상시킵니다. 그러나 사용자 질의(query)와 문서 텍스트 내 관련 정보 사이의 스타일 간극을 메우는 것은 검색 증강 시스템에서 지속적인 과제로 남아 있으며, 이는 종종 정렬(alignment)을 개선하려고 시도하지만 질의 시점에 추가적인 계산 오버헤드를 발생시키는 런타임 솔루션(예: 가설 문서 임베딩 (Hypothetical Document Embeddings, HyDE))을 통해 해결됩니다. 이러한 과제를 해결하기 위해, 우리는 가설 콘텐츠의 생성을 질의 시점에서 인덱싱(indexing) 단계로 전환하는 프레임워크인 가설 프롬프트 임베딩 (Hypothetical Prompt Embeddings, HyPE)을 제안합니다. 각 데이터 청크(chunk)에 대해 여러 개의 가설 프롬프트를 사전 계산하고, 프롬프트 대신 청크를 임베딩함으로써, HyPE는 검색을 질문-질문 매칭(question-question matching) 작업으로 변환하여 런타임 시의 합성 답변 생성 필요성을 우회합니다. 이 접근 방식은 지연 시간(latency)을 발생시키지 않을 뿐만 아니라 질의와 관련 컨텍스트 사이의 정렬을 강화합니다. 6개의 일반적인 데이터셋에 대한 실험 결과에 따르면, HyPE는 표준 방식과 비교했을 때 리랭킹 (re-ranking), 멀티 벡터 검색 (multi-vector retrieval), 질의 분해 (query decomposition) 및 기타 RAG 발전 기술들과 호환성을 유지하면서도 검색 컨텍스트 정밀도(precision)를 최대 42%포인트, 클레임 재현율(claim recall)을 최대 45%포인트 향상시킬 수 있음을 보여줍니다.