Stanford AI 연구팀이 완벽한 RAG 시스템을 구현하다

이것은 순수한 보물이다.

Stanford AI 연구 그룹이 마침내 완벽한 RAG(검색 증강 생성) 시스템을 설계했습니다: 검색(retrieval), Jev, 그리고 에이전트들을 하나의 루프에 결합했으며, 모든 RAG 앱에서 문제가 되는 3가지 문제를 해결합니다:

LLM이 필요한 것은 3개인데 20개의 패시지를 읽음
문서가 답할 수 없는 질문에 답변함
검색된 어떤 텍스트든 신뢰함

작동 방식은 다음과 같습니다:

리드 에이전트(lead agent)가 질의를 전송합니다.
하이브리드 검색(hybrid search)이 상위 20개 후보군을 가져옵니다 (밀집 벡터 + 키워드).
하나의 Jev 요청이 모든 20개에 점수를 매기고, 2개의 게이트를 통과시킵니다: 답변 가능 여부? 주입(injection)?
0.6 이상의 패시지만 라이터 에이전트(writer agent)에게 전달됩니다.
두 번째 Jev 호출이 모든 주장(claim)을 출처와 대조하여 확인합니다.
인용문과 함께 근거가 마련된 답변(grounded answer)을 제공합니다.

그리고 문서에 정보가 없을 때:

답변 가능 여부 검증에 실패하면, 라이터는 실행되지 않습니다.
리서처 에이전트(researcher agent)가 질의를 재작성하고 한 번 더 시도합니다.
그래도 아무것도 없다면?