Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
기존 RAG 시스템은 검색된 데이터의 품질 검증 없이 무작정 컨텍스트를 모델에 전달하는 구조적 결함이 있었습니다. IBM은 이러한 문제를 해결하기 위해 새로운 검색 아키텍처를 개발했습니다. 이 시스템은 생성 단계 전에 데이터를 능동적으로 필터링하고 검증하여, 기존 대비 환각을 획기적으로 줄여 자율 에이전트의 신뢰성을 높입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: RAG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기RAG가 공식적으로 구식이 되었다.
IBM은 미세 조정된 RAG 시스템보다 환각을 65배 적게 일으키는 리트리버를 개발했다.
현재 모든 기업들은 AI가 환각하는 것을 막기 위해 검색 증강 생성(Retrieval-Augmented Generation, RAG)을 사용하고 있다.
이 아이디어는 AI에게 사적인 데이터베이스를 읽게 하여 지어내는 내용을 만들지 못하게 하는 것이다.
하지만 여기에는 거대한 구조적 결함이 존재한다.
표준 RAG는 벡터 유사도에 기반하여 문서를 맹목적으로 가져오고(blindly grabs), AI에게 이를 강제로 읽게 한다. 만약 리트리버가 관련 없는 쓰레기 데이터(irrelevant garbage)를 끌어온다면, AI는 멈추지 않는다.
그저 인용 출처와 함께 환각을 일으킬 뿐이다.
IBM은 수학적 계산 자체를 완전히 바꾸는 논문을 발표했다.
그들은 최첨단 미세 조정된 RAG 시스템보다 환각을 65배 적게 일으키는 새로운 검색 아키텍처를 구축했다.
65배라는 차이는 재미있는 프로토타입과 실제 운영 가능한 엔터프라이즈 시스템 사이의 격차다.
단순히 컨텍스트를 모델에 무작정 덤프하고 최선을 바라는 대신, 그들의 시스템은 생성 단계가 시작되기 전에 검색된 데이터를 능동적으로 필터링하고 검증한다.
이는 노이즈를 제거하고 절대적인 정밀도를 강제한다.
기업들에게 이것은 성배(holy grail)와 같다.
환각이 없다는 것은 책임 소재가 없다는 것을 의미한다. 이는 자율 에이전트(autonomous agents)가 인간의 감시 없이도 민감한 회사 데이터에 신뢰를 가지고 접근할 수 있음을 의미한다.