최신 검색 증강 생성(Retrieval-Augmented Generation, RAG) 시스템은 벡터 임베딩을 단순히 정적이고 맥락에 독립적인 아티팩트로 취급하는 경향이 있습니다. 이로 인해 임베딩이 언제 생성되었는지, 출처의 신뢰도가 어느 정도인지, 또는 다른 어떤 임베딩과 의존 관계가 있는지에 대한 정보가 누락됩니다. 이러한 지식의 '평탄화(flattening)'는 실제 성능 저하라는 측정 가능한 비용을 초래합니다. 실제로 버전 관리 기술이 적용된 쿼리에서 기존 RAG 시스템은 시간적으로 유효하지 않은 콘텐츠를 검색하는 문제 때문에 정확도가 58%에 머무르는 사례가 보고되었습니다.
본 논문에서는 이러한 한계를 극복하기 위해 SmartVector라는 프레임워크를 제안합니다. SmartVector는 밀집 임베딩(dense embeddings)에 세 가지 명시적인 속성—시간적 인식(temporal awareness), 신뢰도 감쇠(confidence decay), 그리고 관계성 인식(relational awareness)—을 추가했습니다. 이 구조는 해마-신피질(hippocampal-neocortical) 기억 공고화 과정에서 영감을 받았습니다.
1. 개선된 검색 파이프라인:
SmartVector의 핵심은 순수한 코사인 유사도(cosine similarity)를 사용하는 대신, 네 가지 신호가 혼합된 복합 점수(four-signal score)를 사용한다는 것입니다. 이 점수는 다음 요소를 결합합니다:
- 의미적 관련성 (Semantic Relevance): 쿼리와 임베딩 간의 의미 유사도.
- 시간적 유효성 (Temporal Validity): 정보가 최신 상태인지 여부.
- 실시간 신뢰도 (Live Confidence): 해당 지식에 대한 현재 시스템의 확신 정도.
- 그래프 관계 중요도 (Graph-Relational Importance): 다른 핵심 지식과의 의존성 및 연결 강도.
2. 동적 신뢰도 관리:
신뢰도는 정적인 값이 아닙니다. 이는 폐쇄형 함수(closed-form function)로 관리되며, 세 가지 요소를 결합합니다:
- 지수 감쇠 (Exponential Decay): 에빙하우스(Ebbinghaus) 곡선 스타일의 시간 경과에 따른 자연스러운 신뢰도 하락.
- 사용자 피드백 재공고화 (User-feedback Reconsolidation): 사용자의 상호작용을 통해 지식의 신뢰도가 강화되는 메커니즘.
- 로그 접근 강화 (Logarithmic Access Reinforcement): 자주 접근할수록 신뢰도가 점진적으로 높아지는 효과.
3. 배경 공고화 및 관계 구축:
시스템은 '배경 공고화 에이전트(background consolidation agent)'를 통해 작동합니다. 이 에이전트는 지식 베이스 내의 모순을 능동적으로 탐지하고, 임베딩 간의 의존성 엣지(dependency edges)를 구축합니다. 이후 GNN(Graph Neural Network) 스타일 메시지를 전파하며 업데이트를 수행함으로써, 지식 전체의 일관성과 구조적 무결성을 유지합니다.
실험 결과:
258개의 벡터와 138개의 쿼리로 구성된 재현 가능한 합성 버전 정책 벤치마크에서 SmartVector는 뛰어난 성능을 입증했습니다. 순수 코사인 RAG 대비 Top-1 정확도를 약 2배(62.0% vs. 31.0%) 향상시켰습니다. 또한, 오래되거나 만료된 답변 비율(stale-answer rate)을 35.0%에서 13.3%로 크게 줄였으며, 기대 교정 오차(Expected Calibration Error, ECE)를 거의 두 배 가까이 개선했습니다 (0.244 vs. 0.470). 이 프레임워크는 단어 단위 수정 시 재임베딩 비용을 77% 절감하는 효율성도 보여주었으며, 모순 주입률(contradiction-injection rates)이 0%에서 75%까지 높아지는 상황에서도 높은 견고성을 유지했습니다.