토큰 영향력 귀속을 통한 오염된 검색 코퍼스 내 타겟 답변 추적

요약

RAG 시스템의 코퍼스 오염 공격을 탐지하기 위한 경량 프레임워크 TRACE를 제안합니다. 토큰 영향력 귀속 기술을 활용하여 추가적인 LLM 검증 없이도 악의적인 문서를 식별하고 타겟 답변을 추적할 수 있습니다.

핵심 포인트

• RAG 시스템의 코퍼스 오염 공격 취약성 해결
• 토큰 영향력 귀속을 통한 경량 탐지 프레임워크 TRACE 제안
• 기존 LLM 기반 검증 방식 대비 계산 오버헤드 감소
• 다양한 LLM 및 QA 벤치마크를 통한 탐지 성능 입증