LLM 서비스의 KV-Cache 블록 비트 플립 취약점 분석

요약

본 연구는 대규모 언어 모델(LLM) 서빙 시스템에서 공유되는 키-값 캐시 (KV-Cache) 블록이 가질 수 있는 비트 플립 취약점을 분석했습니다. 특히 vLLM의 Prefix Caching과 같은 환경에서, 이 공유 블록들은 무결성 보호 없이 존재합니다. 연구진은 소프트웨어 오류 주입을 통해 최악의 시나리오를 분석한 결과, 세 가지 심각한 특성을 발견했습니다: 1) 침묵적 발산(Silent divergence), 2) 선택적 전파(Selective propagation), 그리고 3) 지속적 축적(Persistent acumal

핵심 포인트

• 공유 KV-Cache 블록은 무결성 보호가 없어 비트 플립 공격에 취약합니다.
• 이 취약점은 출력이 정상적으로 보이지만 내부 데이터가 변조되는 '침묵적 발산'을 유발할 수 있습니다.
• 피해는 해당 프리픽스(prefix)를 공유하는 요청에만 국한되며, 시간이 지나도 피해가 누적됩니다.
• 체크섬 기반의 카운터카운터(countermeasure)를 사용하면 배치 단위로 손상을 제한하며 오버헤드가 미미합니다.