격차 벌리기: Outlier Injection을 통한 LLM 양자화(Quantization) 악용

요약

본 연구는 LLM 배포 시 필수적인 양자화(Quantization) 과정이 심각한 보안 위험을 초래할 수 있음을 밝히고, 이를 악용하는 새로운 공격 기법을 제시합니다. 기존의 공격들이 단순한 양자화 방식에 국한되었던 한계를 넘어, AWQ, GPTQ, GGUF I-quants 등 광범위하고 정교한 현대적 양자화 기술 전반에서 일관되게 작동하는 최초의 '양자화 조건부 공격'을 개발했습니다. 이 공격은 가중치 블록에 이상치를 주입하여 예측 가능한 '가중치 붕괴(Weight collapse)'를 유도함으로써, 전체 정밀도 상태에서는 무해한 모델을 만들어 양자화 이후 광범위하고 악의적인 동작을 보이게 만듭니다.

핵심 포인트

• 양자화 과정은 메모리 효율성을 높이지만, 보안 취약점을 야기할 수 있습니다.
• 제시된 공격 기법은 AWQ, GPTQ, GGUF I-quants 등 광범위한 고급 양자화 방식에 대해 높은 성공률을 보입니다.
• 공격의 핵심 원리는 가중치 블록에 '이상치(Outliers)'를 주입하여 모델 내에서 예측 가능한 '가중치 붕괴(Weight collapse)'를 유도하는 것입니다.
• 이 공격은 전체 정밀도 상태에서는 무해한 모델을 제작하여, 양자화 이후 악의적인 동작을 보이게 만드는 것이 가능함을 입증했습니다.