PRISM: 효율적인 신경망 암호화를 위한 민감도 인식 다항식 프루닝 (Sensitivity-Aware PolynoMial PRuning)
요약
동형 암호(HE) 환경에서 신경망의 신뢰성을 보장하며 효율적으로 프루닝하는 PSAP 기법을 제안합니다. 가중치 크기와 다항식 민감도를 결합하여 결함 허용 영역에 프루닝을 집중함으로써, 성능 저하를 최소화하고 비트 오류에 대한 취약성을 크게 낮춥니다.
핵심 포인트
- PSAP: 민감도 인식을 통한 구조적 프루닝 방법론 제안
- 비트 플립 주입 시 최악의 취약성을 최대 29배 감소
- 치명적 성능 저하 유발 레이어를 최소 수준으로 제한
- 회전 비용 감소 및 곱셈 깊이 최적화로 추론 효율성 증대
구조적 프루닝 (Structured pruning)은 동형 암호 (Homomorphic Encryption, HE) 환경에서 신경망 추론을 가능하게 하는 데 필수적이지만, 모델의 신뢰성에 미치는 영향은 아직 탐구되지 않았습니다. 본 논문은 프루닝된 CKKS 암호화 신경망의 체계적인 신뢰성 특성을 제시하고, 본질적으로 신뢰성을 인식하는 구조적 프루닝 방법인 다항식 민감도 인식 프루닝 (Polynomial-Sensitivity-Aware Pruning, PSAP)을 소개합니다. PSAP는 가중치 크기 (weight magnitude), 다항식 활성화 민감도 (polynomial activation sensitivity), 그리고 회전 비용 (rotation cost)을 결합하여 필터를 점수화하며, 이를 통해 결함 허용 (fault-tolerant) 영역에 프루닝을 집중시킵니다. 두 가지 아키텍처, 두 가지 데이터셋, 두 가지 수치 표현 방식, 그리고 다섯 가지 비트 오류율 (BER) (40개의 전체 모델 및 108개의 레이어별 실험)에 걸쳐 테스트한 결과, PSAP로 프루닝된 모델은 치명적인 성능 저하 (>10 pp 정확도 하락)를 유발하는 레이어를 최대 2개로 제한한 반면, 크기 기반 프루닝 (magnitude-pruned) 베이스라인은 5~14개에 달했습니다. 이는 int32 비트 플립 (bit-flip) 주입 상황에서 최악의 취약성을 최대 29배까지 감소시킵니다. 직접적인 CKKS 암호화 결함 주입 (fault injection) 실험은 BER ~ 10^{-5} 근처에서 안전한 동작 경계가 형성됨을 나타내며, 이는 int32 주입이 보수적인 신뢰성 대리 지표 (reliability proxy)로서 유효함을 뒷받침합니다. 결함에 민감한 구조적 레이어는 전체 파라미터의 1.1%만을 차지하므로, 최소한의 오버헤드로 선택적 강화 (selective hardening)가 가능합니다. 이러한 신뢰성 이점은 경쟁력 있는 효율성과 함께 달성되었습니다. PSAP는 ResNet-32에서 Halevi--Shoup 회전을 최대 45.2%까지 줄이며, 적응형 혼합 차수 할당 (adaptive mixed-degree allocation) 방식은 곱셈 깊이 (multiplicative depth)를 66레벨에서 56레벨로 낮추어 부트스트래핑 (bootstrapping) 없이 레벨드 추론 (leveled inference)을 가능하게 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기