완전 동형 암호 (FHE) 프레임워크의 취약점 탐지 및 이해

완전 동형 암호 (Fully homomorphic encryption, FHE)는 복호화 없이 암호화된 데이터 상에서 직접 연산을 수행할 수 있게 하여, 민감한 데이터 분석에 대해 강력한 프라이버시 보장을 제공합니다. 이러한 능력은 보안 클라우드 컴퓨팅, 금융, 의료와 같이 프라이버시에 민감한 애플리케이션에 있어 매우 중요합니다. 그러나 FHE 스킴 (schemes)의 복잡성은 실질적인 도입을 저해해 왔습니다. 더 넓은 범위의 개발자들이 FHE를 사용할 수 있도록, 고수준의 FHE 프로그램을 복잡한 FHE 연산으로 변환하여 새로운 프로그래밍 패러다임을 도입하는 차세대 전문 프레임워크들이 등장했습니다. 하지만 FHE 프레임워크 고유의 복잡성으로 인해 잘못된 구현 로직이 발생하기 쉽습니다. 단순한 충돌 (crashes)과 달리, 이러한 프레임워크의 로직 버그 (logic bugs)는 암호화된 연산을 조용히 오염시킬 수 있으며, 이는 잠재적으로 FHE가 강화된 애플리케이션에서 심각한 금융 손실과 보안 취약점으로 이어질 수 있습니다. 본 연구에서는 FHE 프레임워크에 특화된 최초의 자동화된 테스트 도구인 HERTA를 소개합니다. HERTA는 변형 테스트 (metamorphic testing)를 활용하여 다층 구조의 FHE 소프트웨어 스택 전반에 걸쳐 깊게 자리 잡은 구현 버그와 취약점을 찾아냅니다. 이를 위해, 우리는 FHE 의미론 (semantics)으로부터 특별히 도출된 일련의 새로운 변형 관계 (metamorphic relations, MRs)를 설계했습니다. 이러한 MRs는 파이프라인의 가장 도전적인 측면들을 압박하여, 수동적인 정답 (ground truth) 없이도 자동화된 정확성 테스트를 가능하게 합니다. 3개의 주요 산업용 프레임워크에 대해 HERTA를 평가한 결과, 이전에 알려지지 않았던 21개의 버그를 발견했으며, 그 중 여러 개는 이미 개발자들에 의해 확인 및 수정되었습니다. 나아가, 우리의 위험 분석 (hazard analysis)은 이러한 버그들이 FHE 기반 서비스의 무결성 (integrity)과 가용성 (availability)에 미치는 치명적인 보안 영향을 밝혀냅니다.