의미론적 코드북을 통한 다국어 제이브레이크 탐지

요약

본 연구는 대형 언어 모델(LLMs)의 안전 메커니즘이 영어 중심적이라는 취약점을 다루며, 다국어 환경에서의 제이브레이크 공격에 대한 새로운 방어책을 제시합니다. 기존 방식으로는 크로스-링글 보안 격차가 발생하지만, 본 연구는 재학습 없이 언어 불변적인 의미론적 유사성을 활용하여 영어 기반의 제이브레이크 코드북과 다국어 쿼리 임베딩을 비교하는 외부 방패 역할을 수행합니다. 실험 결과, 표준화된 벤치마크에서는 높은 분리성(AUC 최대 0.99)을 달성하며 공격 성공률을 크게 낮추었으나, 실제 환경의 분포 이동이 발생하는 비정형적인 안전하지 않은 벤치마크에서는 성능 저하가 관찰되었습니다.

핵심 포인트

• LLMs의 안전 메커니즘은 영어 중심적이며, 이는 다국어 배포 시 구조적인 보안 취약점을 야기한다.
• 제안된 접근 방식은 언어 불변적인 의미론적 유사성을 활용하여 외부 방패 역할을 수행하며, LLM 재학습 없이도 적용 가능하다.
• 표준화된 벤치마크 환경에서는 높은 분리성(AUC ≈ 0.99)을 달성하며 제이브레이크 공격에 대한 강력한 방어력을 입증했다.
• 실제 분포 이동이 발생하는 비정형적인 안전하지 않은 벤치마크에서는 성능 저하가 발생하여, 실제 환경 적용 시 추가 연구가 필요함을 시사한다.