저자원 언어를 이용한 LLM의 다국어 탈옥 (Multilingual jailbreaking)

요약

본 연구는 저자원 아프리카 언어를 활용한 다회차 대화가 상용 LLM의 안전 가드레일을 우회할 수 있는지 조사했습니다. 실험 결과, 단회차 번역 공격은 효과가 낮았으나 다회차 대화 방식은 모델에 따라 최대 83.6%의 높은 유해 응답률을 기록하며 탈옥에 성공했습니다. 특히 번역 품질이 높을수록 탈옥 성공률이 증가하며, 인간 레드팀이 자동화된 방식보다 더 높은 탈옥률을 보였습니다.

핵심 포인트

• 저자원 언어를 이용한 다회차 대화(multi-turn conversations)가 LLM의 안전 메커니즘을 우회하는 데 효과적임
• 단회차(Single-turn) 번역 공격은 탈옥에 유의미한 영향을 미치지 못함
• 번역 품질이 높을수록 저자원 언어를 통한 탈옥 성공률이 비례하여 상승함
• 인간 레드팀을 통한 공격이 자동화된 테스트보다 더 높은 탈옥 성공률을 기록함
• ChatGPT, Claude, DeepSeek, Gemini, Grok 등 주요 상용 모델 모두 다국어 맥락에서 취약성을 보임