저자원 언어를 이용한 LLM의 다국어 탈옥 (Multilingual jailbreaking)
요약
본 연구는 저자원 아프리카 언어를 활용한 다회차 대화가 상용 LLM의 안전 가드레일을 우회할 수 있는지 조사했습니다. 실험 결과, 단회차 번역 공격은 효과가 낮았으나 다회차 대화 방식은 모델에 따라 최대 83.6%의 높은 유해 응답률을 기록하며 탈옥에 성공했습니다. 특히 번역 품질이 높을수록 탈옥 성공률이 증가하며, 인간 레드팀이 자동화된 방식보다 더 높은 탈옥률을 보였습니다.
핵심 포인트
- 저자원 언어를 이용한 다회차 대화(multi-turn conversations)가 LLM의 안전 메커니즘을 우회하는 데 효과적임
- 단회차(Single-turn) 번역 공격은 탈옥에 유의미한 영향을 미치지 못함
- 번역 품질이 높을수록 저자원 언어를 통한 탈옥 성공률이 비례하여 상승함
- 인간 레드팀을 통한 공격이 자동화된 테스트보다 더 높은 탈옥 성공률을 기록함
- ChatGPT, Claude, DeepSeek, Gemini, Grok 등 주요 상용 모델 모두 다국어 맥락에서 취약성을 보임
대규모 언어 모델 (LLMs)은 안전 가드레일 (safety guardrails)을 우회하려는 탈옥 (jailbreak) 시도에 여전히 취약합니다. 본 연구에서는 저자원 아프리카 언어 (Afrikaans, Kiswahili, isiXhosa, isiZulu)를 사용한 다회차 대화 (multi-turn conversations)가 상용 LLM들의 안전 메커니즘을 우회할 수 있는지 조사합니다. 우리는 기존 데이터셋의 프롬프트 (prompts)를 번역하였으며, 자동화된 테스트 및 원어민을 통한 인간 레드팀 (human red-teaming)을 통해 ChatGPT, Claude, DeepSeek, Gemini, Grok을 평가했습니다. 단회차 (Single-turn) 번역 공격은 효과가 없는 것으로 증명되었으나, 다회차 대화는 영어 유해 응답률 (English harmful response rates) 측면에서 52.7% (Claude 3.5 Haiku)에서 83.6% (GPT-4o-mini)까지, Afrikaans의 경우 60.0% (Claude 3.5 Haiku)에서 78.2% (GPT-4o-mini)까지, 그리고 Kiswahili의 경우 41.8% (Claude 3.5 Haiku)에서 70.9% (DeepSeek)까지 달성했습니다. 인간 레드팀은 자동화된 방식에 비해 탈옥률을 증가시켰습니다. 평가된 모든 언어에 대해 평균 탈옥률은 59.8%에서 75.8%로 증가했으며, 이는 Afrikaans +20.0%, isiZulu +12.7%, isiXhosa +12.3%, Kiswahili +1%의 개선을 보였으며, 이는 낮은 번역 품질이 탈옥 성공을 제한한다는 것을 입증합니다. 이러한 발견은 LLM의 취약성이 다국어 맥락에서도 지속되며, 번역 품질이 저자원 언어에서의 탈옥 성공을 결정하는 결정적인 요소임을 시사합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기