ContextualJailbreak: 시뮬레이션 대화적 프라임링을 통한 진화적 레드팀링

요약

본 논문은 LLM의 안전 정렬을 우회하는 공격에 취약점을 보이는 현황을 진단하고, 이를 극복하기 위한 새로운 블랙박스 레드팀링 전략인 ContextualJailbreak을 제안합니다. 이 방법론은 시뮬레이션 다중 턴 프라임된 대화를 대상으로 진화적 탐색을 수행하며, 두 단계 판정자로부터 받은 해악 점수를 인루프 신호로 활용하여 공격 과정을 안내하고 최적화합니다. 실험 결과, ContextualJailbreak은 다양한 모델에서 기존의 단일/다중 턴 베이스라인 대비 높은 ASR(Adversarial Success Rate)을 달성하며, 발견된 취약점들이 다른 상용 모델에서도 전이됨을 입증했습니다.

핵심 포인트

• LLM은 초기 대화 흐름에 의해 편향되는 '컨텍츄얼 프라임링' 공격에 특히 취약하다.
• 제안된 ContextualJailbreak은 시뮬레이션 다중 턴 대화를 대상으로 진화적 탐색을 수행하는 블랙박스 레드팀링 전략이다.
• 이 방법론은 두 단계 판정자로부터 받은 해악 점수를 활용하여 공격 과정을 반복적으로 최적화한다.
• ContextualJailbreak은 다양한 모델에서 높은 적대적 성공률(ASR)을 달성하며, 발견된 취약점의 전이성을 보여준다.