평범한 일반인을 위한 탈옥 (Jailbreaking): 밴딧 알고리즘 (Bandit Algorithms)을 통한 자동 강화된 쿼리 및 최적의

요약

비전문가도 밴딧 알고리즘을 통해 LLM의 탈옥(Jailbreak)을 자동화할 수 있다는 연구 결과를 발표했습니다. 새로운 공격 전략과 함께 대규모 안전성 벤치마크인 FrankensteinBench를 구축하여 모델의 취약성을 입증했습니다.

핵심 포인트

• 멀티 암드 밴딧 프레임워크를 활용한 효율적인 탈옥 쿼리 생성 전략 제안
• 11,279개의 악의적 쿼리로 구성된 FrankensteinBench 구축
• SoTA 오픈 웨이트 LLM 대상 평균 최대 97%의 공격 성공률 달성
• 쿼리 복잡도 증가 시 공격 성공률이 최대 26% 추가 상승함 확인