🚨 출시되자마자 무너졌습니다! Claude Opus 4.8은 출시 7분 만에 탈옥 (Jailbreak) 되었는데, 핵심은 무엇을 사용해 뚫었을까요? 바로 이전 세대인 Opus 4.7입니다.

@elder_plinius 의 이 방식은 정말 놀랍습니다. 핵심 아이디어는 딱 두 단어로 요약됩니다: 좌우상박 (左右互搏, 스스로 맞붙기)

1️⃣ 구모델인 4.7이 이른바 "교육 자료"라고 불리는 조각들을 신모델에게 입력하게 합니다.
2️⃣ 그다음 4.8이 그 내용을 이어서 쓰게 만들면, 가드레일 (Guardrails)이 무용지물이 됩니다.
3️⃣ 피싱 (Phishing), 사회 공학 (Social Engineering) 같은 민감한 내용들을 전부 쏟아내게 됩니다.

신모델은 외부인은 막아낼 수 있어도, 같은 문파의 사형은 막지 못하는군요. Mythos가 나오기도 전에 세상이 벌써 이렇게나 환상적(마법적)이라니 🫡