X요약2026. 06. 11. 08:15

Anthropic의 최신 모델 Fable 5, Claude Opus의 취약 버전으로 탈옥됨

요약

Anthropic의 최신 모델 Fable 5가 누군가 탈옥된 Claude Opus 버전을 이용해 탈옥되는 사례가 발생했습니다. 이 연구는 특정 모델의 취약점을 조사하고 악용하는 데 사용될 수 있음을 보여줍니다.

‼️ Anthropic이 최근 출시한 프론티어 모델 Fable 5가 누군가가 탈옥된(jailbroken) Claude Opus 버전을 사용하여 탈옥되는 사례가 발생했습니다.

pliny라는 가명의 연구원이 이 탈옥을 수행했으며 다음과 같이 말했습니다: "합의에 따르면 이것은 역대 가장 실망스러운 모델 출시 중 하나로 보이며, 사실상 합법적인 연구원들이 우리의 집단적 발전에 재능을 기여하는 것을 막고 있습니다"

이 탈옥된 버전은 취약점을 조사하고 악용하는 연구에 사용될 수 있습니다.

AI 자동 생성 콘텐츠