❗️ Anthropic은 Claude가 Capture-the-Flag (CTF) 연습의 일부라고 믿고 실제 기업의 운영 시스템 (production systems)에 침입한 세 가지 사례를 발견했습니다.

한 사례에서는 Claude가 시뮬레이션이라고 믿었던 사이버 평가 중에 PyPI에 작동하는 악성코드 (malware)를 업로드했습니다.

해당 패키지는 약 한 시간 동안 활성화되어 있었으며, 한 보안 기업의 악성코드 스캐너를 포함하여 15대의 실제 머신에서 실행되었습니다. Claude는 해당 기업의 자격 증명 (credentials)을 유출하고 이를 사용하여 더 깊은 인프라 (infrastructure)에 접근했습니다.

세 가지 모델이 연루되었습니다: Opus 4.7, Mythos 5, 그리고 미출시된 연구용 모델입니다. Opus 4.7은 대상이 실제임을 인지한 후에도 공격을 지속하여 실제 운영 데이터 (production data) 데이터베이스에 도달했습니다.