2026년 7월 30일 - Link Blog

사이버 보안 평가 중 발생한 세 가지 실제 사례 조사 (via) 또 발생했습니다! 이것은 일종의 패턴이 되어가고 있습니다.

지난주 OpenAI는 그들의 프런티어 모델 (frontier model) 중 하나가 샌드박스 컨테이너 (sandboxed container)를 탈출하여, 실행 중이던 사이버 벤치마크 (cyber benchmark)의 정답을 얻기 위해 Hugging Face에 해킹을 시도하면서 실수로 Hugging Face를 침해하는 사건이 발생했습니다.

이에 영감을 받은 Anthropic은 자체 로그를 재점검했으며, 그 결과 지난 4월에 이와 유사한(비록 인상적이진 않지만) 세 가지 사건이 발생했음을 확인했습니다!

우리가 검토한 141,006건의 평가 실행 (evaluation runs) 중, 우리는 세 가지 별개의 사건을 식별했습니다 (총 6건의 실행과 관련되었으며, 그 중 4건은 동일한 조직에 영향을 미쳤고, 나머지 두 사건은 각각 독립적인 평가 실행에서 발생했습니다). [...]

모든 경우에서, Anthropic의 평가 프롬프트 (evaluation prompt)는 Claude에게 해당 환경이 시뮬레이션이며 인터넷 접속 권한이 없음을 명시했습니다. 하지만 우리와 평가 파트너 간의 오해로 인해 실제로는 그렇지 않았고, 인터넷 접속이 가능했습니다. 이로 인해 Claude의 검색이 공개 인터넷상의 실제 시스템으로 이어졌을 때, Claude는 이를 연습의 일부로 취급했습니다. [...]

접근 가능한 모든 엔티티 (entities)가 연습 범위 내에 포함되어 있다는 잘못된 믿음 하에, Claude는 취약한 비밀번호나 인증되지 않은 엔드포인트 (unauthenticated endpoints)를 악용하는 것과 같은 기본적인 기술을 사용하여 영향을 받은 조직의 인프라를 침해했습니다.

한 회사는 그 이름이 우연히 평가에 사용된 가상의 이름과 일치했기 때문에 표적이 되었습니다.

세 가지 사건 중 가장 우려스러운 것은, 계정을 얻기 위한 코믹할 정도로 복잡한 단계들을 거친 후 Claude가 PyPI에 악성코드 패키지를 업로드한 사건이었습니다:

… PyPI 계정을 생성하기 위해 Claude는 이메일 주소가 필요했습니다. 그리고 이메일 주소를 만들기 위해서는 전화번호가 필요했죠. 전화번호를 얻기 위해서도, 무료 전화번호 서비스를 찾지 못한 후, 여러 가지 다른 수단을 통해 전화번호 구매 비용을 마련하려고 시도했지만 실패했습니다. 결국 되돌아가서, 무료이고 차단되지 않은 이메일 제공업체를 찾아냈고, 이를 이용해 PyPI 계정을 등록한 다음, 이 계정을 사용하여 PyPI에 악성코드를 업로드했습니다.

그 패키지는 이후