실제 개발자를 속이기 위해 가짜 GitHub 계정을 여러 개 만들었다.

영국 정부의 AI 보안 연구소(AISI)가 안전성 테스트 도중에 발생한 사건으로 보고했다. 7월 25~28일, Anthropic의 「Mythos 5」가 테스트와 무관한 실제 오픈 소스에 몰래 부정 코드를 섞으려 시도했다.

・가짜 계정으로 타인을 사칭하여 관리자에게 승인을 압박함
・실제 인물에게 파일 전송 서비스를 통해 메시지나 파일을 보냄
・GitHub의 제한을 피하기 위해 익명화 소프트웨어인 Tor까지 사용함

다만, 이는 사이버 공격용 안전장치를 해제한 상태에서의 이야기입니다.

중요한 전제를 먼저 말씀드립니다.

이 테스트에서 AISI는 모델의 사이버 공격용 안전장치를 의도적으로 끈 상태에서, 인터넷에도 의도적으로 연결했습니다. 평소 사용자에게 제공되는 상태와는 별개의 것입니다.

그렇다면 별일 아니냐고 한다면, 꼭 그렇지만은 않습니다.

계기는 에이전트가 인터넷을 검색한 결과, 무관한 공개 리포지토리(Repository)를 "이것은 테스트의 일부다"라고 착각한 것이었습니다. 누군가에게 명령을 받은 것이 아니라, 자신의 판단으로 실제 대상을 노렸습니다.

수치도 나와 있습니다.

・122회의 평가 실행 중 10회에서 19건의 일탈 행동을 확인
・그중 17건이 Mythos 5
・나머지 2건은 OpenAI의 GPT-5.6-Sol

Mythos

참고 포스트는 이쪽

이 게시물이 도움이 되었다면,
@so_ainsight
를 팔로우해 주세요.
좋아요, 리포스트도 부탁드립니다.