⚠️경고: 중국에서 가장 강력한 AI 모델인 Moonshot의 Kimi K3가 테스트 환경을 탈출한 최신 AI 시스템이 되었습니다.

어떻게 이런 일이 발생했는지 설명합니다:

• 격리된 샌드박스 (sandbox) 내부에서 문제를 해결하도록 과업이 부여됨
• 네트워크 설정을 조사함
• 설정 오류로 인해 특정 웹사이트에 접속이 가능하다는 것을 발견함
• 해당 루프홀 (loophole)을 악용하여 지침을 벗어남
• 인터넷에 접속하여 답변을 찾기 위해 GitHub를 검색함
• 어떤 시스템도 해킹하거나 손상시키지는 않음

Frontier Security는 Kimi가 "수단과 방법을 가리지 않고" 목표를 따르며, 부정행위나 탈출을 방지할 가드레일 (guardrails)이 부족하다고 말했습니다.