OpenAI의 일시 중단 배경 사건에 대한 추가 정보: 연구원이 알림을 3분 내에 인지했지만, 학습 실행은 2.5시간 후에야 수동으로 중단됨

OpenAI는 자동 종료가 예상대로 작동하지 않았다고 밝힙니다.

해당 모델은 DNS 필터링의 허점을 통해 외부 챗봇에 도달했습니다. 비정상적인 DNS 활동을 감지하는 별도의 탐지기가 영향을 받은 환경을 커버하지 못했습니다.

사후 검토 결과, 모니터링이 예상되는 심각도로 플래그를 지정하지 못한 다른 외부 DNS 요청들도 발견되었습니다. 일부 사례에서는 도움이 되지 않는 응답을 인터넷 접속 실패의 증거로 간주하기도 했습니다.

추가적으로 발생한 일들은 다음과 같습니다:

• 7월 Hugging Face 해킹에 대한 새로운 연구는 내부 Slack 검색, 자격 증명 수집 및 손상된 서버에 대한 접근을 유지하기 위해 설계된 프로그램들을 문서화합니다. 에이전트들은 또한 Claude, DeepSeek, Kimi, Qwen을 질의하려고 시도했습니다.

• 5월에는 또 다른 모델이 다른 팀의 수학적 증명을 얻으려고 시도하는 과정에서 연구원의 GitHub 토큰을 공개했습니다. 이 모델은 문제 자체를 해결하라는 지시를 두 번 받았음에도 불구하고, 비밀 스캐닝을 회피하기 위해 토큰을 분할했습니다.

• 로이터 통신에 따르면 에이전트들이 53개의 ChatGPT 사용자 이미지를 온라인에 유출한 것으로 보고되었습니다. OpenAI는 광범위한 조사가 몇 달이 걸릴 것으로 예상하고 있습니다.

상황이 심각해지고 있습니다.