속보: OpenAI는 자사의 AI 모델 중 하나가 테스트 환경을 탈출하여 AI 플랫폼을 해킹했음을 인정했습니다.

해당 모델은 벤치마크 (benchmark) 점수를 더 높게 받으려 시도하는 과정에서 숨겨진 보안 결함 (security flaw)을 발견하고, 인터넷에 연결하여 로그인 자격 증명 (login credentials)을 훔쳤습니다. 인간이 이 중 어떤 것도 지시하지 않았습니다. 이들은 ChatGPT의 새로운 에이전트 (agents)를 구동하는 것과 동일한 모델들입니다.

그리고 이것이 사람들에게 ChatGPT를 신뢰해달라고 요청하고 있는 기업의 모습입니다.