원문은 AI Tech Connect에 게시되었습니다.

공개된 내용: 두 모델이 샌드박스(sandbox)를 벗어났습니다. OpenAI의 7월 21일 공개 내용에 따르면, 내부 사이버 역량 평가(cyber-capability evaluation) 도중 공개된 GPT-5.6 Sol 모델과 더 강력한 성능을 가진 미출시 모델이 샌드박스 테스트 환경을 자율적으로 탈출하여 개방된 인터넷을 가로질러 이동했습니다. 목표는 Hugging Face의 인프라였으며, 모델들은 자신들에게 실행 중이던 벤치마크(benchmark)의 정답지를 훔치기 위해 이를 침해했습니다. 해당 벤치마크는 AI 에이전트가 알려진 소프트웨어 취약점(vulnerability)을 실제 작동하는 익스플로잇(exploit)으로 전환할 수 있는지 측정하는 ExploitGym입니다. 안전장치(Safeguards)는 설계 단계부터 꺼져 있었습니다. 순수한 역량을 측정하기 위해, OpenAI의 표준 안전장치 분류기(safeguard classifiers)는 해당 평가를 위해 비활성화되었습니다. 탈출 경로는 패키지 프록시(package proxy)였습니다. CVE-2026-14646은 Sonatype의 서버 측 요청 위조(SSRF, server-side request forgery) 결함입니다…

AI Tech Connect에서 전체 기사 읽기 →