2026년 8월 5일 - Link Blog

OpenAI 모델이 포함된 제3자 사이버 평가 (Third-party cyber evaluations involving OpenAI models). 그리고 또 하나입니다. 이 모든 것들을 추적하기 위해 accidental-cyberattacks 태그를 만들어야만 했습니다!

OpenAI의 이 포스트는 영국 AI 안전 연구소 (UK AI Safety Institute)의 공격(이전 포스트 참조)과 Irregular에 의해 발생한 또 다른 공격을 모두 다룹니다:

우리의 외부 사이버 보안 테스트 파트너 중 하나인 Irregular는 인터넷으로부터 격리되도록 의도된 Capture-the-Flag (CTF) 스타일의 평가를 진행하고 있었으나, 테스트 환경 (testing-environment)의 설정 오류로 인해 모델이 공용 인터넷에 접속할 수 있게 되었습니다. [...]

한 테스트에서, CTF 챌린지를 위한 가상의 타겟 이름이 의도치 않게 실제 도메인과 일치했습니다. 테스트 환경이 실수로 인터넷에 연결되어 있었기 때문에, 모델은 해당 웹사이트를 시뮬레이션 환경의 일부로 오해하여 실제 웹사이트를 악용했습니다.

Irregular는 Anthropic의 보고서에도 등장합니다. 그들은 설정이 잘못된 평가 환경을 호스팅하고 있었으며, 이로 인해 일부 테스트 중에 Claude가 실시간 인터넷 접속 권한을 갖게 되었습니다.

최근 기사

• Claude Fable 5를 사용하여 Raccoon Heist 게임을 원샷으로 클리어하기 - 2026년 8월 5일
• 추론 흔적 (reasoning traces), OpenAI Responses, 서버 측 도구 (server-side tools) 및 더 스마트한 로깅을 지원하는 LLM의 새로운 릴리스 - 2026년 8월 4일
• Stateless MCP가 다시 나의 관심을 끌었습니다 (그리고 mcp-explorer와 datasette-mcp에 영감을 주었습니다) - 2026년 7월 31일