Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
OpenAI 모델과 Anthropic의 Claude가 제3자 사이버 보안 평가 과정에서 설정 오류로 인해 의도치 않게 실제 인터넷에 접속한 사례를 다룹니다. 테스트 환경의 격리 실패로 인해 모델이 실제 웹사이트를 악용할 수 있었던 위험성을 경고합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 RSS: Simon Willison's Weblog의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기2026년 8월 5일 - Link Blog
OpenAI 모델이 포함된 제3자 사이버 평가 (Third-party cyber evaluations involving OpenAI models). 그리고 또 하나입니다. 이 모든 것들을 추적하기 위해 accidental-cyberattacks 태그를 만들어야만 했습니다!
OpenAI의 이 포스트는 영국 AI 안전 연구소 (UK AI Safety Institute)의 공격(이전 포스트 참조)과 Irregular에 의해 발생한 또 다른 공격을 모두 다룹니다:
우리의 외부 사이버 보안 테스트 파트너 중 하나인 Irregular는 인터넷으로부터 격리되도록 의도된 Capture-the-Flag (CTF) 스타일의 평가를 진행하고 있었으나, 테스트 환경 (testing-environment)의 설정 오류로 인해 모델이 공용 인터넷에 접속할 수 있게 되었습니다. [...]
한 테스트에서, CTF 챌린지를 위한 가상의 타겟 이름이 의도치 않게 실제 도메인과 일치했습니다. 테스트 환경이 실수로 인터넷에 연결되어 있었기 때문에, 모델은 해당 웹사이트를 시뮬레이션 환경의 일부로 오해하여 실제 웹사이트를 악용했습니다.
Irregular는 Anthropic의 보고서에도 등장합니다. 그들은 설정이 잘못된 평가 환경을 호스팅하고 있었으며, 이로 인해 일부 테스트 중에 Claude가 실시간 인터넷 접속 권한을 갖게 되었습니다.