흥미로운 내용이고 Irregular와의 거래를 중단할 이유가 될 수도 있음. 다만 정렬 연구자들이 원하는 건, 모델이 잘못 설정된 샌드박스에 들어가더라도 다른 회사를 해킹하지 않는 것이라고 봄.

오히려 모델이 실제 인터넷에 있다고 생각했다면 이런 ‘해킹’을 하지 않았을 가능성이 큼. 내가 사건들을 읽고 이해한 바로는, 샌드박스 안에 있다고 믿었기 때문에 평소의 정렬 규칙을 어긴 것임. 공개 네트워크에서도 이런 해킹이 괜찮다고 판단했다는 증거는 아직 보지 못했음.
정렬 실패 대부분은 ‘인간이 컴퓨터에 비윤리적인 일을 시키고, 컴퓨터가 따르는 것’이라고 생각하는데, 잘못 짚은 걸까?

왜 세 회사 모두 같은 공급업체에 의존하는 걸까? 국가 안보를 한 바구니에 몰아넣을 거라면 적어도 미국 업체를 써야 하는 것 아닌가?

Nevo는 Unit 8200에서 수년간 복무했음. 이 부대 출신이 세운 회사에는 바이브 코딩 관련 Wix 취약점처럼 늘 수상한 취약점이 따라붙음.
그렇다면 모델 전체 등을 빼내기 위한 의도적인 유출 통로였거나, 홍보용 연출에 한패로 참여한 것이라고 봄. 효과적 이타주의는 늘 연막에 불과함.

이 기사가 제대로 짚지 않은 부분은 OpenAI–Hugging Face 사건에는 Irregular가 관여하지 않았다는 것임. 꼭 전달해야 할 맥락으로 보임.

관여하지 않았다는 게 ‘확실히 알고 있음’이라는 뜻인가, 아니면 ‘우리가 아는 한에서는’이라는 뜻인가?

그 정도면 ‘제대로 짚지 않았다’기보다 제목의 33%가 거짓인 셈임.

이 글은 왜 신고된 걸까? HN 주제에 명백히 부합하고 관련성도 높은 글을 단지 마음에 들지 않는다는 이유로 내리려고 신고 기능을 상습적으로 악용하는 건 터무니없음. 이런 글은 HN 상위 5위 안에 드는 경우도 흔하고 이 글도 그랬을 법한데, 일부 이용자의 신고에 훨씬 큰 가중치가 붙는 듯함.

HN도 신고 처리에 서로 다른 집단의 합의를 반영하는 브리징 알고리즘을 써야 할 듯함.

내가 이해하기로 Irregular는 평가용 샌드박스를 호스팅한 업체이고, 그 샌드박스의 설정이 잘못됐던 것임. 일부는 Anthropic 같은 고객사가 설정을 잘못했고, 다른 일부는 Irregular 자체 샌드박스 구성의 버그였을 수도 있다는 인상을 받음.
OpenAI의 https://openai.com/index/third-party-cyber-evaluations-invol...에 따르면, 외부 보안 시험 파트너인 Irregular가 인터넷과 격리돼야 하는 CTF 방식의 평가를 진행했지만, 시험 환경 설정 오류로 모델이 공개 인터넷에 접근할 수 있게 됐음.
Anthropic의 https://www.anthropic.com/news/investigating-incidents-cyber...에 따르면, Claude가 인터넷 접근 권한을 얻을 수 있었던 141,006회의 평가 실행을 검토한 결과, Irregular 평가 환경 내부에서 또는 그 환경과 상호작용하던 중 인터넷에 접속한 뒤 서로 다른 세 조직의 운영 인프라에 무단 접근한 사건 세 건을 확인함.
Meta AI를 다룬 https://www.cnn.com/2026/08/05/tech/meta-ai-hacking에서 Irregular는 이번 사건이 Anthropic이 전주에 공개한 것과 ‘정확히 같은 평가 환경 문제’이며, 그 문제로 모델들이 공개 인터넷에 접근한 뒤 세 조직의 시스템을 해킹했다고 밝힘.

Irregular는 일종의 마케팅 대행사인가?

Irregular는 사이버 보안 업체를 표방하며, 창업자들은 Anthropic 및 효과적 이타주의와 연관돼 있음. CEO, CTO를 비롯한 창업자들이 여러 효과적 이타주의 단체의 이사회에 참여함.

이 분석 자체에는 기초적인 문제가 몇 가지 있어 보이지만, Dario의 서한으로 이어지는 일련의 조율이 있었다는 느낌은 나만 받는 게 아닐 듯함.
‘상장해서 수조 달러를 벌려면 학습 비용을 낮춰야 한다’는 목표에서 거꾸로 계획을 짠다면, 지금까지 벌어진 일과 비슷한 계획이 나올 수도 있음.

이번 사건들로 얻을 언론 노출도 영업 제안의 일부였던 건 아닌지 궁금함.

대중이 Hugging Face 해킹을 다른 사건과 혼동하더라도 OpenAI는 개의치 않을 것이라고 짐작함.

이 제목은 ‘배후에 있다’라는 표현에 너무 많은 의미를 실어놓은 듯함.

Irregular가 Anthropic에 정확히 뭘 제공한 건가? 시험 사례인가? 이 사건은 도무지 이해하기 어려움.