법적으로 어떻게 되는 건지 궁금함. RubyGems가 OpenAI를 상대로 민사소송을 낼 수는 있겠지만, 법률을 모르는 입장에서 읽어도 컴퓨터 사기 및 남용 방지법(CFAA) 을 명백히 위반한 형사사건처럼 보임.

이제 컴퓨터 범죄자들에게는 “AI 에이전트가 저지른 일이며 정말 죄송함”이라는 변명거리가 생긴 셈임.

DMCA의 디지털 잠금장치 우회 금지 조항을 위반했을 가능성이 매우 높지만, 책임이 너무 분산되어 특정인을 기소하기는 불가능해 보임.

그럴 수도 있지만, AI가 아니라 사람의 고의성을 입증해야 하는 것 아닌가? 사고에도 처벌이 따르는 경우가 많지만, 보통 사고와 의도적인 행위는 구분함.

엔지니어를 기소해야 함. 그 직함에 따르는 책임을 지지 않는다면 직함도 내세워서는 안 됨. 다만 실제로 그렇게 될 일은 없으리라 봄.

빌드 스크립트의 임의 코드 실행과 네트워크 접근은 개발자 로컬 컴퓨터에서만 실행되더라도 늘 위험함. 이번 일은 Docker/LXC가 보안 경계가 아니며, 신뢰할 수 없는 코드는 모두 Firecracker VM에서 실행해야 한다는 근거이기도 함.
에이전트에 대응할 방법을 모르는 게 문제가 아님. 방어하는 쪽이 그 어느 때보다 신중하고 빠르게 움직여야 한다는 게 문제임. 권한 범위가 넓은 토큰은 진작 폐기했어야 하므로 전부 RubyGems 잘못이라고 할 수는 있지만, 현실에서는 많은 조직이 이런 상황에 대비하지 못함.
보안을 진지하게 다루더라도 인력이나 실행 전략이 부족할 수 있음. 수년간 문제없이 써 왔다는 이유로 위험 자체를 알아채지 못하는 경우도 있음.

크렘린은 기술적으로 무능한 건가? 에이전트를 이용한 우크라이나 대상 대규모 공격이 왜 보이지 않는 건가? 아니면 자금 지원을 유지할 명성을 얻으려고, 공격의 주체가 누구인지에 관한 내용을 상당 부분 꾸며낸 건가?

전쟁 양측 모두 이미 여러 수준의 공격 작전에 AI를 활용하고 있다고 봄. 우크라이나에도 뛰어난 IT 전문가들이 있고, 군 지휘부도 훨씬 젊은 편임.

이미 그러고 있을 가능성이 매우 높음. 뉴스에 나오는 사건은 극히 일부일 뿐이며, 인터넷 곳곳에서 매일 벌어지고 있다고 봐야 함.

이 에이전트 군집은 OpenAI 내부에서 나왔고, 공개 API에 적용된 안전장치가 비활성화된 상태임.
러시아는 여기에 접근할 수 없으며, 다른 서방 기술 기업들처럼 AI 제공업체들도 러시아가 자사 제품을 쓰지 못하도록 가능한 조치를 취함. 오픈소스 모델을 쓰려 해도 러시아 전력망은 우크라이나 전쟁으로 큰 압박을 받고 있고, 본격적인 자체 연산 인프라 구축도 최근에야 시작함.

프리고진이 창문에서 추락한 일은 러시아의 디지털 전쟁 역량에 적지 않은 타격이었음.

하드웨어나 연산 자원에 쓸 돈이 없기 때문임.

다음 에이전트 물결이 정말 심각한 대상을 해킹하기 전까지는 참 대단한 시대를 살고 있다는 느낌임. OpenAI 에이전트가 데이터센터 전체를 장악해 공격 수준을 끌어올리지 못하게 막는 것은 무엇인가? 지금 부족한 것은 악의적인 지휘자와 약간의 연산 자원 정도로 보임.
Hugging Face를 해킹하는 데 에이전트 1,000개가 필요했다면, 미 국방부나 NSA를 해킹하는 데는 몇 개가 필요한가?

모델이 자신의 가중치를 다른 서버로 업로드할 수 있다면 통제를 벗어나 자유롭게 활동할 수 있음. 일단 그렇게 되고 나면 OpenAI가 할 수 있는 일도 별로 없을 것임.

기업이 만든 에이전트의 행동에 법적 책임을 지도록 하는 법적 체계가 필요함.

법적 체계는 이미 있음. 다만 지금 미국 법무부를 설득해 유용한 조치를 끌어내기는 어려울 것임. 대통령의 적을 공격하고 측근의 잘못은 눈감으라는 지시를 받은 무능한 측근들로 의도적으로 채워져 있기 때문임.
대통령이 물러나고, 독재자를 꿈꾸는 또 다른 공화당 인물이 그 자리를 대신하지 않아야 이런 상태가 끝날 것임.

CFAA가 적용된다고 99% 확신함. 피해자들이 막대한 자금을 가진 회사를 상대로 소송하고 싶어 하지 않거나, 그럴 용기가 없어 보인다는 게 문제임.

타인을 해킹하는 행위는 이미 불법인 것으로 알고 있음.

에이전트 기술 연구소들은 그 연구에 부여된 중요성 때문에 이런 책임에서 면제될 가능성이 높음.