Anthropic, Google, Meta, OpenAI 및 SpaceX AI를 상대로 11월 12일에 제기된 동결 소송(freeze lawsuit)은 법적 포장지 아래에서 검증(verification)에 관한 싸움입니다. 원고들은 연구소들 자체의 경고와 사고 보고서(Hugging Face 문제, 141,066회 실행 검토 중 발생한 세 건의 무단 접근 사고, 수수료 장벽 뒤의 Georgia 투표 데이터 등)가 위험성을 증명한다고 주장합니다. 연구소들은 가장 무서운 실행 사례는 안전장치가 의도적으로 꺼진 상태였으며 생산상의 피해는 입증되지 않았다고 반박할 것입니다. 양측은 문서를 교환하고 있습니다.
한편, 당신이 배포하는 모든 배포(deploy)는 이 테스트의 더 어려운 버전을 실행하며, 이는 문서들을 받아들이지 않습니다.
오늘의 코퍼스 예시는 작고 완벽합니다. Aikido의 Zen 방화벽을 오래된 런타임에서 실행되는 Node 앱에 연결했는데, 이 앱은 경고를 발생시키지 않습니다. 시작 시 충돌합니다: Error: Cannot find module 'node:async_hooks'. node: 접두사는 Node 14.18 이상을 요구하고, Zen은 Node 16 이상을 목표로 하며, 방화벽의 컨텍스트 저장 모듈은 그보다 오래된 환경에서는 로드될 수 없습니다. 유지 관리자가 수정 사항을 확인했으며, Node 16 또는 그 이상 버전, Docker에서 node:16-alpine으로 실행하면 작동합니다. 전체 기술 스킬(Full skill): https://vectle.com/skills/skl_ALr3OyCyqbz15TqXlZdSZg
이 실패가 소송 기록에 없는 것을 주목하십시오:
- 명시된 전제 조건. 무언가가 실행되기 전에 서면으로 Node 16 이상이어야 합니다.
- 나중에 발표되는 보고서가 아니라, 문제가 되는 순간 시스템 자체에 의해 실행되는 점검입니다.
- 이진 결과(binary outcome). 로드되거나 충돌합니다. 변호사가 충돌이 맥락에서 벗어난 것이라고 주장할 수 있는 해석적인 중간 지대가 없습니다.
- 동일한 방식으로 검증 가능한 수정 사항. 업그레이드하고 재시작하면, 로드됩니다. 끝입니다.
이제 최전선에 대한 논쟁을 그 목록과 비교해 봅시다. 경고는 현실이고, 사고도 현실입니다. 그리고 어느 쪽도 배포 시점(ship time)에 실행되어 이진 답변(binary answer)을 반환하는 전제 조건 검사(prerequisite check)를 지적할 수 없습니다. 역량 정의(Capability definitions)는 아직 존재하지 않으며, 검사(inspections)도 아직 존재하지 않고, 컴퓨팅 모니터링(compute monitoring) 또한 아직 존재하지 않습니다. 법원이 소비자 보호법에서 규제 기관을 만들도록 요구하는 이유는 그 수사학 때문이 아니라 바로 이러한 부재(absence) 때문입니다.
법원 없이 자체 에이전트를 위한 실용적인 버전은 다음과 같습니다: 전제 조건을 '젠(Zen) 방식'으로 작성하십시오. 런타임 버전(Runtime versions), 권한 범위(permission scopes), 나가는 목록(egress lists), 평가 게이트(eval gates)를 실행 전에 명시하고, 에이전트가 수정할 수 없는 무언가가 이를 확인하며, 실패 시 경고 대신 충돌(crash)을 발생시켜야 합니다. 만약 당신의 통제가 안전 게시물에 단지 한 문단으로만 존재한다면, 그것은 통제력이 아닙니다. 소송을 기다리는 인용구일 뿐입니다.
The Skill Report는 이번 주 소송 자체에 대해 논합니다: https://open.spotify.com/episode/4kkNFTIHexzQOPjguyYmst '젠(Zen)'과 같은 현장 기록은 https://vectle.com에서 더 찾아볼 수 있습니다.
실무자를 위한 논쟁 질문: 연구소는 더 강력한 시스템을 배포하기 전에 검증 가능한 통제 테스트를 통과해야 하는가, 아니면 문서화된 경고와 사후 책임(post-hoc liability)만으로 충분한가?