안스로픽 (Anthropic): 군사 기밀 환경에서 AI 의 '킬 스위치'는 존재하지 않는다

연방 항소 법원에 제출된 새로운 소송 서류에 따르면, 안트로픽 (Anthropic) 은五角大楼 (Pentagon) 에 의해 배포된 이후 자신의 AI 모델 을 제어하거나 종료할 방법이 없다고 밝혔다. 이것이 중요한 이유:五角大楼 은 안트로픽 을 공급망 리스크로 지정하며, 이 AI 기업 이 민감한 군사 작전 에서 기술이 어떻게 사용될 수 있는지 부적절하게 개입하고 있다고 주장하고 있다. 주요 내용: 안트로픽 은 워싱턴 D.C. 의 연방 항소 법원에 제출된 서류에서 배포된 이후 자신의 기술에 대한 가시성 (visibility), 기술적 능력, 또는任何形式的인 '킬 스위치'가 없다고 논증한다. 회사 는 또한五角大楼 이 배포 전에 모델을 테스트할 기회를 가지고 있다고 밝혔다. 빠른 업데이트: 회사의 사용 정책에는 자율 무기 나 대규모 감시를 위한 클로드 (Claude) 를 포함하지 않는다는 내용이 있으며, 이는五角大楼 이 허위 주장으로 간주하여 분쟁을 초래한 적색 선 (red lines) 이다. 워싱턴 D.C. 법원은 이전에 안트로픽 의 공급망 리스크 지정 중단 요청을 기각했다. 그러나 진행 중인 병행 사건에 대한 캘리포니아 주 판사는 안트로픽 의 요청을 승인했다. 이러한 분열된 결정은 안트로픽 이 새로운五角大楼 계약 에 참여할 수 없게 만들지만, 소송이 진행되는 동안 다른 정부 기관 과는 계속 협력할 수 있게 한다. 마찰점: 트럼프 행정부 가 연방 정부 전체에 걸쳐 새로운 '미토스 (Mythos)'모델을 배포하려는 움직임을 보이며 법원에서 안트로픽 이 공급망 리스크라고 주장하고 있다. 이제 기관장들은 미토스를 사용하여 시스템을 사이버 공격으로부터 보호하는 방법을 파악하기 위해 분주하게 움직이고 있으며, 이는 회사가 국가 안보 리스크를 초래한다는 행정부의 주장을 복잡하게 만들 수 있다. 향후 일정: 5 월 19 일에 심문이 예정되어 있다.