AI 표준 및 혁신 센터 (CAISI) 는 화요일에 구글 딥민드, 마이크로소프트, 엘론 머스크의 xAI 와 협력 협정을 발표했습니다. 이 협정은 미국 정부가 공개 전에 AI 모델을 평가할 수 있게 합니다.

CAISI 는 미국 상무부 산하 기관으로, "경계선 AI (frontier AI) 능력과 AI 보안 상태를 더 잘 평가하고 발전시키기 위해 배포 전 평가와 표적 연구를 수행"한다고 발표문에서 밝혔습니다.

CAISI 는 2024 년 오픈AI 및 안티로픽과의 기존 파트너십을 바탕으로 이 협정을 발표했습니다. 해당 협정은 상무부 장관 호워드 루트니크의 지시와 미국의 AI 행동 계획 (America's AI Action Plan) 을 반영하여 재협상되었습니다.

화요일 CAISI 의 발표를 넘어, 백악관은 새로운 AI 작업 그룹 (working group) 설립을 검토 중이며, 이는 공개 전 모델 검증 계획을 포함한 감시 절차를 탐구할 것으로 CNBC 가 확인했습니다.

작업 그룹은 기술 기업 임원들과 정부 관료들을 모일 예정으로, 논의에 가까운 소식통은 세부 사항이 기밀이기 때문에 이름을 밝히기를 거부했습니다. 이 그룹은 행정 명령을 통해 설립될 수 있습니다.

백악관은 CNBC 에게 잠재적인 행정 명령에 대한 논의는 추측이며, 모든 정책 발표는 도널드 트럼프 대통령이 직접 발표할 것이라고 밝혔습니다.

뉴욕타임즈가 먼저 작업 그룹을 보도했습니다.

작업 그룹에 대한 백악관의 논의는 안티로픽이 지난달 강력한 새로운 모델인 클로드 미থ로스 미리뷰 (Claude Mythos Preview) 를 발표하며 정부 관료들의 주목을 받았습니다.

미থ로는 소프트웨어 내 약점과 보안 결함을 식별하는 데 탁월하다고 안티로픽은 밝혔으며, 따라서 회사는 사이버보안 계획인 프로젝트 글래스윙 (Project Glasswing) 의 일환으로 선택된 기업 그룹에 배포를 제한했습니다.

안티로픽 CEO 다리오 아모데이는 발표 후 몇 일 만에 미থ로스 논의 위해 백악관에서 트럼프 행정부 고위 멤버들과 만났습니다. 국방부는 안티로픽을 공급망 위험 (supply chain risk) 으로 선언하여,该公司 purportedly threatens U.S. national security 를 의미했습니다.

백악관과 안티로픽은 그 회의를 "생산적"이라고 묘사했습니다.