트럼프 행정부가 AI 모델 사전 검수 의무화 검토 - 안스레픽의 Mythos 가 정책 반전 촉매제

트럼프 행정부는 The New York Times 에 따르면, unnamed U.S. officials 의 인용을 통해 새로운 AI 모델을 공개하기 전에 정부 검토 과정을 수립할 집행 명령 (executive order) 을 논의하고 있다고 보도되었습니다.

제안된 명령은 기술 기업 최고경영자들과 정부 관료들로 구성된 "AI 작업 그룹"을 만들어 감시 절차를 개발할 것이며, 백악관 직원들은 지난 주 Anthropic, Google, OpenAI 의 리더들을 브리핑했습니다. 만약 이것이 사실이라면, 이는 트럼프 행정부가 규제 완화 (deregulatory) 를 지지하는 것으로 알려진 현재의 입장과는 큰 차이를 보일 것입니다. 취임 직후인 Biden-era executive order 를 다루는 AI 위험에 대한 명령을 즉시 폐지했습니다.

갑작스러운 반전은 백악관 AI 정책의 리더십 공백과 맞물렸습니다. AI czar 로서 행정부의 규제 완화 추동을 이끈 David Sacks 는 3 월에 직책을 사임했으며, The New York Times 에 따르면 백악관 총리 Susie Wiles 와 재무장관 Scott Bess ent 은 이후 AI 정책 형성에 더 적극적으로 역할을 하고 있습니다.

새로운 접근법은 UK 의 AI Security Institute 모델과 매우 유사합니다. 이 모델에서는 정부 기관이 배포 전후로 안전 기준에 따라 선진 모델 (frontier models) 을 평가합니다. officials 은 NSA, National Cyber Director Office, National Intelligence Director 를 검토 관할로 지시했습니다. 중요한 것은该系统은 정부에게 모델을 사전에 접근할 권한을 부여하지만, 그 공개를 차단하지 않는다는 점입니다.

예상치 못하게 모든 이의 촉매제는 Anthropic 의 Mythos 모델이었습니다. 회사의 마케팅은 이 모델이 수천 개의 핵심 소프트웨어 취약점을 찾아내며 공공 배포에 너무 위험하다고 묘사했습니다.

이는 이미 트럼프 행정부가 안스레픽과 파산한 2 억 달러 국방부 계약에 대해 대립하고 있는 시기에 많은 불필요한 정부 주의의 관심을 끌었습니다. 국방부는 자율 무기 및 대규모 감시에서 안전 장치를 제거한 후 안스레픽을 공급망 위험으로 지정했습니다. 그러나 연방 법원은 이를 "올웰식 (Orwellian)"이라고 불렀습니다.

NSA 는 이미 Mythos 를 사용하여 정부 Microsoft 소프트웨어 배포의 취약성을 평가했으며, 다른 기관들은 Anthropic 의 도구에서 차단되어 있습니다. 일부 분석가들은 Mythos 의 능력이 안스레픽의 극적인 프레임을 정당화하는지 의심합니다. 일부 연구는 더 저렴한 모델이 취약성 발견에 동등한 결과를 달성할 수 있다고 발견했습니다.

백악관 관계자는 The New York Times 에 집행 명령의 언급은 "추측"이라고 말했으며, 발표는 트럼프 자신에서 나올 것이라고 했습니다. 전 Trump 행정부 AI 상임 자문관인 Dean Ball 은 언론에 officials 이 과도한 규제를 피하면서 기술과 속도를 맞추려는 것으로 설명했습니다. 이를 "복잡한 균형 (tricky balance)"이라고 불렀습니다.

Tom's Hardware 는 Google News 에서 팔로우하거나, 선호된 소스로 추가하여 최신 뉴스, 분석 및 리뷰를 구독하세요.

Luke James 는 프리랜서 작가이자 저널리스트입니다. 그의 배경은 법률이지만, 기술에 대한 개인적인 관심이 있으며 특히 하드웨어, 마이크로전자제품 및 규제 관련 분야에 관심이 많습니다.

트럼프 행정부가 'Mythos(미토스)'의 분위기가 대부분 허구임을 완전히 인지하고 있는지 궁금합니다. 하지만 안틱립틱 (Anthropic) 이 군사 조약을 준수하지 않았기 때문에 보복을 시도하고 있는 것 같습니다. 저는 'Mythos(미토스) 전설'이 안틱립틱 (Anthropic) 의 IPO 를 성공적으로 이끌 것이라는 희망이 있었음을 분명히 생각합니다.

하지만 실제로는 AI 가 여전히 이러한 방법으로 검증할 수 있는 정적 모델에 기반해 있다면, 호황을 이룰 수 없습니다. AI 의 다음 큰 단계는 인간 신경망이 잠잘 때마다 업데이트되는 것과 유사하게 자기 진화/업데이트하는 모델을 포함해야 합니다.

그렇다면 정부는 '자동 분석' (예: 예측 추적, 얼굴 인식, 백도어 방법 등) 을 통해 우리를 감시할 수 있는 가장 좋은 것들을 선택할 수 있습니다. FISA 와 같은 종종 오용된 입법으로 이를 승인받았으며, 이후 그들은 의회에 거짓말을 하라고 상급 부서장들에게 보낸 후 이를 사용했습니다. 정말 아름다운 세상입니다.

안틱립틱 (Anthropic) 이 쓰레기 회사입니다.
chaos215bar2: "그렇다면, 그들이 실제로 원하는 것은 안틱립틱 (Anthropic) 이 행정부에 맞서 선을 그어 군사 목적으로 모델이 사용될 수 있는 것과 사용할 수 없는 것을 명확히 한 것을 처벌하는 것입니다."