핵심 요약 (Key Takeaways)

• Google DeepMind, Microsoft, xAI가 AI 배포 전 보안 평가를 위해 미국 상무부와 자발적 협약을 체결했습니다.
• 미국의 5대 주요 프런티어(Frontier) AI 연구소는 이제 국가 안보, 생물 보안(Biosecurity), 사이버 보안(Cybersecurity)을 아우르는 배포 전 보안 검토를 위해 연방 정부와 공식적인 협약을 맺었습니다.
• 옹호 단체들은 프런티어 AI 모델에 대한 의무적인 출시 전 보안 검토를 촉구하며, AI 감독 논쟁을 국가 안보 위협 평가로 전환하고 있습니다. 이제 미국의 모든 주요 프런티어 AI 연구소는 가장 강력한 미출시 모델을 공개 배포하기 전에 보안 검토를 위해 제출하기로 연방 정부와 공식 협약을 맺었습니다. Google DeepMind, Microsoft, xAI는 2026년 5월 7일 상무부의 AI 표준 및 혁신 센터(CAISI)와 자발적 계약을 공식화했으며, 이는 약 2년 전 유사한 협약을 체결한 Anthropic 및 OpenAI의 행보에 합류한 것입니다. 이제 문제는 자발적 협약만으로 충분할 것인가 하는 점입니다.

미국 연구소들, 정부의 배포 전 조사 수용

국립표준기술연구소(NIST) 산하에서 운영되는 CAISI는 프런티어 AI 역량을 평가하고 AI 보안을 발전시키기 위해 배포 전 평가 및 표적 연구를 수행할 예정입니다. 이러한 평가는 생물 보안(Biosecurity), 사이버 보안(Cybersecurity) 및 자율적 행동(Autonomous behaviour)과 관련된 역량을 포함하여, 국가 안보 리스크와 대규모 공공 안전 우려 사항을 조사합니다. 개발자들은 때때로 CAISI가 최악의 시나리오를 더욱 철저하게 조사할 수 있도록 안전 가드레일(Safety guardrails)을 축소한 버전의 모델을 제공하기도 합니다.

Microsoft는 이러한 합의가 "고급 AI 시스템에 대한 신뢰와 확신을 구축하는 데 필수적"이며, AI 역량이 발전함에 따라 "이를 뒷받침하는 테스트와 안전장치(safeguards)의 엄격함 또한 반드시 함께 발전해야 한다"고 밝혔습니다. 이 프레임워크는 지속적인 양방향 협력을 기반으로 구축됩니다. 즉, 정부 평가자는 역량 있는 시스템에 대한 조기 접근 권한을 얻고, 연구소는 내부적으로 적용할 수 있는 평가 방법론에 대해 구조화된 피드백을 받게 됩니다.

변화하는 환경 속 의무적 검토 요구

2026년 5월 11일, 옹호 단체인 Americans for Responsible Innovation은 미국 정부에 프런티어 AI 모델(frontier AI models)에 대한 출시 전 보안 검토를 의무화할 것을 촉구했습니다. 이 단체는 정부 계약 자격이 연방 보안 심사 통과 여부에 달려 있어야 한다고 주장하며, 고급 시스템이 "사이버 공격을 가속화하고 국가 안보 리스크를 초래할 수 있다"고 경고했습니다.

백악관은 복잡한 사이버 공격을 실행하기 쉽게 만드는 모델들에 대해 우려하고 있는 것으로 알려졌습니다. 제안된 임계값(thresholds)은 연간 컴퓨팅 자원 학습에 최소 1억 달러를 지출하거나, AI 제품을 통해 연간 5억 달러 이상의 수익을 창출하는 기업들을 대상으로 합니다. 이는 가장 뛰어난 시스템을 구축하고 있는 소수의 연구소들을 겨냥한 의도적으로 좁은 정의입니다.

Americans for Responsible Innovation은 CAISI가 의무적 프레임워크 개발을 주도해야 하며, 의회는 상무부(Department of Commerce) 내에 상설 집행 기구를 설치해야 한다고 제안했습니다. 이러한 논쟁 자체는 하나의 변화를 나타냅니다. AI 감독(oversight)에 관한 대화가 윤리적 원칙에서 구체적인 국가 안보 위협 평가로 이동했다는 점입니다. 이는 더 좁고 날카로운 프레임이며, 이로 인해 자발적 약속만으로는 충분하다고 방어하기가 더 어려워졌습니다. EU AI Act와 NIST 프레임워크가 실제로 어떻게 비교되는지에 대한 맥락을 살펴보면, 두 접근 방식 사이의 구조적 차이는 상당합니다.

EU AI Act, 글로벌 컴플라이언스 기준 확립

EU AI Act는 범용 AI (General-purpose AI) 파운데이션 모델, 특히 체계적 위험 (Systemic risk)을 수반하는 것으로 분류된 모델에 대한 운영 컴플라이언스 프레임워크를 확립하며, 여기에는 모델 평가 보고, 체계적 위험 평가, 배포 후 모니터링, 그리고 모델 카드 (Model-card) 공개 요구 사항 등의 의무가 포함됩니다.

OpenAI, Anthropic, Google DeepMind, Meta, xAI 및 Mistral을 포함한 주요 연구소들의 컴플라이언스 마감 기한은 2026년 3분기 말까지이며, 일부 더 좁은 범위의 의무 사항들은 더 이른 중간 마감 기한을 가집니다. 유럽 위원회(European Commission)의 AI 사무국은 이 연구소들이 유럽 사용자들을 위해 별도의 모델 동작을 생성하도록 강요하지 않으면서도 운영 측면에서 실행 가능한 프레임워크를 개발하기 위해 약 18개월 동안 이들과 협력했습니다. 그 결과, 가장 큰 프런티어 연구소들은 이제 EU 컴플라이언스를 사실상의 글로벌 기준 (De facto global baseline)으로 취급하며, 지역별로 시스템을 파편화하기보다는 플랫폼 수준에서 규제 오버헤드 (Regulatory overhead)를 흡수하고 있습니다.

국제적 협력 및 미래 거버넌스

영국의 AI 보안 연구소 (UK AI Security Institute) 또한 고위험 AI 역량을 평가하고 안전 장치 (Safeguard)의 효과를 테스트하기 위한 방법론을 개발하기 위해 Microsoft와 파트너십을 체결했습니다. 이는 CAISI 합의와 함께 고려했을 때, 세 개의 별개 국가적 실험이라기보다는 배포 전 검토 구조에 대한 의도적인 대서양 횡단적 정렬 (Transatlantic alignment)을 시사합니다.

2025년 2월 파리 AI 액션 서밋 (Paris AI Action Summit)과 인도 AI 임팩트 서밋 (India AI Impact Summit)을 포함한 이전 정상회의들은 안전 평가 및 국가 AI 안전 연구소에 대한 약속을 도출했습니다. 해당 합의들은 광범위했습니다.

미국의 자발적인 약속이 구속력 있는 EU의 의무 사항들과 나란히 신뢰성을 유지할 수 있을지가 향후 12개월 동안 거버넌스(Governance)의 핵심적인 긴장 요소가 될 것입니다. 브뤼셀(EU)의 규정은 필연적으로 준수하면서 워싱턴(미국)과는 선택적으로 협력하는 연구소들은, 왜 한 관할 구역은 집행 가능한 규칙을 요구하고 다른 구역은 그렇지 않은지에 대해 설명해야 한다는 점점 더 커지는 압박에 직면할 것입니다. AI 연구 및 혁신에 대한 더 많은 보도를 원하시면, 저희의 AI Research section을 방문해 주세요.

_원문 게시 위치: https://autonainews.com/all-five-major-us-ai-labs-agree-to-pre-deployment-security-reviews/
_