미국 정부가 가이드라인을 설정해야 하는 마감 기한이 다가옴에 따라, 유럽과 영국은 AI 모델 테스트에 대한 접근 방식을 미세 조정하고 있습니다.

중요한 이유: 미국의 동맹국들은 수년 동안 현재 Trump 행정부가 직면한 것과 동일한 AI 안전성 문제로 씨름해 왔습니다.

---

• 미국이 AI 프레임워크(framework)에서 어떤 결론을 내리든, EU와 영국의 접근 방식을 설계한 이들은 그것이 시작에 불과할 것이라고 말합니다.

전체적인 그림: Trump 대통령은 전임자의 AI 전략(strategy)을 폐기하고 규제 완화 체제를 추구하며 두 번째 임기를 시작했습니다.

• 하지만 AI 모델이 빠르게 점점 더 강력해짐에 따라, Trump 행정부는 감독 프레임워크(oversight framework)를 개발하고 정확히 무엇을 포함해야 할지를 결정해야 하는 상황에 놓였습니다.
• Trump의 행정 명령(executive order)에 따라, 행정부는 8월 1일까지 자발적 AI 프레임워크를 발표할 예정입니다.
• 논의에 정통한 한 소식통에 따르면, Trump 행정부는 고성능 모델이 오픈 소스(open-source)인지 폐쇄형 소스(closed-source)인지에 관계없이 모두 포함되는 "평등한 경쟁 환경"을 조성하기 위해 OpenAI와 Anthropic이 제안한 통합된 입장을 검토하고 있습니다.

한편, EU는 수년 동안 AI 안전성을 지속적인 기술적 및 정책적 프로젝트로 다뤄왔습니다.

• 이는 이전의 사례들이 미래의 규칙에 영향을 미치는 사이버 보안(cybersecurity) 사용 사례에 대한 유동적인 접근 방식입니다.

상세 내용: 유럽으로부터 얻은 한 가지 교훈은 구체적인 위협 시나리오(threat scenarios)에서 시작하는 것입니다.

• AI 평가 기업인 EquiStamp의 CEO이자 공동 창립자인 Chris Canal은 Axios와의 인터뷰에서, 연구자들이 생물학적 무기(biological weapons)와 같은 위협에 대한 역사적 데이터로 시작하여, AI가 악의적인 행위자(bad actor)의 능력을 얼마나 향상시키는지, 그리고 그것이 사회에 체계적 위험(systemic risk)을 초래하는지 측정한다고 말했습니다.
• EU 프로세스에서 얻은 다른 주요 교훈에는 벤치마킹(benchmarking) — AI 모델의 능력과 위험을 측정하기 위해 표준화된 평가를 통해 테스트하는 것 — 을 생물 무기나 정부 데이터베이스 해킹과 같은 특정 시나리오와 연결하는 것이 포함됩니다.
• 또한 EU는 기업의 자체 평가에만 의존하기보다 다수의 독립적인 검증을 강조합니다.
• Canal은 EU 및 영국 정부가 AI 규제에 대한 접근 방식을 형성하는 과정에서 협력했습니다.

확대 시각 (Zoom out): EU는 과학계의 동의를 얻기 위해 노력하며, AI 위험 임계값(risk thresholds)을 정책에 반영하기 전에 동료 검토(peer-reviewed)를 거친 과학적 근거에 기반을 두고, 연구자들이 자신들의 방법론을 발표하도록 독려합니다.

• 이와 대조적으로, 미국은 주로 내부 또는 산업 주도의 표준에 의존합니다.
• 기술 전문가들 또한 특히 미국과 영국을 중심으로 민간 부문으로 몰려들고 있습니다.

그들이 말하는 것: "영국 정부 측 인물과 함께 일하다가, 그들이 갑자기 2주 이내의 퇴사 통보를 하고 OpenAI의 아주 좋은 직책으로 옮겨가는 경우가 여러 번 있었습니다"라고 Canal은 말했습니다.

결론 (The bottom line): 정부들은 사이버 위험(cyber risks)을 중심으로 결집하기 시작했으나, 미국과 그 동맹국들은 AI의 더 광범위한 과제들을 파악하기 시작하는 단계에 불과합니다.