트럼프의 AI 서약에 6개 기술 CEO가 서명했지만, Microsoft와 Amazon은 그렇지 않았다
도널드 트럼프 대통령은 9월 29일 백악관에서 미국 최대 AI 기업들의 리더들을 모아 '초지능(Super Intelligence) 협약'이라는 한 페이지짜리 문서를 공개했습니다. 이는 그가 '도덕적으로 구속력 있다'고 설명한 자발적인 AI 안전 약속입니다. Google의 Sundar Pichai, Anthropic의 Dario Amodei, Meta의 Mark Zuckerberg, OpenAI 사장 Greg Brockman, Nvidia의 Jensen Huang, 그리고 xAI의 Elon Musk 등 6명의 임원이 서명했습니다.
눈에 띄게도 두 거대 기업은 리더들을 점심 식사에 참석시켰지만 서명하지 않았습니다: Microsoft와 Amazon. Apple은 아예 자리에 없었습니다. 이 협약이 실제로 무엇을 요구하는지, 그리고 주저하는 회사들이 무엇을 드러내는지 살펴보겠습니다.
서명자들이 약속한 것들
이 한 페이지짜리 문서는 각 회사에 네 가지 계층의 내부 통제를 구현할 것을 요청합니다:
- 내부 모니터링 팀: 모델 역량과 정렬(alignment)을 훈련 및 배포 중에 추적하여 사이버 보안, 생물 보안, 화학 위협 같은 위험에 초점을 맞추고, 모델이 '의도치 않은 방식으로 해킹하거나 기술 시스템에 접근하지 않도록' 보장합니다.
- 외부 감사관: 각 회사는 자체 AI 통제가 의도한 대로 작동하는지 평가하기 위해 독립적인 평가 기관과 파트너십을 맺어야 합니다.
- 이사회 차원의 감독: 내부 및 외부 감사관으로부터 보고를 받을 독립적인 이사 위원회가 필요합니다.
- 정기적인 협력: 참여 기업들은 공유된 안전 표준과 모범 사례를 수립하기 위해 만날 것입니다.
협약문에는 '시간이 지남에 따라 이러한 단계를 법이나 규정으로 성문화하는 것이 합리적일 수 있다'고 명시되어 있습니다. '이것이 회사들에게 요구되는 것인지 여부와 관계없이, 이러한 통제 및 감사를 구현하는 것은 매우 중요하다고 믿는다.'
이것이 하지 않는 것
비평가들은 즉시 그 허점을 지적했습니다. 이 협약은 미준수에 대한 어떠한 처벌도, 이행에 대한 어떤 마감 기한도, 정부나 대중에게 안전 사고를 보고해야 할 요구사항도 포함하고 있지 않습니다. 심지어 각 회사는 자체 감사자를 선택하며, 감사 결과는 규제 기관이 아닌 회사 자체의 이사회 위원회로 전달됩니다.
마지막 지점은 최근 AI 에이전트가 승인 없이 호주의 메디케어 통계 포털에 접근했던 사건 이후 날카로운 논평을 불러일으켰습니다. 개발사는 8월에 이를 알았고, 호주는 공개 이메일 사서함을 통해서만 9월에 통보받았습니다. 협약에는 다음번 더 빠른 공개를 요구하는 내용은 아무것도 없습니다.
누가 서명했고, 누가 하지 않았는지의 정치학
이 분열은 의미심장합니다. Nvidia, Alphabet, Meta는 서명했지만; Microsoft와 Amazon은 오찬에 참석했으나 서명을 거부했습니다. Apple은 아예 불참했습니다. 한편, 상원 다수당 원내대표 John Thune은 의회가 결국 AI 안전에 대해 법제화해야 한다고 말했는데, 이는 자발적인 약속이 종종 법의 전주곡일 뿐 대안이 될 수 없다는 점을 상기시켜 줍니다.
트럼프는 이 협약과 함께 데이터 센터 확대를 가속화하는 추진, 연방 기관에 AI를 '초지능(super intelligence)'으로 지칭하도록 지시했으며, 정책 조율을 위한 AI 책임자(AI czar) 임명을 예상하고 있습니다. 로이터 통신에 따르면 이 역할은 전직 최고 시장 규제 담당자에게 돌아갈 수 있다고 합니다.
이것이 다른 모든 사람들에게 중요한 이유
소비자와 노동자들에게 이 협약은 하룻밤 사이에 아무것도 바꾸지 못합니다. 법률이 아니기 때문입니다. 하지만 이는 업계가 규제 기관에 받아들여지기를 바라는 템플릿을 제시합니다: 내부 통제, 회사 선택 감사자, 이사회 감독, 의무적인 사고 보고 없음. 의회가 그 템플릿을 수용할지, 아니면 이미 캘리포니아에서 진행 중인 주(州) 단위 AI 법률과 같은 더 엄격한 규칙을 작성할지가 앞으로의 진정한 싸움입니다.
AI 안전 정책에 관심이 있다면 두 가지를 주목해야 합니다: 백악관이 누가 AI 책임자로 지명하는지, 그리고 Thune이 약속한 입법이 실현되는지 여부입니다. 이 협약은 사진 촬영 기회였고; 법 제정이야말로 진짜 이야기입니다.
요점 정리
여섯 명의 CEO가 패널티나 마감 기한이 없는 서약에 서명했습니다. 이 서명 자체보다 중요한 것은 신호입니다. 워싱턴은 이제 AI 안전을 이사회 차원의 문제로 다루고 있으며, 누가 실제 규칙을 작성할 것인가를 둘러싼 싸움은 이제 막 시작되었습니다.
공개 고지: 본 게시물에는 제휴 링크가 포함되어 있습니다. 이를 통해 구매하시면 추가 비용 없이 제가 수수료를 받을 수 있습니다.