워싱턴은 항상 실리콘 밸리를 문화적으로 이상하게 여겨왔지만, 현재의 AI 리더들은 정치적 부담(political liability)이 되고 있다고 White House와 Congress에 가까운 소식통들이 Axios에 전했다.
중요한 이유: 양당의 국회의원들, 의회 직원들, 그리고 워싱턴 내부자들은 AI 창업가들이 다른 주요 산업계 최고 경영진들처럼 행동하기를 원한다. 즉, 입을 다물고(put a sock in it) 안전하게 제품 개발에만 전념하라는 것이다.
- AI 리더들이 대화의 초점을 디지털 지각 능력(digital sentience)과 전 지구적 재앙에 맞추면서, 이미 복잡한 규제 논쟁을 불가능한 도덕적 공황 상태로 만들고 있다.
현황: 산업계 리더들은 AI가 가져올 혜택과 공유된 번영의 잠재력—어떤 승리하는 정치 캠페인의 핵심 요소들—에 대해 미국인들을 설득하기 위해 주도적인 역할을 하기보다는, 끊임없이 그 실존적 위험성만을 경고하고 있다.
그들이 말하는 것: 국회의원들은 AI 임원들의 메시지가 번영과 종말 사이를 오가며 너무 자주 바뀌는 경향이 있다고 지적한다. 때로는 같은 공개 석상에서 그러하다. 법안을 만드는 사람들과 규제 당국자들은 이러한 급격한 변화(whiplash)가 이미 강력한 대중의 반발에 직면한 정치적 불안정을 가중시킨다고 말한다.
- John Curtis 상원의원 (R-Utah)은 Axios에게 "이것을 대중에게 판매하려는 과정에서 스스로 발에 걸려 넘어지는 것이 명백하다"고 말했다. "지금 당장 일상적인 미국인들과 동떨어져, 진공 상태에서 운영되는 집단을 상상하기가 매우 어렵다."
- Ro Khanna 하원의원 (D-Calif.)은 Axios에게 "Sam Altman 같은 CEO들은 이 기술의 혜택을 위해 세상에 나쁜 일이 일부 일어나도 받아들여야 한다고 말하고 있다"며, "우리 안전을 지키기 위한 결정을 억만장자들에게 맡길 수는 없다"고 말했다.
- Bernie Moreno 상원의원 (R-Ohio)은 이달 초 Anthropic CEO Dario Amodei에게 보낸 서한에서 Amodei의 '공황 유발적 논평'에 대해 불만을 제기하며 "당신의 본능은 대중의 AI 담론을 혼란에 빠뜨리는 것이다"라고 말했다.
민주당원들은 또한 최고 AI 및 기술 리더들이 트럼프 대통령에게 얼마나 가까이 붙었는지에 대해 면밀히 주시해 왔다. 많은 사람들은 AI 실수(gaffes)를 쉬운 정치적 승리로 바꿀 기회를 보고 있다.
- 크리스 머피 상원 의원(민주당, 코네티컷 주)은 Axios에 "미국 국민들은 도널드 트럼프가 기술 거물들에게 가까이 붙는 것을 싫어하며, AI가 우리의 일자리와 생계를 위협한다는 사실을 싫어한다"고 말했다. 그는 또한 "민주당원들은 AI 산업의 정치 자금 문제, 데이터 센터 문제를 제기하고, 노동자와 아이들을 보호하기 위해 공세적으로 나서야 한다"고 덧붙였다.
전반적인 상황: 금요일 밤의 뉴스 폭발과 중요한 주말 블로그 게시물들이 Anthropic과 OpenAI의 주요 활동 영역이 되었다.
- 규제 당국자들은 이것이 기능(feature)인지 버그(bug)인지 의문을 품고 있다. 즉, 기업공개(IPO)를 앞두고 손상된 서사를 조용히 수정하려는 의도적인 시도인지, 아니면 워싱턴을 헤쳐나가는 데 어려움을 겪는 경험 부족 팀들의 작업인지를 말이다.
- 의회 사무실(Hill offices)과의 대화를 인용한 한 소식통은 "우리는 모두 무슨 일이 일어나고 있는지 추측할 수 있지만, 결국 월요일 아침에 모든 사람이 '이 사람들은 끔찍해, 이제 충분하다'라고 말하게 만들 뿐"이라고 말했다.
이면의 상황: 행정부 관계자들은 두 가지 이유로 다시 한번 Anthropic에 불만을 품고 있다.
- Anthropic CEO Dario Amodei는 트럼프와의 9월 말 모임에 참석했지만, 정부 웹사이트에 영향을 미친 Anthropic 모델 관련 안전 사고를 공개하지 않았습니다. 이 회사는 현지 시간 10월 8일 목요일에 미국 관리들에게 이를 알렸고, 이후 금요일 저녁 블로그 게시물을 발행했습니다.
- 한 관리는 Axios에 "그들이 공을 숨기고 있었다"고 말했습니다.
- 그러자 이 회사는 광범위하게 반대해 온 내용(주(州)의 AI 법률에 대한 연방 전면 적용/federal preemption of state AI laws)을 포함하는 AI 안전 법안으로 혼란을 가중시켰습니다. 또한, AI 관련 대재앙적 사고를 사망자 50명 이상을 유발하는 것으로 정의하여 반발을 샀습니다.
- 이후 Anthropic의 홍보 담당 책임자(Head of Public Affairs)는 법안의 일부 내용을 철회했으며, 이는 회사의 옹호 활동이 매우 혼란스럽기 때문에 워싱턴에서 불신을 키우고 있습니다.
Anthropic은 검토가 완료된 후 백악관(White House)과 관련 기관들에게 안전 사고에 대해 브리핑했다고 밝히며, 사고 보고 프로세스를 개발하는 과정에서 슈퍼 인텔리전스 포스와 협력하고 있다고 말했습니다.
- 업계는 사고 보고에 대한 더 많은 명확성을 요구하고 있으며, AI 회사들은 행정부의 프로세스가 간단하지 않다고 보고 있습니다.
- Politico에 따르면, 사망자 기준으로 AI 대재앙을 정의하는 조항은 캘리포니아 및 기타 지역의 주요 주 규정의 일부였습니다.
심층 분석: 워싱턴이 AI 임원들로 인해 겪는 골칫거리는 OpenAI에도 영향을 미치며, 두 회사 모두 개발 중인 FTC(연방거래위원회) 조사 대상입니다.
- OpenAI의 입법 전략은 의회(the Hill)와 주지사 회의에서도 논란을 일으키고 있습니다.
- 회사의 수석 로비스트인 Chris Lehane의 블로그 게시물에 대응하여, 뉴욕주 의원 Alex Bores는 OpenAI의 정책 제안이 모호하며, 이 회사가 궁극적으로 주(州)들이 규제하는 것을 막으려 한다고 말했습니다.
- 한 OpenAI 대변인은 회사가 전국 양당, 행정부와 주 정부들과 접촉해 왔다고 말했습니다. 이 회사는 "전국 사람들과" AI의 이점에 대해 이야기하고 있다고 합니다.
현실 점검: 이러한 노력들은 지금까지 사람들의 마음을 얻는 데 실패했으며, [또 다른 최근 여론조사]에 따르면 미국인 대다수는 AI가 사회에 해롭다고 보고 있습니다.
결론적으로: AI CEO들에게 주는 교훈은 점점 더 명확해지고 있습니다. 즉, 적게 하라는 것입니다.
Axios의 Stef W. Kight가 취재에 참여했습니다.