많은 기대를 모았던 Anthropic의 기업공개(IPO)는 잠재적 투자자들에게 인공지능이라는 위험한 사업에 대한 관점을 제공하고 있다.
월요일에 공개된 Anthropic의 IPO 투자설명서(prospectus) 90페이지 이상은 이 AI 연구소의 수많은 기업 위험 요인에 초점을 맞추고 있으며, 그중 상당수는 일반적인 회사 공시 자료에서 볼 수 있는 형식적인 시나리오를 넘어선 것이다.
인류의 종말부터 회사와 트럼프 행정부 간의 현재 충돌에 이르기까지, Anthropic의 IPO 문서는 역사상 가장 자본력이 풍부한 스타트업 중 하나가 어떻게 자체 운영의 미래를 예측하는지 강조한다.
Claude 개발사의 위험 요소에는 모델이 피해를 입힐 수 있는 다양한 방식들이 포함되어 있으며, 여기에는 잠재적으로 "인류에게 재앙적이거나 실존적인 위험"을 초래할 가능성도 있다.
투자설명서에 따르면, Anthropic은 AI 안전성을 강조하는 것이 필수적이다. 그렇지 못할 경우 "브랜드, 사업, 재무 상태 및 영업 결과"에 부정적인 영향을 미칠 수 있기 때문이다. 그러나 치열한 경쟁, 시장 압력, 이해관계자들의 기대는 최첨단(bleeding-edge) 파운데이션 모델을 안전하게 개발하고 구현하는 작업을 특히 어렵게 만든다.
기술 자체의 내재적 복잡성 때문에 회사가 모든 잠재적인 시나리오를 계획하고 예측하기 어렵기 때문에, Anthropic은 자사의 AI 안전 노력만으로는 충분할 것이라고 보장할 수 없다.
데이터 센터에 대한 대중의 부정적인 입장은 큰 위험을 제기한다. Anthropic은 자사의 소중한 파운데이션 모델을 훈련하고 유지하기 위해 끊임없이 확장되는 최첨단 컴퓨팅 시설 포트폴리오에 의존하고 있기 때문이다.
그리고 중간 선거가 다가오면서, 기술 산업의 대규모 데이터 센터 건설은 정치적인 이슈가 되었으며, National Conference of State Legislatures에 따르면 16개 주(state)의 법률 입안자들이 모라토리엄(moratoriums)을 고려하고 있다.
투자설명서에는 "데이터 센터 개발에 대한 반대가 관할 구역 전반에 걸쳐 더욱 조직화되고 조정되었으며, 우리의 공적 프로필은 우리와 관련된 프로젝트에 특별한 관심을 끌 수 있다"고 명시되어 있다.
Anthropic의 미래 성공은 거대한 데이터 센터를 구축하는 것뿐만 아니라, 이러한 컴퓨팅 시설에 동력을 공급하는 데 필요한 전기 및 관련 전력 인프라에도 달려 있습니다.
해당 공시 자료에 따르면, 국가 및 전 세계적인 '충분한 전기 공급' 부족은 Anthropic과 경쟁사들에게 큰 위험을 초래합니다. 공시 자료는 또한 에너지가 '현장 천연가스 발전(on-site natural gas-fired generation)'을 통해 더 쉽게 이용 가능해지더라도, 수요가 워낙 많아지면 그 전력이 더 비싸질 수 있다고 언급했습니다.
OpenAI나 Meta 같은 경쟁사들은 자신들의 AI 모델 및 앱 설계와 구현이 특정 아동 안전 관련 피해를 조장했다는 의혹으로 법률가들과 원고 측 변호사들로부터 비판을 받아왔습니다. Meta는 최근 아동 정신 건강 및 기술 중독과 관련된 소송에서 여러 주(state)의 검찰청(AGs)과 합의하여 약 170억 달러를 지불하기로 했습니다.
지금까지 Anthropic은 대체로 감시를 피했지만, 해당 공시 자료는 이 회사가 자체적인 법적 문제에 직면할 가능성이 있다고 언급했습니다. 서비스 약관(terms of service)에 따르면 미성년자는 Claude 및 관련 제품에 접근하는 것이 허용되지 않습니다.
Anthropic은 '미성년자 및 기타 취약 사용자들에 의한 채택이 증가함에 따라, 그러한 접근을 제한하려는 노력에도 불구하고' 아동 보호를 위해 할 일이 남아있다는 것을 알고 있습니다. 또한 이 최전선(frontier)의 속도를 조절해야 한다고 주장하는 회사 역시 너무 느리게 움직이는 것이 위험하다고 말합니다.
Anthropic은 계속해서 속도를 내야 하며 나머지 비즈니스 세계가 따라와 주기를 필요로 합니다. 만약 기업들이 AI 지출을 삭감한다면, Anthropic은 타격을 입을 수 있습니다.
해당 공시 자료는 "당사의 모델, 플랫폼 및 애플리케이션 시장이 예상보다 느리게 발전하거나 쇠퇴할 경우, 당사의 성장이 둔화되거나 정체될 수 있으며, 당사의 사업, 재무 상태 및 영업 결과가 부정적인 영향을 받을 수 있습니다"라고 명시했습니다.
투자설명서(prospectus)는 또한 프론티어 모델(frontier models)에 대한 수요 감소를 위험 요소로 언급합니다. 고객들은 저비용 모델(lower-cost models)만으로도 충분하며, "프론티어에서의 점진적인 성능 향상(incremental performance gains at the frontier)"이 추가 비용을 정당화하지 못한다고 판단하여, 대신 더 저렴하거나 오픈 소스 대안을 선택할 수 있습니다.
시청: Anthropic의 IPO 서류는 AI 거래 수요 측면에서 무슨 일이 일어나고 있는지 보여줍니다.
Anthropic IPO filing shows what's happening on demand side of AI trade: Notable Capital’s Richards
