7월 12일에 발표되어 널리 퍼진 에세이에서, Microsoft (NASDAQ: MSFT)의 CEO Satya Nadella는 기업들이 인공지능 (AI)을 배포하는 방식에 있어 근본적인 불균형이 있다고 지적했습니다. 그는 기업들이 본질적으로 지능에 대해 두 번 비용을 지불한다고 주장했습니다. 첫 번째는 토큰 (tokens)을 통해서이며, 두 번째는 AI를 유용하게 만들기 위해 공개해야 하는 독점적 지식 (proprietary knowledge)을 통해서입니다.

*2009년에 Nvidia를 놓치셨나요? 이 희귀한 신호가 다시 깜빡이고 있습니다. 2009년, 잘 알려지지 않은 칩 제조사인 Nvidia를 위해 "Double Down" 신호가 나타났습니다. 수년 만에 처음으로, Nvidia 크기의 1/100에 불과한 기업에 대해 동일한 "Total Conviction" 신호가 깜빡이고 있습니다. *계속 읽기 »

조직이 모델에 입력하는 모든 프롬프트 (prompt)와 수정 사항은 "배출물 (exhaust)"이 됩니다. 즉, 조직이 어떻게 운영되는지에 대한 통찰력의 흔적이 "흔적 하나하나" 유출되는 것입니다. 이러한 "역정보 역설 (Reverse Information Paradox)"에 대응하기 위해, Nadella는 기업들이 자체적인 "테넌트 경계 (tenant boundary)" 내에서 AI를 실행함으로써 데이터에 대한 통제권을 가져야 한다고 주장했습니다.

기업 지식재산권 (IP) 보호 비용

오늘날 기업들은 프런티어 AI (frontier AI) 모델에 접근하기 위해 세 가지 주요 경로를 사용합니다. Azure OpenAI Service와 같은 대규모 클라우드 플랫폼을 사용하거나, Amazon (NASDAQ: AMZN)의 AWS Bedrock을 이용하거나, 모델 제공업체로부터 직접 애플리케이션 프로그래밍 인터페이스 (API)를 받거나, 혹은 이 둘을 혼합하여 사용할 수 있습니다.

클라우드 경로는 값비싼 하드웨어를 필요로 하지 않으며, 직접적인 경로는 Anthropic과 같은 기업들에 의해 잘 확립되어 있습니다. Anthropic은 직접적인 기업 계약을 통해 수십억 달러 규모의 비즈니스를 구축했습니다. 어떤 경로를 선택하든, Nadella가 설명한 위험은 여전히 남아 있습니다.

모델 제공업체의 인프라는 기업이 어떻게 운영되는지를 드러내는 사용 패턴과 질의 데이터 (query data)를 필연적으로 포착하게 됩니다. 이에 대응하여, 주권 국가들과 규제 대상 기관들은 점점 더 자체 하드웨어에 투자하고 있습니다.

Hewlett Packard Enterprise (NYSE: HPE)는 60억 달러의 AI 서버 백로그 (backlog)와 함께 2분기를 마감했으며, 이 중 약 60%는 주권 국가(sovereign nations)와 기업 고객으로부터 발생했습니다. HPE는 작년 Juniper Networks 인수를 통해, 자체적인 AI 역량을 구축하는 조직들에게 서버, 스토리지(storage), 네트워킹(networking)이 통합된 온프레미스 (on-premise) 스택을 판매할 수 있게 되었습니다.

한편, Dell Technologies (NYSE: DELL)의 백로그 (backlog)는 계속해서 성장하고 있습니다. 이 회사는 지난 분기에 240억 달러 이상의 AI 주문을 기록했으며, 510억 달러의 백로그 (backlog)를 남기며 분기를 마쳤습니다. 경영진은 고객들이 자신이 제어할 수 있는 인프라에 배포할 수 있는 통합 솔루션을 찾고 있으며, 민감한 데이터와 지식 재산(IP)을 온프레미스 (on-premise)에 유지하도록 설계된 특정 제품들을 원하고 있다고 언급했습니다.