Micron Technology (MU) 주식 투자자들은 Kimi K3 출시 이후 또 다른 'DeepSeek 모멘트'를 예상할 충분한 이유가 있었습니다.

하지만 이러한 우려는 새로운 것이 아니었으며, 꽤 명확했습니다.

비용 효율적이고 더 효율적인 AI는 붐을 일으키고 있는 값비싼 하드웨어에 대한 수요를 약화시킬 수 있습니다.

월스트리트(Wall Street)는 끊임없는 AI 지출 사이클에 의문을 제기하고 있었지만, 저와 공유한 노트에서 Bank of America는 반대 방향으로 움직였습니다.

이 은행은 최근의 AI 파괴적 혁신이 메모리 테제(memory thesis)를 깨뜨리지 않는다고 주장하며, Micron에 대한 매수(Buy) 의견과 $1,550 목표 주가를 재확인했습니다.

대신, BofA는 시장이 방정식의 잘못된 부분에 집중하고 있다고 보고 있습니다.

Kimi K3, AI 경쟁의 판도를 높이다

Wikipedia에 따르면, 7월 16일에 Kimi K3를 출시한 중국 AI 스타트업 Moonshot AI는 미국 AI 개발사들과의 격차를 좁히려는 중국의 추진력에 있어 주요한 단계적 격상으로 간주되었습니다.

더 많은 AI:

Reuters는 Kimi K3를 세계 최대 규모의 오픈 웨이트 (open-weight) AI 모델로 설명했으며, Moonshot은 이 모델이 2.8조 개의 파라미터(parameters), 100만 토큰의 컨텍스트 윈도우(context window), 그리고 코딩, 지식 작업 및 심층 추론을 위해 설계된 역량을 갖추고 있다고 주장했습니다.

눈에 띄는 점은 Kimi가 프런티어 수준(frontier-level)의 성능 주장과 오픈 웨이트 (open weights), 그리고 대부분의 서구권 대안 모델보다 상당히 낮은 배포 비용을 효율적으로 결합했다는 것입니다.

사용자들은 폐쇄형 API에 의존하는 대신 자신의 특정 요구 사항에 따라 모델을 다운로드, 맞춤화 및 운영할 수 있습니다.

게다가 이번 출시는 중국의 오픈 모델 생태계가 얼마나 빠르게 발전하고 있는지를 강조했으며, 이는 OpenAI와 Anthropic에 대한 경쟁 압력을 높이는 동시에 강력한 모델을 실행하는 데 필요한 칩, 메모리 및 스토리지에 대한 수요를 잠재적으로 확대할 수 있습니다.

흥미롭게도, 제가 최근 다루었듯이 Microsoft의 CEO Satya Nadella는 고객들이 AI 기업에 사실상 두 번 비용을 지불하게 된다는 경고를 해왔으며, 이는 Kimi K3의 오픈 웨이트 (open-weight) 출시 이면에 있는 논리를 간접적으로 뒷받침합니다.

기업들은 궁극적으로 프롬프트(prompt), 수정 사항, 그리고 기관의 지식(institutional knowledge)을 생성하는 워크플로우(workflow)에 대해 더 큰 통제권을 유지하면서 모델을 프라이빗(privately)하게 배포할 수 있습니다.

BofA는 왜 Kimi의 효율성이 여전히 메모리 수요를 증가시킨다고 생각하는가?

BofA의 논거는 연산 효율성(compute efficiency)과 메모리 용량(memory capacity)을 분리하는 것에 달려 있습니다.

이해를 돕기 위해 살펴보면, Kimi K3는 2.8조 개의 파라미터(parameter)를 가진 전문가 혼합 (Mixture-of-Experts, MoE) 모델이지만, 토큰당 약 500억 개의 파라미터, 즉 전체의 약 **1.8%**만을 활성화합니다. 당연히 이는 추론(inference)에 필요한 연산량을 상당히 줄여줍니다.