미국의 칩 수출 규제가 오히려 중국 AI 인프라에 유리할 수 있음. 중국 기업들이 자체 AI 칩 개발을 서두를 수밖에 없기 때문임.

미국 칩 수출 규제의 승자는 Huawei, SMIC, CXMT, 중국의 ASML 경쟁사, OpenAI, Anthropic, Amazon, Microsoft, Google, Meta임. 패자는 중국 AI 연구소, Nvidia, AMD, TSMC, Micron, SK Hynix, Samsung, Intel임.
OpenAI, Anthropic, AWS처럼 Nvidia 하드웨어에 의존하는 기업은 칩과 서비스 확보 경쟁이 줄어 이득을 봄. 지금도 Nvidia 칩이 비싸다면 중국 기업까지 자유롭게 구매할 때의 가격을 상상해 보면 됨. 미국 AI 연구소들은 연산 자원에서도 중국보다 우위를 유지할 수 있음. 미국 하드웨어 제조사들이 워싱턴의 로비전에서 패한 셈임.

이렇게 될 것은 뻔했음. 본문에서도 동일한 하드웨어의 초기 기준 대비 전체 서빙 성능을 3배 높였고, 하드웨어 효율과 토큰당 비용이 주류 NVIDIA GPU에 필적한다고 함. 중국산 칩으로도 최첨단 모델의 대규모 추론을 효율적이고 경제적으로 처리할 수 있음을 보여 줌.

Jensen이 정확히 이 얘기를 했을 때 다들 비웃지 않았나?

근시안적인 조치였고 중국에는 이득임. 공급 확대와 가격 경쟁으로 이어질 테니 세계 시장 전체에도 도움이 됨.

중국도 이를 알고 있음. Trump가 제재를 완화해 NVIDIA H200의 중국 판매를 건별로 허용하자, 중국 정부가 개입해 사실상 막아 버렸음.
Ziphu가 쓰는 Ascend 시리즈를 만드는 Huawei 외에도, 자체 AI 가속기를 만드는 중국 기업이 적어도 여섯 곳가량 더 있음.

중국산 AI 가속기 10만 개 이상으로 구성된 클러스터에 실서비스급 추론 서비스를 처음부터 구축했음. GLM-5.3-Flash의 모든 실서비스 추론이 이 시스템에서 실행됨.

100조 토큰 무료 제공을 결정했을 때 이미 대다수가 어느 정도 짐작했을 것임.

미국과 중국 업체의 발표 어조가 비슷해지는 것이 흥미로움. 과거 GLM은 재귀적 자기 개선(RSI) 같은 미래 발전을 추측하기보다 기술적인 내용에 더 집중했음.
가속기 10만 개가 전부 자국산인지도 궁금함. 노광, 메모리, 설계 등 모든 요소가 완전히 자국 기술이라면 대단한 성과임.

GLM을 만드는 Ziphu는 SMIC가 제조한 Huawei Ascend 프로세서를 사용함. Huawei는 CXMT의 중국산 메모리와 제재 이전에 확보한 Samsung 메모리를 함께 사용함.
미국의 Intel과 Micron을 비롯한 다른 업체들처럼 SMIC도 현재 ASML 노광 장비를 사용하며, EUV가 아닌 DUV임. 다만 Shanghai Aishengna가 자체 DUV 장비의 초기 생산에 진입하고 있고, SMIC와 CXMT가 초기 고객임. 중국 정부가 지원하는 EUV 개발도 진행 중임.

최신 지식 증류 방식에 관한 세부 내용도 궁금함.

Intel Arc B770을 구할 수 없으니, 다음에는 소비자용 GPU도 공략해 주면 좋겠음.

“일련의 공격적인 메모리 최적화를 구현했다”는 대목을 보면, 전체적으로 산업 규모의 자동화 연구처럼 느껴짐. 다만 자신이 무엇을 하는지 제대로 아는 사람들이 수행하는 형태임.

내가 놓친 게 있을 수 있지만, 사이트에 들어가 보니 Claude보다 비싸던데 GLM을 선택할 이유가 뭘까? 요금제에서 토큰을 더 많이 주는 것인가?

Anthropic은 접근을 제한하려고 로비하지만, 이쪽은 모델 가중치를 다운로드할 수 있게 공개하는 회사이니 지지할 이유가 됨.

어떤 상품을 말하는 것인가? 여기 독자층을 생각하면 GLM Coding Plans를 뜻하는 것 같은데, 코딩 요금제는 모두 Anthropic의 대응 요금제보다 저렴함. 내가 확인한 바로는 API 비용도 대략 동급 성능의 Anthropic 모델보다 모두 저렴함.

사용량·토큰·크레딧의 의미가 모호하고 실제 이용량과 동떨어져 있으니, 둘 다 써 보지 않고는 어느 쪽이 더 나은 조건인지 판단하기 어려움.

이 인프라가 모든 트래픽을 감당해 주면 좋겠음. z.ai에서 GLM을 써 봤는데 속도가 달팽이처럼 느림.
동시에 사용량 제한도 엄격해서, 밤새 작업을 맡겨 두려고 해도 그 전에 한도에 도달하는 경우가 많음.

느리다고 트래픽을 감당하지 못한다는 뜻은 아님. 업체 입장에서는 그 속도가 최적의 절충점일 수 있음. 개별 사용자에게 최대한 빨리 응답하기보다, 사용자당 초당 토큰 수를 낮추고 여러 사용자의 요청을 병렬 처리하면 전체 토큰 처리량을 늘릴 수 있음. 트래픽이 줄어도 속도를 높여 주기보다는 GPU를 끌 가능성이 큼.

미국에서 AI 칩에 엄청난 돈을 쓰고 있는데, 미국 AI 연구소들이 같은 수준의 소프트웨어 최적화를 하지 못할 이유가 있나? 처리 용량 부족을 일부 해결할 수 있을 것 같음.