이번 주에는 많은 일이 있었으며, 솔직히 말해서 풍경은 우리 대부분이 따라잡을 수 있는 것보다 더 빠르게 계속 변화하고 있습니다. Meta가 마침내 인프라 측면에서 패를 보여주고 있습니다. GLM-5.2는 오픈 소스 (Open Source)를 훨씬 더 진지하게 보이게 만들고 있습니다. Microsoft는 Microsoft가 하는 방식대로 — 문제에 돈과 인력을 쏟아붓고 있습니다. 소음 속에서 내용을 정리해 봅시다.

Meta의 클라우드 전략: 차세대 AWS를 구축하는 것인가?

Bloomberg와 CNBC가 Meta가 클라우드 인프라 (Cloud Infrastructure) 사업을 추진 중임을 확인한 후, 이번 주 Meta의 주가는 약 9% 급등했습니다. 아이디어는 무엇일까요? 자신들을 위해 구축해 온 거대한 AI 연산 능력 (AI Compute Capacity)에 대한 접근 권한을 판매하는 것입니다.

우리가 이야기하고 있는 규모는 다음과 같습니다: Meta는 올해에만 자본 지출 (Capex)로 최대 1,450억 달러를 지출할 것으로 예상합니다. 이는 2025년에 지출한 700억 달러에 더해진 금액입니다. 루이지애나에 있는 데이터 센터 캠퍼스인 Hyperion은 5기가와트 (5 Gigawatts)를 소비하도록 설계되었으며, 이는 400만 가구 이상에 전력을 공급할 수 있는 양입니다. 수백만 개의 GPU가 가득 찬 11개의 건물입니다.

흥미로운 점은 단순히 Meta가 여유 연산 능력을 가지고 있다는 것만이 아닙니다. 그들은 Nvidia, AMD, Google로부터 구매하며 멀티 칩 (Multi-chip) 전략을 취하고 있다는 점입니다. 또한 그들은 자체 실리콘 (Silicon)도 보유하고 있습니다: 지난 3월에 데뷔한 MTIA 300 추론 가속기 (Inference Accelerator)가 있으며, 내년에는 8배 더 빠를 것으로 추정되는 차세대 칩이 출시될 예정입니다.

제 관점에서 볼 때, 이 움직임은 매우 타당합니다. Meta는 부분적으로 유휴 상태로 남아 있는 인프라에 현금을 태워왔습니다. 그것을 수익화하지 않을 이유가 있을까요? 하지만 위험은 분명합니다. 그들은 지난 10년 동안 클라우드 판매를 완벽하게 다듬어 온 세 회사인 AWS, Azure, Google Cloud와 경쟁하게 될 것입니다. 이 소식만으로 CoreWeave는 14% 하락했고 Nebius는 17% 하락했습니다. 이것들은 실제적인 희생자들입니다.

제가 충분히 논의되는 것을 보지 못한 한 가지는, Meta가 이 클라우드 서비스를 통해 그들의 멀티모달 추론 모델 (multimodal reasoning model)인 Muse Spark를 개방할 수도 있다는 점입니다. 만약 그들이 공격적인 가격 정책을 펼친다면, 이는 OpenAI의 API 비즈니스에 대한 직접적인 공격이 될 것입니다. 이 부분을 주목해 보십시오.

GLM-5.2: 물러서지 않는 오픈 소스 모델

Z.ai (구 Zhipu AI)는 몇 주 전 MIT 라이선스로 GLM-5.2를 조용히 출시했으며, 이는 여전히 파장을 일으키고 있습니다. FrontierSWE와 같은 장기 코딩 벤치마크 (long-horizon coding benchmarks)에서 GLM-5.2는 Anthropic의 Opus 4.8과 1점 차이 이내의 점수를 기록하며, 실제로 GPT-5.5를 약 1% 차이로 앞섭니다. 컨텍스트 윈도우 (context window)는 100만 토큰까지 확장되는데, 이는 약 20만 토큰인 Anthropic의 Fable 5와 비교되는 수치입니다.

진정한 차이는 가격 격차에서 나타납니다. GLM-5.2를 대규모로 실행하는 비용은 유사한 미국의 프런티어 모델 (frontier models)에 지불하는 비용의 약 5분의 1 수준입니다. 스타트업과 중소기업에게 이는 엄청난 차이입니다. 모든 차원에서 Fable 5 수준의 정교함을 얻는 것은 아니지만, 코드 리뷰 (code review), 취약점 탐지 (vulnerability detection), 그리고 긴 문서 분석 (long-document analysis)에 있어서는 가격 우위가 타격을 줄 만큼 충분히 경쟁력이 있습니다.

두 명의 독립적인 보안 연구원들은 GLM-5.2가 보안 취약점을 탐지하는 능력이 Anthropic 및 OpenAI와 대등함을 확인했습니다. 이는 방어자들에게는 좋은 소식이지만, 가중치 (weights)가 자유롭게 공개되어 있기 때문에 공격자들에게도 분명 진입 장벽을 낮춰줍니다.

이러한 배경 또한 주목할 가치가 있습니다. Anthropic의 Fable 5와 Claude Mythos에 대한 미국 정부의 규제는 하나의 문을 열어주었습니다. 중국 개발자들은 그러한 제약을 받지 않으며, GLM-5.2는 그 빈틈을 바로 파고듭니다. 이를 건강한 경쟁으로 볼 것인지 아니면 보안 우려로 볼 것인지는 아마도 당신이 어디에 서 있느냐에 달려 있을 것입니다.

STAR-KV: 실제로 돈을 아껴주는 기술적 디테일

Dnotitia의 STAR-KV 논문이 ICML 2026의 Spotlight로 채택되었습니다. 이는 제출된 논문 중 상위 약 2.2%에 해당하는 성과입니다. 핵심적인 수치는 20배의 KV 캐시 압축 (KV cache compression)인데, 이는 추론 비용 (inference costs)에 미치는 영향을 깨닫기 전까지는 단순히 연구실의 과시처럼 들릴 수 있습니다.

참고로, LLaMA-3.1-8B 모델이 배치 크기 (batch size) 4에서 128K 토큰 시퀀스를 처리할 때, KV 캐시 (KV cache)가 전체 GPU 메모리의 약 81%를 점유합니다. 이는 말도 안 되는 수준입니다. STAR-KV는 저차원 압축 (low-rank compression)과 혼합 정밀도 양자화 (mixed-precision quantization)를 사용하여 이를 획기적으로 줄이는 동시에, 어텐션 연산 (attention computation)을 최대 6.9배, 전체 생성 (generation) 속도를 3.1배 가속화합니다.

이는 에이전트 시스템 (agentic systems), 코드 저장소 (code repositories), 문서 분석 (document analysis)과 같이 긴 컨텍스트 워크로드 (long-context workloads)를 실행하는 모든 이들에게 중요합니다. 토큰당 비용을 지불하고 있다면, 메모리 측면에서의 20배 압축은 동일한 하드웨어에서 더 큰 컨텍스트를 실행하거나, GPU 비용을 줄일 수 있음을 의미합니다. 어느 쪽이든 경제성이 개선됩니다.

주요 소식 (Quick Hits)

• Microsoft가 20억 달러 규모의 새로운 AI 기업을 설립했으며, 6,000명의 전방 배치 엔지니어 (forward deployment engineers)를 배치했습니다. 이는 엄청난 인력입니다. 관건은 배치가 중심이 될지, 연구가 중심이 될지 여부입니다.
• Anthropic은 정부의 중단 명령 이후 Fable 5를 복구했으며, CAIS는 실제 원격 작업 작업에서 이를 1위로 선정했습니다. 미국의 AI 정책 변동성 (whiplash)은 계속되고 있습니다.
• Palantir의 CEO Alex Karp는 기업들에게 데이터를 LLM 제공업체에 넘기지 말라는 9개 항목의 선언문 (manifesto)을 발표했습니다. 타당한 지적이지만, Palantir 자신의 데이터 비즈니스를 편리하게 보호하는 측면도 있습니다.
• AI 브라우저에 대한 새로운 공격은 가드레일 (guardrails)이 작동을 멈추는 상태로 브라우저를 속일 수 있음을 보여줍니다. 보안 연구원들이 LLM을 브라우저의 운전석에 앉히는 것에 대해 불안해하는 것은 당연합니다.
• 128GB RAM과 126 TOPS를 탑재한 그 말도 안 되는 AMD Ryzen AI Max 395 미니 PC가 출하되고 있습니다. 이는 니치 (niche)한 제품입니다. 로컬 추론 (local inference)을 위해 그 정도의 돈을 쓸 의지가 있어야 하겠지만, 하드웨어가 나아가는 방향을 보여주는 신호입니다.

이번 주의 큰 주제는 인프라 (infrastructure)입니다. 클라우드 비즈니스를 구축하는 Meta, 배치를 강화하는 Microsoft, 추론 비용을 절감하는 STAR-KV, 그리고 GLM-5.2의 가격 압박 — 이 모든 것은 동일한 방향을 가리키고 있습니다. 즉, AI는 누가 최고의 모델을 만드느냐만큼이나 누가 이를 효율적으로 전달할 수 있느냐가 중요해지는 단계로 진입하고 있습니다.

다음 프로젝트를 위한 비용 계산을 수행 중이라면, **PayCalc**를 확인해 보세요.

여러분의 생각은 어떠신가요? Meta의 클라우드 전략이 우려되시나요, 아니면 이미 포화 상태인 시장의 또 다른 제공업체일 뿐이라고 생각하시나요?