최근 며칠간 공개 가중치·공개 아키텍처 모델이 쏟아지는 걸 보니, 결국 모델을 ASIC으로 가장 빨리 굽는 곳이 승리할 가능성이 커 보임
K3 발표에서 드러났듯 LLM 자체도 칩 설계 일부를 수행할 수 있고, 최첨단 모델은 이미 광범위한 작업에 충분하며 곧 상당수 소프트웨어 개발에도 그 수준에 도달할 것임
Fable 5를 Nvidia GPU의 초당 150토큰 대신 ASIC에서 초당 9,000토큰으로 구동한다면 대부분의 수요를 충족할 수 있음
기업도 OpenAI나 Anthropic에 데이터를 넘기는 대신 소수의 온프레미스 ASIC으로 다양한 용도를 더 안전하게 처리할 수 있음

암호화폐용 ASIC은 알고리즘 변화가 느리고 내용도 잘 알려져 있었지만, LLM 아키텍처는 훨씬 빠르게 변함
칩 출시 세부 사항을 조율하는 사이 몇 배 빠른 새 논문이나 접근법이 나올 위험을 감수하고 싶지 않음
개발자들은 브랜드 충성도가 매우 낮아 최고의 모델로 바로 이동하므로, 최고의 모델이 프로그래밍 가능한 GPU에서 돌아가는 동안은 GPU가 지배적일 것으로 봄

“누구에게나 640KB면 충분할 것이다”라는 식의 판단처럼 들림

최신 OpenAI와 Anthropic 모델도 여행 일정 계획을 형편없이 수행함
자주 사용해 보지만 요청한 조건을 완전히 어기며, 추천 경유지의 절반가량이 필터를 충족하지 못함

Fable과 Mythos는 거대한 Xeon처럼, 작고 가벼운 모델들은 전력을 적게 먹는 다수의 ARM 칩처럼 보여 Intel 대 ARM 구도가 재현되는 느낌임
자원이 무제한인 것처럼 더 큰 모델을 만들라는 고객을 따르면 당장은 큰돈을 벌지만, 효율성과 지속적인 개선으로 성장한 Apple Silicon 같은 존재에 추월당할 위험이 있음

Cerebras처럼 맞춤형 하드웨어는 이미 존재함
한 연구소는 일반 소프트웨어 스택에서 초당 약 100토큰이던 80억 매개변수 모델을 MI300X 한 장에서 초당 약 3,000토큰까지 생성했음
초당 1TB 이상을 읽는 수 TB 규모의 고대역폭 플래시도 개발 중이므로, 몇 년 뒤에는 HBM 4090GB와 HBF 4TB를 갖춘 카드로 3조 매개변수 모델을 약 1만2만 달러에 로컬 구동할 수도 있음

Figma 사례를 계속 떠올리게 됨
Anthropic CPO이자 Instagram 공동 창업자인 Mike Krieger는 Figma 이사였지만 Claude Design 공개 직전 사임했고, Figma는 Anthropic 모델과 공동 “Code to Canvas” 통합에 의존하면서도 Claude Design의 범위는 미리 알지 못한 것으로 전해짐
발표 직후 Figma 주가가 7% 하락하며 기반 모델 기업이 SaaS 협력사의 응용 계층을 잠식하는 SaaS 종말론이 현실화됐음
LLM 기업에 데이터를 제공하거나 의존할 때는 신중해야 하며, AI 스타트업의 아이디어가 성공하면 이들이 직접 경쟁하거나 API 가격을 좌우할 수 있음

과거 FB·Twitter, 이후 Reddit API 위에 앱을 만들었다가 어느 순간 기반을 빼앗긴 개발자들이 떠오름

코딩 도구 매출은 지금 중요하지만 최종 목적은 아니며, AI 기업은 막대한 기업가치를 정당화하려면 소비자용 슈퍼 앱이 되어야 함
OpenAI는 Apple과 Android 의존을 벗어나려고 자체 하드웨어까지 설계하며 소비자용 슈퍼 기기에 크게 베팅하고 있음
장기전은 AI 기업 대 SaaS가 아니라 Apple·Google·Meta·Amazon 같은 대형 소비자 브랜드와의 경쟁이며, 어떤 작업이든 받아 즉석에서 코드와 인터페이스를 만드는 궁극의 디지털 비서를 먼저 완성하면 Apple조차 구식이 될 수 있음

현재의 자본주의는 독점적 행태를 중심으로 돌아가므로, LLM 기업이 직원을 대체할 수준에 이르면 삽을 파는 대신 직접 금을 캘 것으로 예상함
다른 서비스 위에 세운 제품은 인수되거나 기반 서비스에 흡수되기 쉬우며, Apple도 수많은 인기 앱 기능을 조용히 iOS에 편입해 왔음

GPT 5 출시 무렵 이력서 맞춤 앱을 만들었지만 GPT 5.5가 나올 때쯤에는 원본 서식을 유지한 완벽한 PDF·Word 이력서를 바로 생성할 수 있었음
연구소와 경쟁하며 얇은 래퍼를 만드는 건 위험하지만, 챗봇이 곧바로 복제할 수 없는 가치 있는 제품을 만든다면 걱정할 필요가 없는 새로운 소프트웨어 시대이기도 함

Anthropic과 OpenAI는 경쟁 압력이 너무 커서 모든 무모한 제품 아이디어를 자본과 개발자로 쫓을 수 없으므로, 대기업이 스타트업을 돈으로 복제하던 시대는 끝났다고 봄

위험이 과장됐다고 봄
더 나은 모델에 더 지불하려는 수요가 있고, 내 작업 흐름에서 얻는 가치는 최첨단 연구소에 내는 월 200달러보다 훨씬 커서 비용을 조금 줄일 생각이 없음
실제 LLM보다 Claude Code나 Codex 실행 환경이 제공하는 가치가 크며 OpenCode 같은 오픈소스 구현은 아직 훨씬 부족함
Excel도 기능의 90% 이상을 제공하는 대안과 거의 동등한 Google Sheets가 있지만, 스프레드시트가 만드는 가치가 연 100달러보다 훨씬 커서 Microsoft의 강력한 해자가 유지됨

Claude와 OpenAI의 돈은 기업 고객에게서 나오며, 기업은 인프라 비용 최적화를 전담 직무로 둘 만큼 비용에 민감함
두 회사가 실행 환경 때문에 1조 달러 가치로 평가받는 것도 아님
기업용 Excel은 월 약 50달러지만 폐쇄형 연구소는 사용자당 몇 배나 더 청구하며, 나도 코딩을 많이 하지 않는데 하루 최소 50달러가량 사용함

기업은 보조금이 크게 들어간 일반 구독을 이용할 수 없으며, 개발자 약 100명이 AI를 적극 사용하면서 월 50만 달러를 쓰는 조직도 알고 있음

월 200달러를 가볍게 보는 건 부유한 선진국의 관점임
내가 사는 곳에서는 월급 200달러도 드물지 않고 개발자도 약 1,000달러라서, 가치가 아무리 커도 임대료와 식비를 못 낸다면 사용할 수 없음
선진국에서도 부유하지 않은 학생이나 창업가에게 월 200달러는 감당하기 어려움

더 나은 모델에 추가 비용을 낼 만한 성능 격차가 빠르게 줄고 있음
일주일 전까지는 Fable에 돈을 낼 가치가 있었지만 K3가 나오며 내게는 비용을 정당화할 수 없을 만큼 차이가 좁아졌음
실제 결과가 10% 좋아진다면 5배를 내도 되지만 2% 향상에 5배를 낼 사람은 훨씬 적음
또한 선호하는 실행 환경 대신 Claude Code를 강제로 써야 한다는 건 Anthropic의 장점이 아니라 단점임

Fable이 “금지해야 할 판도 변화 모델”에서 “괜찮지만 OpenAI도 비슷하고 공개 가중치 대안도 있다”로 바뀐 속도가 놀라움 과대광고 주기가 짧아졌고, 이번에는 정말 정체기에 도달한 것일지도 모름

Fable은 여전히 같은 훌륭한 모델이며, LLM 산업의 미래를 추측하는 글들은 통찰력도 흥미도 크지 않으므로 별로 신경 쓰지 않는 편이 좋음

연초에는 공개 가중치 모델이 OpenAI·Anthropic보다 4개월 뒤처졌지만, 이제 격차는 4~6주에 불과함

방어 장치가 없을 때만 가능한 탐욕적인 학습 방식에는 결국 한계가 옴
정보는 계속 변해 모델을 갱신해야 하지만 무료로 이용 가능한 데이터는 갈수록 줄어들 것임

OpenAI는 Anthropic과 마찬가지로 사실상 모델 전용 공급자인데, 왜 같은 방식으로 취약하지 않은지 의문임

ChatGPT는 비기술·비업무 LLM의 대명사가 됐고 막대한 사용자 이력을 축적하고 있음
이력은 개인 맥락을 제공해 제품을 개선하고, 모델 학습과 광고에도 활용할 수 있음
“휴가를 계획해 줘”라고 입력하면 전 과정을 조율하는 미래에는 사용자가 10% 싸거나 좋은 다른 모델로 쉽게 옮기지 않을 것임

OpenAI는 소비자 하드웨어로 다각화하면서 데이터센터도 더 많이 직접 소유하고 있음
제품이 실제 출시돼 어느 정도 성공한다면 다른 최첨단 연구소와 구별되는 독특한 위치를 차지할 수 있음

글에서는 제품·소비자 경험·사이트 게시·음성·하드웨어 투자가 더 명확한 해자를 만든다고 구분함
다만 이런 차별점은 현재 기대 이하이거나, 하드웨어처럼 전혀 검증되지 않은 상태임

소비자용 웨어러블뿐 아니라 더 중요하게는 추론용 칩도 개발하고 있음
좋은 모델을 만드는 것과 이를 빠르게 제공하며 수요를 감당하는 것은 별개임
Anthropic은 약 6개월 전에 이 문제를 겪었고, Moonshot도 수요를 감당하지 못해 코딩 요금제 구독을 이미 중단했음

AI 발전의 상한이 재귀적 자기 개선이라면 AI가 더 좋은 모델을 만들고 데이터센터 소유자가 승리하므로 Anthropic과 OpenAI는 끝남
하한이 정체라면 일정한 최고 성능을 가장 싼 가격에 제공하는 경쟁이 됨
Google이 가중치를 실리콘에 새긴 Gemini 칩을 만든다는 소식은 최소 2~3년인 칩 수명을 고려할 때 향후 3년간 비슷한 수준의 발전이 없을 것으로 예상한다는 뜻이며, 결국 최저 마진 경쟁이라 두 회사가 다시 불리함
생존하려면 AI 발전이 이 두 극단 사이에 머물러야 함

공개 가중치 모델을 위해 SETI@home 같은 분산 컴퓨팅이 당장 필요함

가중치를 칩에 새기면 추론 속도와 전력 효율이 좋아지고, 최종 사용자를 지속적인 하드웨어 교체 주기에 올려놓는 부수 효과도 있음

OpenAI가 Anthropic보다 훨씬 위태로워 보임
한쪽은 IPO를 추진하고 다른 쪽은 장부 공개를 피한다는 사실이 많은 것을 보여줌

핵심은 다른 연구소가 Anthropic과 OpenAI보다 앞선 모델을 만들 수 있느냐임
증류 등으로 두 회사 API에 얼마나 의존하는지도 중요하며, 파생 모델이라면 성능 범위가 좁고 발전도 제한될 것으로 예상함

순수 성능에서 앞설 필요는 없고, 중요한 건 비용 대비 가치임
토큰 구매 기업에서는 지능 향상이 매출 증가로 이어지지 않는다는 사실이 이미 드러나고 있으며, 결국 재무가 의사결정을 좌우할 것임
OpenAI나 Anthropic이라면 몹시 긴장할 상황임

Dario가 다시 팟캐스트를 돌며 자기 AI 때문에 일자리 75%가 사라진다고 위협하면 흐름을 뒤집을 수 있음
안 통하면 85%, 그래도 안 되면 100%까지 올리면 됨

2025년 11월에는 Anthropic Opus 4.5와 Claude Code가 명확히 정의된 기능을 한 번에 제대로 구현해 준 유일한 시스템이었지만, 지금은 Claude와 Codex에 거의 비슷하게 만족함
두 회사가 가격을 압박하거나 안전 정책을 지나치게 강화하면 유능한 공개 가중치 모델과 진정한 오픈소스 실행 환경으로 옮길 선택지도 많아질 듯함
Gemini 3.1 Pro는 강해 보이지만 마지막으로 써 본 Antigravity는 무능했음
Anthropic이 강력한 경쟁자 중 하나로 살아남는 건 좋지만, 안전 우선 철학 때문에 최신 모델의 거부와 의도적인 무지를 늘리고 있음
장기적으로는 다른 이들이 덜 소심한 도구를 만들도록 소프트웨어 개발을 가속한 회사로 기억될 수도 있음