경쟁이 가격을 낮추고 있음. OpenAI와 Anthropic에서 ‘사이버보안’ 관련 차단에 걸린 뒤 Kimi와 GLM을 써봤는데, 훨씬 저렴했고 보안 사유로 거절당하지 않고 작업을 마칠 수 있었음.
가격 인하가 주로 경쟁 때문이라면, 사용량이 급감했거나 조만간 재무적으로 무너질 것이라고 추정할 수밖에 없음. 최첨단 모델 개발사들은 더 비싼 요금으로도 적자였고, 경쟁한다고 설비투자가 그만큼 줄어드는 것도 아님.
주로 별것 아닌 취미 프로젝트에 쓰는데도 이런 차단을 자주 겪음. 다만 Opus 5.5에서는 훨씬 덜함.
연말까지 미국이 중국 모델 접근을 ‘금지’ 하더라도 놀랍지 않을 것 같음.
다들 어떤 실행 도구를 쓰고 있는지? OpenCode인가요?
OpenAI와 Anthropic이 수십억 달러를 잃는 건 연구개발이나 규모 확장 때문이 아니라 LLM이 사업으로 성립하지 않기 때문임. 실제 사업은 과장된 발표를 하고, 잘 믿는 언론이 검증 없이 받아쓰게 해서 투자자를 현혹하는 것뿐이며, 기업공개도 그 연장선임. Anthropic의 기업공개 일정이 계속 밀리는 이유를 봐야 함. S-1 신고서를 공개하면 실상이 즉시 드러나기 때문임. 시장은 SpaceX에 한 번 속았지만 두세 번 같은 수법이 통하지는 않을 것임.
DeepSeek는 하드웨어 투자 회수 기간을 10개월로 잡고 가격을 책정함. V4.1-Flash 클러스터에서 GPU당 시간당 약 38달러의 매출을 올린다고 밝힘. 추론 자체는 분명 수익성이 있으며, 관건은 학습 연구 비용까지 정당화할 만큼 수익이 크냐는 것임.
GPU를 빌려 공개 모델을 실행할 수 있는 웹사이트들이 존재한다는 사실 자체가 추론의 수익성을 입증함.
Anthropic과 OpenAI가 규제 강화를 밀어붙이는 이유가 이것임. 추론 비용을 낮추는 것만으로는 투자자에게 투자수익률을 보여줄 수 없음. 규제가 자신들에게 조금 불편하더라도 중국의 공개 모델을 금지할 수 있다면 얻는 이익이 막대함.
침몰하는 배에서 누가 가장 좋은 음식을 먹을지 규제하는 것과 같음. 미국은 국가와 국민을 위해 자본과 관심을 훨씬 더 나은 곳에 쓸 수 있음. 앞으로 몇 차례의 행정부가 초인공지능(ASI) 으로 ‘로마의 몰락’ 같은 점진적 쇠퇴를 벗어날 수 있다는 발상을 실험하지 않을 만큼 현명하길 바람.
멋진 자유시장이라면서 늘 관세와 경쟁 차단을 요구해 카르텔과 독점을 만들려 함.
하드웨어를 최대한 가동해 학습 비용을 충당할 이익을 낼 수 있다면 투자수익률을 보여줄 수 있음. 학습 비용도 급락 중임.
내가 알기로 하드웨어를 사들이지 않은 Anthropic이 가장 위험하고, OpenAI는 현재 맞춤형 반도체를 개발 중임. 나머지 Mag7 기업들은 주로 하드웨어 공급업체임.
모든 정부 규제의 목적이 이것이며, 언제나 가격 상승과 준독점 기업의 시장 지배로 이어졌음. 그런데도 민주당 지지자 상당수가 이를 지지함.
DeepSeek는 Flash V4로 GPU당 시간당 38달러, 연간 332,880달러의 매출을 올린다고 함. DeepInfer 수치와도 맞아떨어짐. GPU당 초당 출력 토큰 25,600개를 100만 토큰당 0.60달러에 팔면 시간당 약 55달러이고, 여기서 기타 비용을 빼면 38달러가 됨.
더 크고 비싼 Anthropic과 OpenAI 모델에는 알려지지 않은 변수가 많음. 그래도 이들 역시 최적화에 힘쓸 테니, 가격을 조정할 여력이 상당히 있었거나 지금도 있다고 보는 게 무리한 추정은 아님.
다만 DeepSeek는 최적화에 극단적으로 매달렸음. OpenAI와 Anthropic이 그 면에서 뒤처져 있다고 해도 놀랍지 않을 것 같음.
수요에는 한계가 있고, GPU 용량은 항공기 좌석처럼 쓰지 않으면 그대로 날아가기 때문임. 앞으로 더 심해질 것임.
글 끝에서도 연산 효율이 높아지면 대규모 데이터센터 증설 필요성이 줄어 연쇄적인 경제적 붕괴가 일어날 수 있다는 가능성을 잠깐 검토함. 하지만 추론은 전체 연산의 일부이고 다른 처리 단계에도 데이터센터가 필요하므로 그럴 가능성은 낮다고 함.
그 반론에는 동의하지 않음. 범용 상품화와 대규모 과잉 건설이 맞물리면 무슨 일이 벌어지는지 실시간으로 보게 될 것 같음.
데이터 무보관(ZDR) 약속에서 몇 차례 후퇴한 적이 있고, 적어도 Anthropic은 사용자 맥락을 얼마나 많이 넣었든 모델 출력은 자신들이 정의하는 ‘사용자 데이터’에 해당하지 않는다고 주장함. 이에 동의하지 않음.
이 가격은 사용자가 생성한 출력물을 활용해 보전되는 것인가요? 답변을 교묘하게 ‘사용자 데이터’에 관한 이야기로 바꾸지 않을 거라고 믿을 수 있나요? 그렇다 해도 너무 흔한 ‘실수였다’는 사고를 막을 장치가 있나요?
적어도 몇 달 전까지 Bedrock은 제대로 격리된 듯했지만, 새 모델에 대해 ZDR 미적용 통지를 받았다는 이야기를 여러 번 들었음.
누가 먼저 버티지 못하고 파산하는지 겨루는 바닥을 향한 가격 경쟁임. 지속 가능하지 않음.
정말 그런가요? DeepSeek는 추론을 팔아 이익을 낸다는 것을 이미 입증했음.
아마 더 효율적인 캐싱과 더 작은 모델 덕분일 것임. 6 sol은 실제로 6 terra이고, opus 5.5는 5.1보다 작은 식임. 너무 복잡하게 생각할 필요는 없음.
거의 3파전이 된 경쟁, 더 저렴한 오픈소스 모델, 다소 뒤처진 OpenAI가 Anthropic 고객을 끌어오려고 가격을 내리는 상황이 함께 작용함.
일부 모델의 기술적 우위도 흥미로웠음. 선두였던 Anthropic이 속도에서도 크게 밀리기 시작했는데, 5.5에서 속도를 만회함.
미시경제학에서 실마리를 찾을 수 있음. 수요 부족 또는 제품의 범용 상품화 때문일 수 있음. 어느 쪽이든 두 회사 각각의 수조 달러 기업가치에는 좋은 징조가 아님.