Epoch AI에 따르면, Google의 Colossus 1은 46억 달러($4.6B)를 투입하여 1e26 FLOP을 사용했습니다. 이는 알려진 가장 큰 규모의 학습 실행(training run)이며, 새로운 자본 규모의 시대를 알리고 있습니다.

Epoch AI의 분석에 따르면, Google의 Colossus 1 학습 실행은 1e26 FLOP의 연산량을 소비했습니다. 추정 비용 46억 달러($4.6B)를 고려할 때, 이는 이전 기록들을 한 자릿수 차이로 압도합니다.

주요 사실 (Key facts)

• Colossus 1은 1e26 FLOP의 학습 연산량 (training compute)을 사용했습니다.
• 추정 비용: 46억 달러 ($4.6B).
• GPT-5의 약 1e25 FLOP 대비 10배의 연산량.
• 모델 파라미터(parameter) 수는 10조 개를 초과할 가능성이 높음.
• 역대 가장 비용이 많이 든 단일 AI 학습 실행.

핵심 요약 (Key Takeaways)

• Epoch AI에 따르면, Google의 Colossus 1은 46억 달러($4.6B)를 투입하여 1e26 FLOP을 사용했습니다.
• 이는 알려진 가장 큰 규모의 학습 실행이며, 새로운 자본 규모의 시대를 알리고 있습니다.

1e26 FLOP 이정표

Epoch AI의 분석에 따르면, Epoch AI는 Google의 Colossus 1 학습 실행이 1e26 FLOP의 연산량을 소비했다고 추정합니다. 이는 약 1e25 FLOP을 사용한 OpenAI의 GPT-5 연산량의 대략 10배에 달합니다. 46억 달러($4.6B)에 달하는 비용은 AI 분야에서 소형 원자로를 건설하는 것과 맞먹는, 새로운 단계의 자본 집중을 시사합니다.

Google은 정확한 파라미터 수나 아키텍처(architecture)를 공개하지 않았습니다. 하지만 현대적인 효율성 측면에서 1e26 FLOP을 사용했다는 것은, 이 모델이 10조 개의 파라미터를 훨씬 넘어 100조 개를 초과할 수도 있음을 의미합니다. 이 학습 실행에는 Google이 2025년에 1e26 FLOP의 지속적인 성능을 낼 수 있다고 발표한 Google의 TPU v7 포드(pods)가 사용되었을 가능성이 높습니다.

자본의 상승 (Capital Escalation)

46억 달러($4.6B)라는 수치는 단순한 연산 비용만이 아닙니다. 이는 하드웨어 감가상각, 에너지, 냉각 및 엔지니어링 인건비를 포함한 총 예산을 나타냅니다. Epoch AI는 표준 산업 모델을 통해 이를 도출했습니다: TPU v7의 경우 1e15 FLOP당 0.046달러를 기준으로 선형적으로 확장했습니다. [Epoch AI에 따르면], 이는 Colossus 1을 GPT-5의 소문으로 돌던 20억 달러($2B)의 비용마저 뛰어넘는, 역대 가장 비용이 많이 든 단일 AI 학습 실행으로 만듭니다.

이러한 집중 현상은 더 광범위한 트렌드를 반영합니다. 2026년 7월 21일에 보고된 Google의 1조 6,500억 달러 규모의 부외 AI 인프라 리스(off-balance-sheet AI infrastructure leases)는 이 회사가 점점 더 거대한 모델에 베팅하고 있음을 보여줍니다. Colossus 1은 2028년까지 일상이 될 새로운 클래스의 "기가모델 (gigamodel)" 실행의 첫 사례가 될 가능성이 높습니다.

벤치마크의 함의 (Benchmark Implications)

Notes on GPT-5 training compute - Epoch AI

Epoch AI는 Colossus 1에 대한 벤치마크 결과를 제공하지 않습니다. 해당 모델은 아직 공개되지 않았기 때문입니다. 하지만 1e26 FLOP 규모라면, 모든 표준 벤치마크에서 GPT-5를 큰 차이로 능가할 것입니다. 핵심 질문은 수확 체감(diminishing returns)이 시작되었는지 여부입니다. GPT-5는 MMLU에서 89%를 달성했습니다. Colossus 1은 95%에 도달할 수도 있지만, 달러당 증가하는 이득은 줄어들고 있습니다.

Google의 경쟁사들도 주시하고 있습니다. [최근 보도에 따르면], OpenAI와 Anthropic 모두 2027년 말에 1e26 FLOP 규모의 실행을 계획하고 있습니다. 만약 Colossus 1이 미미한 개선만을 제공한다면, 업계는 무차별적인 스케일링 (brute-force scaling) 대신 추론 최적화 아키텍처 (inference-optimized architectures)로 전환할 수도 있습니다.

주목해야 할 점 (What to watch)

아마도 10월에 있을 Google의 2026년 3분기 실적 발표(earnings call)를 주목하십시오. 여기서 경영진이 Colossus 1의 벤치마크 결과를 공개하거나 출시일을 발표할 수 있습니다. 또한 OpenAI와 Anthropic이 자체적인 1e26 FLOP 실행 계획을 발표하는지도 지켜봐야 하며, 이는 스케일링 트렌드를 확인시켜 줄 것입니다.

출처: news.google.com

_ [26 Jul tomshardware를 통해 업데이트]

이와 별도로, Nvidia와 SK 그룹은 2 GW 규모의 AI 데이터 센터를 구축하고 차세대 메모리 공급을 확보하기 위해 5,000억 달러 규모의 전략적 파트너십을 발표했습니다 [Tom's Hardware 인용]. 이 계약이 Colossus 1과 직접적으로 연결된 것은 아니지만, Google의 경쟁사들을 위한 전용 인프라를 갖춤으로써 업계가 1e26 FLOP 규모의 학습 실행을 지원할 준비가 되었음을 시사합니다.

원문 게시: gentic.news