엔비디아 칩 없으면 AI 못 만드는 줄 아는 사람들 많은데, 이거 진짜 큰 오해임.

최근에 애플이 '애플 인텔리전스' 학습시킬 때 엔비디아 안 쓰고 구글 자체 AI 칩(TPU) 대량으로 빌려 썼음.

빅테크들이 왜 굳이 엔비디아 두고 구글로 가는지, 수조 원 아끼는 하드웨어 비밀 딱 쉽게 풀어봄.

1/일단 엔비디아 GPU랑 구글 TPU는 태생부터가 완전히 다름.

엔비디아 GPU는 원래 그래픽카드 출신이라 이것저것 다 잘하는 '범용 스마트폰' 같은 존재임.

AI 계산도 잘하지만, 화면 그리고 물리 연산하는 잡다한 회로가 칩 내부에 잔뜩 붙어있어서 전력을 그만큼 더 먹음.

2/반면 구글 TPU는 오직 딥러닝의 핵심인 '행렬 곱셈(Matrix Multiplication)' 하나만 패려고 만든 '전문 저격수(ASIC)'임. AI에 필요 없는 기능은 싹 다 빼버리고 오직 AI 연산에만 전력을 올인함.

3/이게 왜 무서운 격차를 만드냐면 구조 차이 때문임. GPU는 계산할 때마다 메모리(레지스터)를 계속 들락날락하면서 전기를 엄청나게 낭비함.

근데 구글 TPU는 '시스톨릭 어레이(Systolic Array)'라는 구조를 씀. 데이터가 심장 박동(Systole)처럼 칩 내부 연산기를 한 방향으로 쭉 통과하면서 연속으로 계산됨.

메모리 병목이 없으니 전성비(전력 대비 성능)가 미쳐버림.

4/AI 데이터센터 돌릴 때 가장 돈이 많이 깨지는 게 '전기세'랑 열 식히는 '냉각비'임.

구글은 이 전성비 깡패인 TPU 덕분에 수만 대를 돌려도 운영비를 수조 원씩 아끼고 있음.

게다가 엔비디아한테 바쳐야 하는 막대한 마진(70~80%)을 안 내도 되니까, 구글 제미나이나 유튜브 알고리즘이 24시간 가성비 좋게 굴러갈 수 있는 거임.

5/그럼 애플은 왜 구글 칩을 썼을까? 단순히 엔비디아 칩이 부족해서 대기 줄 밀려서 썼다? 그건 표면적인 핑계고, 진짜 핵심은 '엔비디아 독립'임.

엔비디아 칩을 쓰는 순간, 개네 소프트웨어 생태계인 '쿠다(CUDA)'의 노예가 됨.

하드웨어랑 OS 통제하는 걸 병적으로 좋아하는 애플이 엔비디아 손아귀에 들어가는 걸 원치 않았던 거임.

6/결국 애플은 구글 인프라를 선택하면서 "우리 엔비디아 없이도 최고급 AI 만들 수 있어"라고 전 세계에 시위한 거나 다름없음.

구글은 칩 성능뿐만 아니라 수만 개 칩을 구리선이 아니라 빛(레이저)으로 묶는 네트워크 기술까지 다 가지고 있어서 애플 입장에서도 안 쓸 이유가 없었음.

7/정리하자면, AI 칩 시장은 이제 단순히 '연산 속도 1등'이 전부가 아님.

누가 더 전기를 적게 먹고, 누가 소프트웨어 종속에서 자유로우며, 데이터센터 운영비를 수조 원씩 아끼느냐의 싸움임.

앞으로 반도체 주식 볼 때 엔비디아 독점만 볼 게 아니라, 빅테크들의 이런 자체 칩(ASIC) 생태계를 무조건 같이 봐야 진짜 돈의 흐름이 보임.