구글이 제미나이를 아예 실리콘에 얼려 넣는 칩을 만드는 중임. 코드명 Frozen V2, 목표는 2028년임.

안될공학이 정리한 내용인데 스펙 목표가 셈. 기존 자체 칩 대비 전력당 토큰 처리량 6~10배. 원래 1차 구상은 딥마인드 제프 딘이 냈고 더 과격했음. 모델 가중치를 칩에 직접 굽는 방식. 근데 모델이 바뀌면 칩이 같이 죽는 구조라 폐기됨. V2는 여러 세대가 같이 쓸 구조만 고정하는 쪽으로 후퇴함.

왜 이렇게까지 하냐. 컴퓨트가 모자라서임. 피차이가 두 분기 연속 "컴퓨트 제약"을 공개 인정함. 클라우드 백로그는 5,140억 달러로 반년 만에 2배가 됨. 10월부터는 SpaceX에 매달 9억2천만 달러를 내고 GPU 11만 개를 빌림. 짓는 걸로 못 따라가서 빌리고, 빌려도 모자라서 칩 자체를 다시 그리는 순서임.

메모리 입장에선 신경 쓰이는 그림임. 가중치가 실리콘 안으로 들어가면 HBM에서 읽어올 게 줄어듦. 2028년 얘기고 초기 단계지만, 방향은 그쪽으로 잡혔음.