젠슨황 직접 보고 왔습니다… GTC Taipei 키노트 핵심 | AI Agent가 인프라 모든 걸 바꾸다

Video: 젠슨황 직접 보고 왔습니다… GTC Taipei 키노트 핵심 | AI Agent가 인프라 모든 걸 바꾸다
Channel: 안될공학 - IT 테크 신기술
Duration: 22m 34s
Source: subtitle (auto, ko)
Transcript:
네, 여러분 반갑습니다. 에러입니다.
저는 지금 엔비디아 GTC 타이페이
키노트를 지금 방금 듣고 왔습니다.
오늘 엄청난 내용들이 많이 나왔는데
사실 이걸 어떻게 다 정리해서
전해드릴까 싶습니다. 지금 촬영을 해
주신 분은 어, 투자환 김단태
단태님께서 직접 촬영해 주시고요.
어, 곧 바로 정리해서 알려 드리도록
하겠습니다.
처음 갔을 때부터 이렇게 굉장히 많은
사람들이 열렸는데 타이페이 안에서이
굉장히 큰 공간이요 타이페이 뮤직
센터라고 있어서 이곳에서 별도로
키노트를 진행한 다음에 실제 GTC
타이페이와 컴퓨텍스는 따로 진행을
하고 있습니다. 그래서 수많은 인파를
지나서 저는 프레스 자격으로 왔기
때문에 투자한 김단태 단태님하고 같이
합류하기 위해서 저쪽 프레스 쪽으로
이동을 했고요. 드디어 입장을 해서
미리 예약되 있는 저기 초록색 프레스
석에 적당히 자리를 위치를 해서
키노트를 보게 되었습니다. 사전
행사로는 아까 보셨던 그 타이페
뮤직센터 바깥에서 저렇게 라이브
스트리밍을 하고 있었는데요. 폭스컨을
비롯해서이 대만 현지에서 많은
기업들이 협력을 하고 있기 때문에
현재 AI에서 주목받고 있는 그런
내용들을 여러 가지 대담을 통해서
전해 주는 분위기였습니다. 상당히
많은 분들이 요걸 집중하면서 많이
듣고 있었고 실제로 보니까 저게 지금
앞에 영화간 디스플레이처럼 돼
있거든요. 굉장히 몰입도가 높게 돼
있었는데 실제 키노트 발표에서도이
젠슨 CEO의 카리스마와 더불어서
실물을 보여주는 거 플러스 다양한
콘텐츠가 있어서 굉장히 직접 볼
만하더라고요. 자, 그리고 드디어
시작하기 전에 저 디스플레이의이
해상력이라든가 레졸루션이 너무 높아
가지고 저게 실제로 지금 굉장히
입체적으로 잘 표현이 되더라고요.
이게 확실히 엔비디아가 GPU
회사잖아요. 이런 3D 랜덤에 조회가
있어서 뭔가 콘텐츠 크리에이터로서
많은 영감을 받는 그런게 아니었나
싶고 다양하게이 레이트레싱을 적용한
저 화면을 보고 있자니까 정말 그
기대감을 이제 끌어 올리는게
있더라고요. GTC 타이에 대한
인트로 영상을 이렇게 쫙 보여 주는데
또 와이드 스크린으로 쫙 하니까
몰입도가 있다고 굉장히 했습니다.
그러면서 각까지 분야 지금 이제
보이시는이 우주 데이터 센터를
포함해서 굉장히 다양한 분야가
엔비디아가 지금 나아갈 수밖에 없는
상황이죠. AI 인프라를 설치를 해야
되는데 그 중심이 MB 중심으로 되고
있다 보니까 그 이렇게 한편의
영상으로 쭉 보니까 여러분도 한번
따로 보십시오. 유튜브에 올라와 있을
텐데 이곳에서의 뭔가를 이제 시작을
하면서 젠슨이 등장을 했습니다.
그러면서 항상 키노트 전에 흥분되는
소개 멘트죠. mb비디오요 젠슨왕
하면서 야 그가 등장했습니다.
현장에서는 여와 같은 함성 소리가
들렸는데이 공간이 주는 압도감이
있더라고요. 그러면서 자신의 부모님의
고향이라고 하면서 대만해를 이렇게 축
올려 세우기도 했고요. 자 이번
GTC 타이 A에 처음에 시작했던
내용이 바로 젠슨이 AI가
버블이다라는 거를 좀 약간 적극적으로
부인을 하면서 스탠포드 공대 출신이지
않습니까? 공대 출신인만큼 숫자로
보여주는 뭔가 얘기를 했습니다.
그러면서 컴퓨트 계산이라는 것이 결국
매출로 이어진다. 레뉴다라는 얘기를
했는데요. 단순히이 신제품 발표가
아니었습니다. 이번에 초반부터 AI가
실제로 돈을 벌기 시작했다라는
그래프를 보여주면서 시작을 했거든요.
그러면서 저 수많은 협력사와 함께 뭘
만들어 내고 있느냐? 바로
useful AI has
arrived. 드디어 돈을 벌기
시작했다는 얘기를 하는 거죠.
기타에서 나온 통계를 토대로 해서
커밋이라든가 새로운 레퍼라든가 이런
것들이 엄청나게 늘어나고 있다라는
얘기를 하고 있는 것이 되겠고요.
그런 것들이 이렇게이 슈퍼스타 지금
모형으로 이렇게 표현을 했는데 이런
올스타 같은 사람들이 다 협력을 해
가지고 지금 만들어 나고 있다라고
얘기를 한 것이 되겠죠. 이게 사실
과거에는 AI 컴퓨터가 주로 비용으로
처리가 됐잖아요. 과거가 아니죠.
현재도 비용으로 처리가 되고 있죠.
그러면서 KPX 문제가 된다. 뭐
이런 얘기들을 많이 하는데 이게 뭐
일단 기본적으로 거대한 모델을
학습시키기 위한 비용도 있고 뭐
R&D도 해야겠지만도 데이터 센터
자체를 투자를 해야 되잖아요. 그러면
돈이 들 수밖에 없는 구조이고 거기에
대해서 이게 뭐 버블이 아니냐 뭐
이런 얘기를 하고 있는데 엔비디아는
거기에서 누구보다도 돈을 많이 벌고
있는 회사죠. 그런데 인퍼런스와이
에이전트 AI 시대가 되면서이
컴퓨터의 의미가 바뀌었다라는 좀
주목을 한 거 같습니다. 왜냐하면은이
사용자가 AI 서비스를 쓸수록이
추론이 발생할 수밖에 없는데 추론이
발생하면 할수록이 토큰이 생산될
수밖에 없고 토큰이 생산되면은 서비스
매출이 발생을 한다라는 거죠. 실제로
그 에이전트가 더 복잡한 일을 하면
할수록 컴퓨터가 사용되니까 결국이
컴퓨터를 사용한다는 것이 레버뉴
매출로 이어진다라는 논리인 거죠.
그래서 젠슨왕이 컴퓨트가 레브뉴다라고
하는 거, 또 컴퓨트이라고 얘기를
하는 표현이 굉장히 중요한데 그냥
컴퓨터가 돈 쓰는 기계에 가깝다
하면은 이제는 컴퓨터가 돈을 벌어
주는 시대, 엔비디아가 말하는 AI
팩토리 시대에 컴퓨터가 전기를
넣으면은 24시간 쉬지 않고 토큰을
생성하면서 결과물을 찍어내는 뭔가이
디지털 프린터 같은 느낌으로 간다라는
거죠. 그래서 코스트 센터에서 레뉴
센터, 매출 센터로 가고 있다는
겁니다. 자,이 핵심 프레임으로
바라보면은 지금 엔비디아가 왜
GPU뿐만이 아니라 베라 CPU
이번에 굉장히 강조했거든요. 좀 있다
말씀드릴 건데 베라 CPU 관련된
내용들, 네트워크, 스토리지, 보안,
소프트웨어나 로봇이나 이번에
소비자형으로 AIPC를 실제로 윈도우
마이크로소프트와 협력해서 냈거든요.
요거 컴퓨텍스에서도 자세히 나올 것
같은데요 전체 내용들을 개괄을 할
수가 있습니다. 요거 제가 차근차근
설명드릴게요. 꼭요 부분들은 빠짐없이
가져갔으면 하는 부분들 지금 정리를
할 거거든요. 그래서 기본적으로
MB대가 계속 얘기했던 AI
팩토리라는 거. 그냥 GPU만 데이터
센터가 아니라는 거죠.지가 그냥
많은게 아니고 제스당 CEO가 늘
말하는게 AI 팩토리가 지능을
생산한다. 왜 이렇게 표현하잖아요.
그러니까 일반 공장에서 자동차나
반도체 배터리 이렇게 생산하듯이 AI
팩토리 굳이 공장이라는 표현을 쓴
이유가 토콘이라든가 답변 뭐 코드도
생성하고 이미지도 만들어 주지,
영상도 만들어 주지, 검색 결과도
나오지 이런 모든 것들. 심지어
엔비디아는 코스모스라는이 현실 세계의
플랫폼이라든가 시뮬레이션 결과를 해
줄 수 있다라든가 이런 것들이 모든
것들이 결국은 AI 팩토리에 해당하는
거라고 할 수가 있겠고 요거에 대한
성능 지표도 바뀔 수밖에 없다라는
거죠. 예전에는 그냥 뭐 몇 플럽
나왔다. 뭐 지표 성능이 어땠다.
트레이닝 스피드가 어땠고 뭐 인퍼런스
레이턴시가 얼마다 그니까 초당 토큰수
이런 거 많이 봤잖아요. 아직도
디바이스에서는 초당 토큰수 이런
것들이 중요한데 AI 팩토리
관점에서는 새로운 지표가 필요하다는
거죠. 그래서 저러한 거장들 저
플랫폼을 통째로 팔고 있는게
엔비디아인데 그렇게 보면은 토큰
코스트 자체가 더 중요해지는 상황이고
와트당 토큰을 몇 개나 뱉어내느냐
에이전트 스루포스는 얼마냐 또
컴퓨터를 얼마나 잘 활용하느냐 이런
관점에서 봐야 한다는 겁니다.
GPU가 얼마나 빠르냐에서 끝나는게
아니라 AI 팩토리가 저 AI
팩토리를 설치를 했을 때에 같은
전력으로 얼마나 많은 돈이 되는
작업을 할 수 있느냐 요거에 집중해서
봐야 한다라고 강조를 하는 거죠.
자, 그러면서 저는이 DSX라고 하는
새로운이 AI 팩토리의 전체 플랫폼을
소개를 한 부분들을 먼저 언급을
드리고 싶습니다. 좀 DGX 뭐
DSX 뭐 여러 가지 나오는데
DSX라고 하는 것이 결국은 어떤
렉을 써야 되냐, 또 어떤 네트워크를
써야 되냐. 뭐 냉각이라든가 뭐 전력
구조 같은 것도 있을 거고 소프트웨어
또 어떤 걸 써야 되고 뭐 이런
것들을 다 결정하는 플랫폼이라고
보시면 되는데 이걸 통해 가지고
우리가 토큰 코스트를 줄일 수
있다라는 거죠. 그니까 엔비디아가이
DSX를 AI 팩토리 어떤 뭐
설계라든가이 배치 운용 전반에 대한이
플랫폼으로 설명을 했으니까 전력당
토큰을 극대하는 방향으로 설계하는
플랫폼으로 가겠다는 얘기를 한 거고이
GPU 자체가 어떤 공장의 기계이
머신이라고 본다라고 하면은
베라루빈이라고 하는이 전체 플랫폼이
전체 생산 라인이 되는 거죠.
GPU가 꽂혀 있고 그걸 운영할 수
있도록 전체 시스템으로 가는 거니까.
그런 다음에이 DSX라는 거는 전체
공장을 짓고 어떤 돌리는 설계도라고
볼 수 있고 쉽게 말해서 PC로 보면
운영 체제에 해당하는 거죠. 그
플랫폼으로 간다라는게 그러면은 이거를
얼마나 전기 요금 대비해서 생산량을
극대할 수 있느냐 요런 것까지 터치를
한다는 것으로 보시면 되겠고요.
그렇게 해서 보면은 아까 말씀드린
컴퓨트 레뉴라고 하는 요건 있잖아요.
컴퓨팅을 한다라는 거. AI 팩토리가
매출을 낸다라고 하면은 이런 여러
가지 지표에 있어서 더 개선된 형태에
끌어올릴 수 있는 부분들이 있다라는
거죠. 그게 자체가 레버뉴로 발생을
한다는 거죠. 기존에 대비해서이
그래프가 굉장히 재밌죠. 전체적으로
레버뉴를 올리니까 더 오래 지속
가능한 부분도 있고 그래서 이러한
부분들을 여러분들이 매출로 누릴 수
있습니다라고 주장을 하는 거죠.
요러한 전체 플랫폼 통해서. 어
그러면 이제 본격적으로 하나하나 좀
자세히 들어가 볼게요. 젠슨이
키노트를 시작하면서 이렇게
얘기했습니다. 에이전트라고 하는 걸
굉장히 강조했어요. 모든 지금 오늘의
발표에서 에이전트의요 도식을 잘
기억을 하고 따라가라고 이렇게
친절하게 안내를 해줬거든요.
에이전트라고 하는 거는 결국은 lm과
하네스의 결합인 건데이 정의가 왜
필요하냐? 많은 사람들이 그냥
에이전트가 그냥 더 똑똑한 체포 약간
이렇게 이해를 하시는 경우도
많거든요. 근데 실제로 에이전트를 써
보신 분들은 좀 약간 그 느낌이
다르죠. 엔비디아가 에이전트를 정의를
한 건 요런 거예요. LM이 에이전트
어떻게 보면 두뇌인 거죠. 두뇌
언어를 이해를 하고 추론도 해야 되고
코드 생성해 주지, 문서 생성해
주지, 이거 한 다음에 다음에 뭐
할지 스케줄까지 다 해 주지 약간
이런 개념으로 LNM 간다라고 하는데
여기서 하네스를 가져오는 거죠.
한네스 엔지니어링 제가 따로 정리를
해야 드렸는데 클로드 코드 기반으로
이렇게 많이 개발을 하다 보니까
하네스란 개념이 많이 퍼졌죠. 자,
하네스라는 건 뭐냐? 결국은 실제
업무를 하려면은 메모리도 관리를 해야
되고 컨텍스트 이전에 어떤 내용들을
얘기를 했는지 어떤 툴을 쓸 건지
그리고 코드를 실제로 실행도 해 봐야
되고 실행했을 때 결과를 가져왔을
수 있는 건지 퍼미션 같은 것들
있잖아요. 그리고 보안이라든가 또
계속 반복을 해서 하는 건이 모든
것들의 구조 설계 이거를 한네스로
보니까 전체 스케줄링 관련된이 모든
것들이 결국은 엔터프라이즈 향으로
기업들이 그걸 가져다 쓰려면은 요런
부분까지 합쳐져야지 에이전트가
된다라는 것들을 짚고 넘어가는
겁니다. 실제 키노테스는 좀 뒤에
나온 부분인데 제가 빨리 먼저
말씀드리면은 엔비디아 에이전트
툴키이라고 하면서 기업으로 나온
것들이 있어요. 그러니까이 에이전트
구조들 여기 보시면 오픈 클로드 있고
뭐 원같죠. 클로드 코드도 있고 이런
것들이랑 쿠다 X 라이브러리를 가져온
거. 그리고 리모트론 오픈 모델
있잖아요. 제가 예전에도 M비디아
부사장님과 인터뷰한 내용도 있는데
리모트 3 울트라도 나왔거든요. 그런
오픈 모델 이런 것들을 다 결합하면서
기업이 쓸 수 있는이 에이전트 툴키스
제공하겠다고 얘기를 했어요. 그중에
대표적인 걸로 케이던스라는 회사
아시죠? 칩 디자인 회사. 검증도
하고 있는이 케이던스와 협력을
하겠다는 내용이 나왔습니다.이 슈퍼
에이전트를 구축하겠다는 건데 결국
케이던스라고는 하는 회사는이 하드웨어
칩을 설계를 할 때 뭐 RTL이라든가
RTL 후에이 타이밍 다이아그램
검증이라든가 이런 것들을 하는
회사이고 대부분의 반도체 회사들이
시노시스와 함께 같이 쓰는 회사
툴링이 되겠는데 요거를 에이전트
하해서 MB다에 협력을 하겠다이 얘기
나오자마자 케이던스의 주가가 엄청나게
올랐습니다. 지금 보시는 이런이
하나의이 RT 모듈 설계를 한다면은
그 인풋과 아웃풋에 해당하는 거
그리고 내부 시그널에 대한 클락에
대한 거 요런 것들을 이제
에이전트화해서 실제로 엔터프라이즈
향으로 재작을 해서 제공을 하겠다는
얘기를 한 거죠.이 에이전트가이 칩
디자인이라든가 검증용 워크플로우를
실제로 수행한다라고 얘기를 한 부분이
되기 때문에 더나 엔비디아가 실제로이
칩스택의 첫 고객으로 자기들이 집
설계하고 검증하는데에 요거를
쓰겠다라고 얘기를 한 부분도
흥미로웠죠. 사실이 케이던스 사례에서
이게 굉장히 흥미로웠다고 제가 생각한
것은 알테이라고 하는 우리 그
베릴로그 있잖아요. 베릴로그나
하드웨어 디스크립션 랭기지
HDL이라고 하죠. 그러니까
프로그래밍을 하면은 그거를 하드웨어
형태로 로직이나 메모리를 이제 설계를
해 준다는 거죠. 요런 RT
설계라든가 그걸 설계를 하기만 하면
끝나는게 아니라 그걸 또 이제 실제로
입력을 넣고 아웃풋이 뭐가 나오는지
검증을 해 보는 베리피케이션과 관계도
필요하고 테스트 벤치 돌리면서
시뮬레이션도 필요하고 뭐 여러 가지
부분들이 많이 필요하죠. 그러면서
EDA 툴도 오케스트레이션 같은
것들이 필요한데 반도체 설계 검증
능력은 진짜이 사람들 갈아넣으면서
굉장히 반복적으로 해야 되는 부분들이
많거든요. 뭐 최근에는 이런 것들을
뭐 클로드 코드라든가 이렇게 좀
이렇게 자동화해서 할 노력들이 많이
되고 있지만 이게 소프트웨어 쪽하고
다르게 RT텔 쪽이라든가 이런 건
데이터가 부족하기 때문에 검증이 좀
잘 안 되는 부분들이 있는데이
케이던스와 협력을 해서 이런 부분들을
설계 파일을 실제로 읽고 RT 구조를
이해하면서 어떤 걸 검증해야 될 거냐
요러한 솔루션을 M비디어와 케이턴스가
협력해서 나간다라는 부분들은 반도체
회사에서 이런 것들을 자체적으로 뭐
다 구축을 하기보다는 차라리
케이든스거 가져와 갖고 쓰는게 훨씬
더 낫겠죠. 이런 부분에서 굉장히 그
주목을 받는다라는 부분에서 굉장히
흥미로웠고이 베런 기사에 따르면은이
5주 걸릴 거를 이제 하루 걸린다
이렇게 표현을 하기도 했거든요.
전세상들이 굉장히 줄어넣다 이런
얘기를 했고 이게 지금 AI
에이전트를 쓰게 되면은 우리가 얻게
될 생산성 그리고 레버뉴가 늘어난다.
매출이 늘어난다라고 젠슨이 강력하게
주장하는 바라고 볼 수가 있겠죠.
그리고 이번 발표에서 베라루빈이 지금
풀 프로덕션으로 생산이 된다라고
얘기를 했는데 실제로 지금 보시다시피
여기 최태원 회장님도 같이 참석을
하셨거든요. 그니까 삼성에서의 콜이
난 것뿐만 아니라 HBM4 하이닉스도
지금 왈거가와 하는데 아직 콜에 대한
얘기가 없거든요. 그런데 이게 양산
시작했다라고 하는 거 보면은 제가
예전에도 HM4 관련해서가 이제 양산
출화했다라고 삼성이 선언했지만 계속
컬 인증을 받아야 된다라고 말씀을
드린 이유가 자체 부품에 대한 검증은
있을 수 있는데 이게 또 결합이 됐을
때 어떤 문제가 있을 수 있느냐
그러면 MB대가 또 피드백을 할 수
있고 왔다 갔다 하면서 이걸 만들어
가는 과정이기 때문에 아직 컬이
끝나지 않았다라고 표현을 한
거거든요. 그런 측면에서 지금 젠슨이
직접 풀 프로덕션으로 진행되고
있다라고 하는 걸 보면은 드디어
베라루비 이제 준비를 하고 있구나라고
하는 관점으로 선언을 한게 아닌가라고
생각이 들고요. 그러면서 저 거대한
렉을 실제로 갖고 나왔습니다. 와
이러면서 직접 이렇게 막 아
엄청나죠. 늘 이렇게 디스플레이
통해서 보여 주기만 했는데 저렇게
직접 가져와 가지고 지금 풀
프로덕션으로 해서 저렇게 프레임이
만들어진 것으로 보여요. 그러면서
각각의 렉이 하는 역할들을 설명을 해
주시기도 했고 그니까이 베라루비는
결국은 GPU, CPU, 네트워크
스토리지, 시큐리티이 모든 부분에
대해서 지금 렉이 지금 바틀렉이 되고
있는 상황이잖아요. 그러한 측면에서이
베라루빈이 이러한 각각의 병목들을
해결하기 위해서 에이전트 시대에 왔을
때이 수루을 열배 넓힐 수 있는 AI
팩토리 플랫폼이다라고 선언을 합니다.
베라루빈이요. 단순히 베라루빈 차세대
GPU라고 포지셔닝 한게 아니라 그냥
GPU로 보지 마라.이 거대한 시스템
자체가 베라루빈이다. 이게 바로
에이전틱 AI 팩토리다라고 얘기를
하는 거죠. 그래서이 팟 스케일로
얘기를 한 거고요. 그래서이 거대한
렉 스케일을 보여주면서 각각의 렉에
뭐가 담겨 있는지를 얘기를 하는데
요런 내용들을 사실 이전에도 많이
했잖아요. 그러니까 베라루빈 MVL
72가 있고 베라 CPU가 들어가
있고 블루필드 4가 들어가 있고
이번에 블루필드 4 STX
스토리지라고 이름을 딱 이제 명령을
했는데 그것뿐만 아니라 스펙트럼 X
같은 이더넷요 포토닉스 관련 내용도
했고 여러 가지 얘기들을 했습니다.
중요한 거는 요런 것들이 30개가
넘는 국가에서 또 350개가 넘는
팩토리를 공장을 통해서 이런 풀
프로덕션을 지금 진행 중이라고 얘기를
한 거죠. 엄청나죠. 스케일이.
그러면서 드디어 하나하나 쪼개서 보기
시작하는데 바로 베라 CPU에 대한
얘기를 합니다. 베라루빈에서 베라
CPU와 관련된 내용들을 이번에
강조해서 보여 주는데 사실 베라
CPU 자체에 대한 얘기들은 이전에도
많이 했죠. 88코어라든가 초당
1.2TB에 해당하는 엄청난 속도.이
코어도 자체적으로 설기를 해
나갔다라고 하죠. 베라 CPU에서는
그레이스 CPU 대비해서 올림프스
코어라고 해서 되겠는데 이게 스페이셜
멀티스레딩이라고 해서 공간적으로
멀티스레딩 한다는 거죠. 그러니까
멀티코어 같은 느낌이에요 사실. 근데
이게 X86 대비해서도 1.8배나
빠르다라고 이제 얘기가 된 부분들도
했어요. 제 이전에 포로닉사에서 나온
내용을 토대해서 콘텐츠를 만들었죠.
영상을. 그거 참고해 주시면 되는데
사실 이번에 젠슨이 베라시오를 유난히
많이 강조를 했습니다. 그게 왜냐면은
에이전트 시대가 되면서 계속 불러올
때에 GPU만 쓰이지 않기 때문이죠.
이게 기술적으로 그렇기 때문인데
이거를 우리가 자체적으로 설계한이
베라 CPU라는 걸 토대로 해서
강력하게 지원을 하겠다는 얘기를 하는
거예요. 예를 들어 파이썬 코드라든가
뭐 샌드박스 환경을 행성해 가지고
여러 가지를 실행할 수 있게
한다라든가 실제로 베라스를 이용하면은
SQL 데이터 프로세싱도 그러니까
SQL라는게 데이터베이스 접근하는
거잖아요. 그 가져오는 것도 딴 거에
비해서 몇 % 몇십%가 아니라 세
배나 빨라진다고 얘기를 합니다.
그러니까이 수많은 에이전트가 동시에이
샌더박세스에서 코드를 실행해야 되고
툴을 호출해야 되고 또 DB도 이게
막 조회하는 이런 여러 가지 상황들
있잖아요. 요런 상황에서이 컨텍스트를
계속 기억을 하는 것도 중요하지만
그와 동시에 모든 작업들을 동시에
처리를 해야 되는 거죠. 그래서이
베라시의이 스페이셜 멀티스레딩이라고
하는 부분이 GPU가 진짜 계산을 할
수 있는 부분이냐면 베라시오가
그거를자착 잘 분해서 멀티레딩이죠.
여러적으로 잘 전달할 수 있도록
우리가 에이전트 AI 플로에 맞게
설계를 했다라는 부분을 강조를 했다는
거죠. 그래서 엔비디아가 CPUC도
먹겠다라는 단순한 접근이라기보다는
에이전틱 AI에서 GPU 바깥에
위치하고 있는이 CPU의 역할이
굉장히 중요한데 그 베가 그 병목을
줄여 보겠다. 지표 활용도라든가이
스루프스 높이는 형태의 CPU다.
그러니까 다른 X86 CPU보다 훨씬
더 좋다라고 얘기를 할 수 있다라는
거죠. 더나 저는 흥미었던 것이이
베라 CPU가 여섯 배나 빠르다.
리얼타임 스트리밍 데이터 프로세싱에서
이게 뉴욕 증권거래서 얘기가 된
부분이거든요. 그니까 HP랑 같이
이렇게 해 봤는데이 고성능 고실래도
특히나이 증권 거래소 같은 경우는
진짜 뭐 초당 단타 치는 그런 사모
펀드 트레이딩 컴퍼니도 있고 이런
금융권 고객도 있다라는게 단순히 그냥
금융권 고객이 쓰보다 이게 아니라
진짜 뉴욕 증거래소 같은 경우에는
극단적으로 초저지으로 고신내도 데이터
필요하잖아요. 딥시크도 그랬었던
거잖아요. 하이 프리커시
트레이딩이라든가 미드 프리커시
트레이딩 같은 그러한 쪽으로 컴퓨팅이
받쳐 줘야 되는 거잖아요. 그래서
베라 CPU를 통해서이 에이전트
오퀘스트레이션도 잘 처리하면서 데이터
파이프라이닝을 빠르게 처리할 수 있다
우리는. 그래서 GPU 데이터한테이
피딩을 제대로 빨리빨리 해 줄 수
있다라고 하는 관점에서 이게 실증적인
사료로서 뉴욕 증권 거래서의 어떤
거를 고려를 하고 있다라는 부분들
요런 것들도 굉장히 주목이 되는
부분들이 되겠죠. 하루에이 메시지를
던지는 이거 자체가 엄청나지
않습니까? 오피셜로 1.1 트리언에
대한 해당하는 것들을 재빠르게 처리할
수 있는 것들을 실증적으로 해 보고
있다라는 거니까. 야, 이렇게 되면
진짜 엔비디아 뭐 다 먹는 거
아니야? 에이전트 시대에 오다 보니까
그 기반으로 가는이 렉스케일의 어떤
모든 인프라가 엔비디아가 지배를
하겠다라는 측면으로 느껴지죠.
그다음에 이번에도 CPO 얘기를
했는데이 지표끼리 데이터를 주고받는
것뿐만 아니라 여러 렉으로 막 왔다
갔다 해야 되잖아요. 그래서 케이블을
더 꽂주면 되는게 아니라 저도 저번에
실리콘 포토닉스 관련된 영상을
올렸죠. 그래서 스펙트럼 X 포토닉스
같은 요런 쪽으로 접근을 하게 되는게
결국은 연결을 잘하는이 네트워킹을
어떻게 할 것이냐. 그게 구리선으로
안 되면은 결국 CPO 쪽으로
포토닉스 쪽으로 빛을 통해서 접근을
한다라고 하는 관점이 되겠고 실제로는
이런게 전력 소모라든가 발열이라든가
뭐 신도도 갑자기 뭉개질 수도 있고
거리가 멀어지면은 전력 소비가 클
수도 있고 막 여러 가지 문제들이
있잖아요. 그래서 엔비디아가 스펙트럼
X 이더넷포토닉스 같은 이런 것들과
CPU를 강조한게 결국은 칩에서 전기
신호가 보드랑 케이블 뭐 트랜시버까지
이동한 뒤에 광신호로 바뀌어야
되잖아요.이 이 CPO가이 전기
신호를 이동해야 되는 거리 자체를
줄일 수가 있으니까 같이 코 패키지도
옵틱스잖아요. 같이 합쳐서 옵틱스이
빛을 전자랑 같이 설계할 수 있도록
하겠다라는 것들을 TSM 제가 협력을
한 거니까 이번에 베라루빈 플랫폼에
스펙트럼 X 이더넷 포토닉스라는 거를
도입을 하게 될 거고 그러면은 밀리언
GPU AI 팩토리가 가능하게 된다.
100만 개의 수준이잖아요.이 이
엄청난 수준의 GPU를 연결을 할 수
있는 거에 토대가 되는 인프라가
되는게 바로이 CPU기 때문에 그리고
스펙트럼 X 이더넷 쪽이기 때문에
요런 네트워킹 회사에서도 실제로 젠슨
이런 얘기했습니다. 우리는 세계에서
가장 강력한 네트워킹 회사가
됐습니다. 뭐 이런 얘기를 했거든요.
그리고 블루피드 4 같은 STX
요거는 이제 스트로이지 요게 또 랜드
플래시가 굉장히 띄는 이유지
않습니까? 뭐 키옥시라든가 샌디스크
이런 기업들이 주식 시장에서 주목을
받는 것이 KV 캐시를 담아야 되는데
HBM이나 LPDR에 다 담을 수
없으니까 랜드 플래시 쪽으로
옮긴다라는 의미거든요. 그래서
M비대가 요런 쪽으로 접근을 해
가지고 또 KV 캐시가 결국은 굉장히
긴 멀티턴의 대화라든가 컨텍스트가 길
때 장기 기억을 저장하는 용도로
쓰이기 때문에 랜드 플래시가 많이
필요할 수밖에 없다라는 구조인 거죠.
결국 에이전트 AI가 커지면은
보안문드도 같이 커지니까 스토리지
쪽에서의이 KV캐시 저장과 함께
블루필드에서의 요러한 도입들을 고려를
해서 만들었다라고 보시면 되겠고
거기다가이 서버 쪽뿐만 아니라 이번에
굉장히 야심했던 게이 바로 퍼스널
AI 부분이라는 겁니다. 처음에
윈도우 40년 얘기를 하면서 갑자기
윈도우 창을 이렇게 띄어 가지고 좀
의했었는데 AI PC를 실제로
마이크로소프트와 협력해 갖고 내겠다고
지금 발표를 한 거죠. 그러면서
실제로 M비디아 블랙의 R텍스
GPU가 들어가 있고 후다코가
엄청나게 많이 들어가 있죠. 그러면서
1페타플롭스에 해당하는 것들을
들어가면서 그레이스 CPU를 여기에
넣어서 20개의 코어를 미저택과
협력을 했던게 바로요 부분이 된
것으로 보이고 LPDDR 5X로 무려
128GB바를 넣었습니다. 제가
예전에 DGX 스파크가 났을 때
요거를 계속 AIPC AIPC
우리나라 언론들이나 많은 분들이
이렇게 잘못 오해를 하고 계셔서 제가
많이 말씀드린 부분들이 있죠. 그거는
AI PC라고 해서 개인용 컴퓨터라고
보기에는 그것보다는 데이터 센터를
이용하지 못하는 개발자용으로 나온
거라고 말씀드렸잖아요. 그니까
개발자용으로 됐기 때문에 오히려
애플의 뭐 맥민이라든가 이런 쪽이 더
소비자 용에 가까웠는데 딱 그
포지션을 타겟으로 해서 윈도우랑
협업해서 이런 랩탑 쪽으로 굉장히
강력한 AI를 빡세게 돌릴 수 있는
그러한 컴퓨팅을 지원을 하는 노트북을
이번에 윈도우와 협력하고 미디어택까지
협력을 해서 M비디아가 개인용으로
드디어 AI PC를 내놓은 겁니다.
디젤 스파크는 AI PC가 그래서
아니라는 거죠. 그래서 노트볼 실제로
저렇게 들고 와 가지고 보여 주시기도
했는데 컴퓨텍스에서 실제로 이제
게임을 돌리고 있어요. 어 얼마나
컴퓨팅이 빡세겠습니까? 그런 것들
이제 보여주면서 하는데 그니까
CPU랑 GPU 다 섞어가지고
본인들이 다 직접 만든 거잖아.
미디테일 같이 해가지고 협력해가지고
그런 측면에서 와 진짜 엔비디아가
이제 디바이바이스 쪽으로도 지금 잡아
먹으려고 저렇게 준비 중이구나라고
하는 부분들 느낄 수 있었습니다.
그래서 PC 쪽이라든가 노트북 그리고
저렇게 작은 형태에 24시간 돌아가는
딱 보니까 지금 저거 맥미니 타겟으로
혹은 맥 스튜디오로 타겟로 한 거
같지 않습니까? 그러면서 저렇게 많은
노트북과 PC들 실제로 플랫폼들을
보여주기도 했는데 에이전트화되면은
에이전트 시장으로 가게 되면 결국
저러한 것들이 다 중요하게 되겠죠.
그러면 저 시장 자체도 엔비디아가
가만히 있지 않겠다 다 들어가겠다라고
승부를 지금 선언을 한 거죠. 와
그래서 진짜 엄청나게 많은 분야를
지금 엔비디아가 접근을 하고 있구나.
물론 저거를 이제 제조사들은
AS서든가 MSI라든가 다른 여러
가지 제품들이 있겠죠. 근데 그거
하나하나에 지금 M비디아의 모든
것들이 지금 포함되어 있다. 접근을
하고 있다라고 보시는게 맞겠습니다.
그러면서 앞으로도이 블랙에가 루빈
파만 플랫폼에이 AI PC에 해당하는
부분들도 지금 들어온 거 보이시죠?
노트북 알텍스 스파크 디지털 스테이션
요렇게 구분해서 접근을 한 것이
보이겠고요. 그래서 베라루빈을
통해서이 아이작 그루트 같은 요런
로봇뿐만 아니라 자율주행 온갖 것들이
다 연기된다. 결국 에이전틱 AI를
중심으로 해서 가겠다라는 거. 어,
특히나이 컴퓨터 자체가 데이터로
해당되다 보니까이 데이터의 모든
것들이 결국이 코스모스라고 하는
피지컬 AI 여기에서 온다는 거죠.
피지ical AI가 되니까 뭐가
되겠습니까? 결국 휴모노이드 로봇
같은 것들, 로봇 업체들과 협력을 할
수가 있는 것이 되겠고 알파마이요 2
같은 것도 이번에 공개를 했는데 자율
주행도 이렇게 자연스럽게 된다라는
거. 그리고 키노트 발표 이후에이
유니트리의 상장이 발표가 됐는데
유니트리를 마치 이제 그 엔비디아의
레퍼런스 모델로 해 가지고 정해진
이게 31 디그리 오브 프리덤의
유니트리 로봇과 이런 자유도를 가진
거를 레퍼런스 모델 해갖고 어 이거
기준으로 여러분 만들어 보세요. 마치
예전에 M비디아가 그래픽 카드 팔 때
레퍼런스 모델을 하나 만든 다음에
AS서라든가 MSI라든가 이렇게 다른
모델들을 이렇게 내준 것처럼요 똑같은
모델을 제을 하는 것으로 보입니다.
그러면서 마지막으로 이렇게 전체적으로
다 요약을 해 줬어요.이 이
엔터프라이즈 에이전트 툴키스를 공개를
하기도 했고 베라스퓨를 강조하면서
왜냐하면은 이게 에이전트 AI의
핵심이 될 거기 때문에 그러면서이
플랫폼 중심으로 해서이 렉스케일로
뻗어나가는 AI 팩토리 플랫폼을 이제
보여준게 되 있고 그 외에 AI
PC라든가 피지컬 AI에 대한
부분들을 이번에 정리를 하게 된 것이
되겠습니다. 사실 이번 발표 내용
중에 정말 다른 내용들이 너무 많은데
한번 정리해서 먼저 드리고 각까지
내용들은 또 추후에 또 한번 더
정리를 하는 형태로 전달드려 보도록
하겠습니다. 제가 이제 끝나고 난
이제 그 라이브한 소회는 단태님과
함께 같이 밥 먹으면서 영상을
올렸으니까 그거 한번 봐 주시면
되겠습니다. 지금까지 에러였습니다.