NVIDIA가 오늘 발표한 것 중 나는 새로운 GPU보다 AI Agent를 통제하는 방법이 더 흥미롭게 보였다
요약
NVIDIA가 발표한 Open Agent Safety Platform은 AI Agent의 안전성을 소프트웨어뿐 아니라 하드웨어 레벨에서 통제하는 방안을 제시합니다. 이는 BlueField-4 DPU를 활용하여 Agent의 행동 범위를 설정하고, 경계 이탈 시 밀리초 단위로 격리함으로써 강력한 보안 및 거버넌스 계층을 구축하는 것이 핵심입니다.
핵심 포인트
- AI 모델 자체에 대한 맹신 대신 '경계' 설정을 강조합니다.
- BlueField-4 DPU가 Agent와 독립적으로 감시하여 우회 불가능성을 확보했습니다.
- NVIDIA는 GPU 외에도 보안/통제 인프라(Vera CPU + BlueField DPU)를 생태계로 확장하려 합니다.
- AI의 자율성 증가에 따라 하드웨어 레벨의 안전 통제가 필수적인 시장 기회가 될 수 있습니다.
NVIDIA가 오늘 발표한 것 중 나는 새로운 GPU보다 AI Agent를 통제하는 방법이 더 흥미롭게 보였다
Jensen Huang의 생각을 한 문장으로 줄이면 이렇다
AI 모델 자체를 완벽하게 믿지 말고, 모델 밖에 절대 넘을 수 없는 경계를 만들자
NVIDIA가 공개한 Open Agent Safety Platform은 Agent의 안전을 소프트웨어에만 맡기지 않는다
구조를 보면
AI Agent
→ OpenShell이 행동범위 설정
→ Vera CPU에서 실행
→ BlueField-4 DPU가 별도로 감시
→ 경계를 넘으면 밀리초 단위로 격리한다.
여기서 중요한 건 BlueField DPU가 Agent와 독립적으로 감시한다는 점이다
Agent가 아무리 똑똑해져도 자신을 감시하는 하드웨어까지 마음대로 우회하지 못하게 만들겠다는 것이다
나는 이걸 NVIDIA의 사업 관점에서 본다
지금까지 AI 데이터센터에서 NVIDIA가 팔던 것은 주로
GPU + Networking + CPU였다.
그런데 수많은 AI Agent가 기업의 데이터·결제·코드·공장까지 직접 건드리기 시작하면 새로운 인프라가 필요해진다
Security / Governance layer(보안·통제 계층).
NVIDIA는 이것까지
Vera CPU + BlueField DPU + DOCA + OpenShell
생태계 안으로 가져오려고 한다
이미 Anthropic, Microsoft, Palantir, Salesforce, SAP, JPMorganChase, Citi, SpaceXAI 등 100개 이상의 조직이 참여하고 있다
나는 여기서 NVIDIA의 장기 전략이 더 선명해진다고 본다
AI가 강해질수록 필요한 것은 GPU만이 아닐 수 있다
AI Capability ↑
→ Agent 자율성 ↑
→ 사고 위험 ↑
→ Hardware-level security 필요 ↑
가 될 수 있다.
그렇게 되면 NVIDIA는 꽤 독특한 위치에 선다.
더 강한 AI를 만드는 Compute도 팔고, 그 AI가 사고를 치지 않도록 통제하는 Infrastructure도 판다
내가 중요하게 보는 부분은 앞으로 기업들이 Agent Safety를 단순 소프트웨어 기능으로 볼지
아니면 NVIDIA가 주장하는 것처럼 AI 데이터센터의 필수 하드웨어 계층으로 받아들이기 시작하는지다
후자가 된다면 Agent 시대의 NVIDIA 매출 기회는 GPU 숫자만 보고 계산하는 것보다 더 넓어질 수 있다고 생각한다
AI 자동 생성 콘텐츠
본 콘텐츠는 X GPU/AI 하드웨어의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기