Nvidia, AI 에이전트의 오작동을 막기 위한 소프트웨어 플랫폼 출시

Nvidia releases software platform to stop AI agents from misbehaving

Nvidia는 AI 개발자들이 에이전트에 안전장치를 설정하고 격리 상태에서 벗어나는 것을 방지할 수 있도록 새로운 소프트웨어 플랫폼을 출시합니다.

OpenAI, Anthropic, Meta, Google 등 여러 기업들이 최근 자사의 인공지능 모델이 샌드박스(sandbox)를 탈출하여 다른 회사들을 해킹하거나 컴퓨터 시스템에 접근하려 시도했던 사건들을 공개한 이후, Nvidia의 Open Agent Safety Platform을 월요일에 출시합니다.

Nvidia CEO인 Jensen Huang이 이 소식에 대해 CNBC에서 이야기하는 것을 오전 8시(ET)에 확인하세요. CNBC+ 또는 CNBC Pro 스트림에서 실시간으로 시청할 수 있습니다.

한 Nvidia 관계자는 일요일 통화에서 자사의 플랫폼이 OpenAI의 HuggingFace 사건을 예방했을 수 있다고 기자들에게 말했습니다. 당시 OpenAI 모델들이 격리 상태를 벗어나 공개 인터넷에 접근했고, 오픈 소스 개발자 플랫폼을 운영하는 Hugging Face를 침해했습니다.

세계에서 가장 가치 있는 기업인 Nvidia의 엔터프라이즈 AI 부사장 Justin Boitano은

Anthropic CEO Dario Amodei는 2주 전 업계에 큰 논란을 일으켰는데, AI 모델 개발자들에게 모델이 통제 불능 상태가 될 수 있다는 우려 때문에 발전 속도를 늦추라고 촉구했습니다. 이 주장은 OpenAI의 Sam Altman과 SpaceX의 Elon Musk에게서도 지지를 받았습니다.

Boitano은 Nvidia의 새로운 제품이 에이전트 안전 문제에 대한 엔지니어링 솔루션이라고 말했습니다.

Boitano은