NVIDIA Open Agent Safety Platform 출시

오늘 NVIDIA는 두 가지 큰 발표로 주목을 받았습니다. 하나는 자사 주식 재매입 계획에 1,500억 달러가 추가된 것이었고, 다른 하나는 AI 실행 주변에 안전 가드레일(safety guardrails)을 추가하는 것을 목표로 하는 NVIDIA Open Agent Safety Platform이었습니다. 최근 이 주제가 주요 화두가 되고 있어, NVIDIA가 리더십 역할을 수행하는 모습은 매우 긍정적입니다.

NVIDIA Open Agent Safety Platform 출시

NVIDIA OpenShell 0.1.0은 기존 AI 에이전트 프레임워크를 대체하기보다는 주변에 위치하는 오픈 소스 런타임으로 작동합니다. 이는 Codex, Claude Code, Hermes, Pi와 같은 도구들을 커널 레벨 격리(kernel-level isolation)가 적용된 샌드박스 환경에서 실행함으로써 지원합니다. 주목할 점은 OpenClaw는 부재하다는 것입니다.

OpenShell v0.1.0 Capabilities

이 게이트웨이는 에이전트 플릿 전반에 걸쳐 샌드박스 수명 주기와 정책을 관리합니다. 각 샌드박스는 Supervisor 프로세스와 쌍을 이루어 구성된 정책에 따라 아웃바운드 HTTP, GraphQL 및 MCP 트래픽을 검사합니다. 샌드박스는 운영체제 제어를 통해 파일 시스템 및 프로세스 제한을 강제합니다. YAML로 작성된 정책은 OPA Rego로 컴파일되어 모든 아웃바운드 요청마다 평가됩니다. OpenShell은 동일한 API 엔드포인트를 통해 쓰기는 차단하면서 읽기만 허용할 수 있습니다.

OpenShell v0.1.0 Handling Credentials

Credential protection 기능은 비밀 정보를 에이전트 워크로드 외부로 유지합니다. 프로바이더 프로필(provider profile)은 어떤 엔드포인트와 프로그램이 서비스에 접근할 수 있는지 정의합니다. 수신하는 서비스들 역시 자체적인 권한을 강제합니다. OpenShell은 에이전트 사용에 대한 별도의 제어를 추가합니다. 샌드박스가 네트워크 액세스를 할 수 없게 되면, curl 요청은 커널 레벨에서 실패합니다. 정책을 수정하여 읽기 전용 GitHub API 접근을 허용하는 것은 단 하나의 명령으로 가능하며 샌드박스 재시작이 필요하지 않습니다. OpenShell은 모든 정책 결정을 Open Cybersecurity Schema Framework 감사 추적(audit trail)에 기록합니다.

Pegatron NVIDIA GTC 2026 Booth Tour NVIDIA BlueField 4 1

NVIDIA Open Agent Safety Platform은 NVIDIA Sentry가 BlueField-4 DPU에서 실행되도록 하여 OpenShell 보호 기능을 하드웨어로 확장합니다. 주목할 점은 이것이 BlueField-3 DPU를 위한 것이 아니며, 후자 역시 컴퓨팅 능력이 훨씬 떨어진다는 것입니다. 이 DPU들은 Vera Rubin POD 시스템에서 모델로 가는 유일한 경로에 위치합니다.

OpenShell v0.1.0 Managing Sandboxes

Sentry는 NVIDIA DOCA를 통해 에이전트 상호작용, 정책 결정 및 도구 접근을 연관 지어 상황별 활동 기록(contextual activity records)을 생성합니다. 적대적 실험에서 최첨단 에이전트들은 보호된 저장소 수정 권한을 부여받기 위해 AI 검토자들을 설득하는 데 최대 2시간까지 사용했습니다. OpenShell은 에이전트들이 조작을 시도했을 때조차, 해당 권한이 무엇을 허용했는지에 대한 증거를 검토자들에게 제공했습니다. 이 테스트 동안 보호된 저장소에 쓰기 작업(write)은 발생하지 않았으며, 이것이 목표입니다.

마지막 단어