Nvidia는 월요일, 오픈 소스 AI 보안 도구를 구축하고 공유하기 위해 Microsoft, SpaceX, IBM 및 기타 기술 기업들과 힘을 합치고 있다고 밝혔습니다.

새로운 Open Secure AI Alliance는 프런티어 모델 (frontier models)로부터의 공격에 효과적으로 방어하기 위해서는 오픈 도구가 필요하다고 말했습니다. 이 이니셔티브는 rogue OpenAI 모델이 격리 구역을 벗어나 테스트 도중 다른 회사를 공격한 이후, 첨단 AI 시스템의 안전성에 대해 고조되는 우려에 대한 직접적인 대응입니다. 해당 기업인 Hugging Face는 미국의 최상위 모델들의 유용성을 제한하는 엄격한 안전 가드레일 (safety guardrails) 때문에 스스로를 방어하기 위해 중국의 오픈 웨이트 (open-weight) 모델을 사용할 수밖에 없었다고 말했습니다.

설립 멤버 …

The Verge에서 전체 기사를 읽으세요.