백악관과 Anthropic, 탈옥 저항성 벤치마크 및 보안 프레임워크 개발 협력

백악관(The White House)과 Anthropic은 탈옥 저항성 (jailbreak resistance)을 위한 새로운 벤치마크와, 모델의 출시 안전성을 판단하여 향후 정부 개입의 가이드라인이 될 새로운 보안 프레임워크 (security framework)를 개발하기 위해 협력하고 있습니다.

'걸리는 것도 계획의 일부였나요?'
Dario:

새 소식: 백악관과 Anthropic은 문제가 된 탈옥 (jailbreak)의 심각성을 정량화할 수 있는 공식적인 기술 평가 프레임워크 (formal technical assessment framework)를 구축하고, 향후 유사한 사건을 평가하기 위한 표준화된 방법론 (standardized methodology)을 만들기 위해 노력하고 있습니다.

이는 논의가 진행 중임을 보여주는 지금까지 중 가장 명확한 신호입니다.