프론티어 안전 프레임워크(FSF) 3차 업데이트: 위험 관리 강화

요약

DeepMind는 AI의 급격한 발전에 맞춰 '프론티어 안전 프레임워크 (Frontier Safety Framework, FSF)'를 세 번째 버전으로 대폭 업데이트했습니다. 이번 업데이트는 고도화된 AI 모델이 초래할 수 있는 위험을 식별하고 완화하는 데 중점을 둡니다. 주요 개선 사항으로는 악의적인 조작(harmful manipulation)에 대한 '임계 역량 수준 (Critical Capability Level, CCL)' 도입과, 정렬되지 않은 AI(misaligned AI)가 운영 시스템에 개입할 수 있는 미래 시나리오에

핵심 포인트

• FSF 3.1은 악의적인 조작 능력을 평가하는 새로운 '임계 역량 수준 (CCL)'을 도입했습니다.
• 정렬되지 않은 AI 모델이 운영 시스템을 방해할 수 있는 미래 시나리오에 대한 프로토콜을 확장했습니다.
• 위험 평가 프로세스를 정교화하여, 모든 위험을 그 심각성에 비례하여 관리하도록 했습니다.
• 새로운 '추적 역량 수준 (Tracked Capability Levels, TCLs)'을 도입해 잠재적인 덜 극단적인 위험까지 조기에 감지할 수 있게 되었습니다.