프론티어 안전 프레임워크(FSF) 3차 업데이트: 위험 관리 강화

DeepMind는 고도화된 AI 모델의 안전성을 확보하기 위해 '프론티어 안전 프레임워크 (Frontier Safety Framework, FSF)'를 세 번째 버전으로 업데이트했습니다. 이는 AI가 가져올 혁신적인 변화에 발맞춰 위험을 식별하고 완화하는 가장 포괄적인 접근 방식입니다.

주요 개선 사항:

1. 악의적 조작 위험 대응: 이번 업데이트에서는 모델이 사용자의 신념이나 행동을 체계적으로 변경할 수 있는 '임계 역량 수준 (Critical Capability Level, CCL)'을 추가했습니다. 이는 생성형 AI가 가진 조작 메커니즘에 대한 연구를 바탕으로 합니다.
2. 정렬 불일치 위험 확장: FSF는 이제 정렬되지 않은(misaligned) AI 모델이 운영자들의 통제나 중단 능력에 개입할 수 있는 미래 시나리오까지 다룹니다. 또한, AI 개발 자체를 불안정하게 만들 수 있는 역량 수준에 대한 프로토콜도 강화했습니다.
3. 위험 평가 프로세스 정교화: 위험 관리의 엄격성을 높이기 위해 CCL 정의를 더욱 명확히 했으며, 모든 위험을 그 심각성에 비례하여 다루는 체계를 구축했습니다. 특히, 초기 경고 평가 외에도 모델 역량에 대한 포괄적인 분석과 위험 수용 가능성 결정 과정을 상세화했습니다.
4. 추적 역량 수준 (TCLs) 도입: 2026년 4월 17일부로 '추적 역량 수준 (Tracked Capability Levels, TCLs)'을 추가하여, 더 심각하지는 않지만 잠재적인 위험까지 조기에 감지하고 평가할 수 있게 되었습니다.

DeepMind는 FSF가 AGI(Artificial General Intelligence)를 향한 여정에서 과학적이고 증거 기반의 접근 방식을 유지하며 AI 위험에 대비하는 핵심 동력이 될 것이라 강조했습니다. 이 프레임워크는 지속적인 연구와 이해관계자들의 협력을 통해 진화할 것입니다.