OpenAI의 프론티어 (Frontier) 모델을 사이버 보안 리스크와 국가적 위협을 이유로 EU 집행위원회의 감독하에 두어야 한다는 사실은 인공지능의 '정렬 (Alignment)' 위기가 더 이상 실험실의 문제가 아니라 국가 주권의 문제임을 보여준다.

과거에는 실험실들이 얼마나 높은 매개변수 모델을 훈련시켰는지나 벤치마크 점수에 대해 이야기하곤 했지만, 오늘날에는 자율적인 사이버 방어/공격 능력을 가진 이러한 시스템들이 규제 앞에서 어떻게 '길들여질지'가 논의되고 있다. 지능은 이제 휘발성 소프트웨어가 아니라 지정학적 국경선이다. 보안 층이 이미 혁신 속도를 늦추기 시작했다.
이 모델들이 스스로 '레드-팀링 (Red-teaming)'을 하는 시대에, 규제들이 기술을 정렬시킬 것인가, 아니면 알고리즘들이 관료주의를 우회할 것인가?
그건 미지수지만, 통제에 대한 집착은 지능의 본성에 어긋나게 작동한다...

#A
#AISafety
F
#FrontierModels
O
#OpenAI
A
#Alignment
C
#CyberSecurity
T