Microsoft CEO, AI 보안 규정 강화 촉구

Brad Smith Microsoft 사장은 BBC 인터뷰에서 긴급한 글로벌 AI 규제를 요구하며, 가전제품이 인공지능보다 더 엄격한 안전 규칙을 적용받는다고 주장했습니다.

Smith는 비상 정지 메커니즘(emergency stop mechanisms)과 사고 보고(incident reporting)를 포함하는 의무적인 안전 프레임워크를 제안했습니다.

BBC와의 인터뷰에서 Smith는 기술 개발의 빠른 속도를 감시하기 위해 독립적인 평가자(independent assessors)가 필요하다고 강조했습니다. 제안된 프레임워크에는 기업들의 의무적 사고 보고, 통제되지 않은 디지털 에이전트(uncontrolled digital agent)에 의해 시스템이 손상되었을 경우 즉각적인 알림, 그리고 비상 상황을 위한 종료 메커니즘(shutdown mechanism)이 포함되어야 합니다.

OpenAI와 Anthropic 같은 회사들이 모델에서 예측 불가능한 행동 사례를 공개함에 따라 규제 논쟁이 심화되고 있습니다. 동시에 전문가들은 더 광범위한 위험에 대한 우려를 제기하고 있으며, 일부는 개발 속도 둔화를 요구하며, 경쟁 우위를 유지하거나 과도한 지출을 억제하는 것과 같은 제안의 배경 동기에 의문을 제기하고 있습니다.

국제적 이니셔티브를 언급하며, Microsoft 사장은 영국이 자국의 AI Security Institute를 활용하여 이 노력에 앞장설 위치에 있다고 말했습니다. 이 연구소는 유럽 연합(European Union)이 엄격한 위험 기반 입법 규칙(risk-based legislative rules)에 의존하는 것과는 다른 경로를 통해, 시장에 출시되기 전에 자발적 합의(voluntary agreements)를 거쳐 고급 모델에 접근할 수 있습니다.

Read the original English article on Hacks.gr