AI 안전 강화를 위한 영국 기관과의 협력 확대 발표

Google DeepMind는 영국 AI 보안 연구소(UK AI Security Institute, AISI)와의 협력 관계를 대폭 강화한다고 발표했습니다. 이번 확대된 파트너십은 단순 모델 테스트를 넘어, 인공지능(AI)의 기초적인 안전 및 책임 연구 전반에 초점을 맞춥니다.

AI는 질병 치료나 기후 변화 대응 등 인류에게 막대한 잠재력을 제공하지만, 그 이면에는 안전과 책임이 핵심 과제로 남아있습니다. 따라서 외부 전문가와의 협력은 필수적입니다.

이번 파트너십을 통해 양측은 독점 모델 및 데이터를 공유하고 공동 보고서를 발간하며, 기술적인 논의를 거쳐 복잡한 안전 문제에 접근합니다. 주요 연구 영역으로는 AI가 추론하는 과정(Chain-of-Thought, CoT)을 모니터링하는 방법론 개발이 있습니다.

또한, 단순히 기능적 오류를 넘어 인간의 행복과 정서에 미치는 사회/감정적 영향(socioaffective misalignment)을 조사하고, AI가 경제 시스템에 미칠 잠재적 영향을 시뮬레이션하여 예측합니다. 이는 AI 기술의 혜택을 극대화하는 동시에 위험을 최소화하려는 광범위한 노력의 일환입니다.