구글과五角군 (Pentagon), '법적 허용 범위 내' AI 활용에 reportedly 합의

구글은 미국 국방부 (US Department of Defense) 가 자체 AI 모델을 "어떠한 합법적인 정부 목적"(any lawful government purpose) 에 사용할 수 있도록 하는 기밀 계약을 체결했다고 The Information 이 보도했습니다. 이 합의는 구글 직원들이 CEO 산다르 피차이 (Sundar Pichai) 에게五角군 (Pentagon) 이 AI 를 사용하는 것을 막아달라고 요구한 지 하루도 채 되지 않아 보도되었습니다. 직원들은 AI 가 "인간적이지 않거나 극도로 해로운 방식"(inhumane or extremely harmful ways) 으로 사용될 수 있다는 우려를 표명했습니다.

이 기밀 계약은 구글이 정부가 어떻게 AI 모델을 사용할지 막는 거부권 (veto) 을 허용하지 않는 것으로 보입니다.

이 합의가 확인된다면, 구글은 미국 정부와 기밀 AI 계약을 체결한 오픈AI (OpenAI) 와 xAI 와 함께 선두에 서게 됩니다. 앤스로픽 (Anthropic) 도 이 목록에 있었으나, 국방부 (Department of Defense) 가要求其 AI 모델에서 무기 및 감시 관련 안전장치 (guardrails) 를 제거하라는 요구를 거절하자五角군 (Pentagon) 의 블랙리스트에 올랐습니다.

The Information 은 "상황을 아는" 단일 익명 출처를 인용하여, 계약 양측이 구글의 AI 시스템은 적절한 인간 감독과 통제 (appropriate human oversight and control) 없이 국내 대량 감시 (domestic mass surveillance) 나 자율 무기 (autonomous weapons) 에 사용해서는 안 된다는 데 합의했다고 보도했습니다. 그러나 이 계약은 구글에게 "합법적인 정부 운영 결정에 대한 통제권이나 거부권을 부여하지 않는다"고 명시하고 있어, 합의된 제한 사항이 법적 구속력이 있는 의무보다 핑거팁 약속 (pinky promise) 에 가깝다는 것을 시사합니다. 또한 이 계약은 국방부의 요청에 따라 구글이 AI 안전 설정과 필터를 조정하는 데 협력하도록 요구합니다.

구글의 대변인은 The Information 에게 제공한 성명에서 "우리는 국가 안보를 지원하기 위해 AI 서비스와 인프라를 제공하는 주요 AI 연구소 및 기술·클라우드 기업들의 광범위한 컨소시엄 일원으로서 자랑스럽게 생각합니다"라고 밝혔으며, 새로운 계약은 기존 정부 계약에 대한 수정안 (amendment) 이라고 덧붙였습니다. 이어 "우리는 AI 가 적절한 인간 감독 없이 국내 대량 감시나 자율 무기 사용에 이용되어서는 안 된다는 민간 및 공공 부문의 합의에 계속 التزام하고 있습니다"라고 강조했습니다.

[업데이트, 4 월 28 일]: 로이터 (Reuters) 에 제공한 성명을 구글이 The Information 에 제공한 성명으로 교체했습니다.