구글, 기밀 펜타곤 AI 계약 체결… 1 억 달러 드론 군집 프로그램 퇴출 - 직원들의 윤리적 우려로 내부 반발 발생

구글은 월요일에 미국 국방부 (U.S. Department of Defense) 와 기존 계약을 수정하여 제미니 (Gemini) 의 이용 범위를 기밀 네트워크로 확장하고, 펜타곤이 해당 모델을 "어떠한 합법적인 정부 목적"에 배포할 수 있도록 허가를 부여했습니다. 별개로 블룸버그 (Bloomberg) 는 같은 날 구글이 2 월에 내부 윤리 검토를 거친 후 1 억 달러 규모의 펜타곤 상금 챌린지 (prize challenge) 에서 철수했다고 보도했습니다. 이 챌린지는 음성 명령을 디지털 지시어로 변환하여 자율 드론 군집을 조정하는 기술을 개발하는 것이었습니다.

구글은 오픈아이 (OpenAI) 와 일론 머스크의 xAI 가 펜타곤에 광범위한 기밀 AI 접근 권한을 부여한 데 이어 이번에도 동참했습니다. 이 계약에 대해 펜타곤 AI 수장 케머런 스탠리 (Cameron Stanley) 는 단일 벤더에 대한 의존도를 피하는 것이 최우선 과제라고 말했습니다.

구글의 합의는 회사가 정부 요청에 따라 AI 안전 설정과 필터를 수정하는 것을 포함하며, 계약에는 AI 시스템이 "적절한 인간 감독 및 통제가 없는" 국내 대량 감시나 자율 무기 사용해서는 안 된다는 문구가 포함되어 있습니다. 그러나 이 거래가 구글에게 "합법적인 정부 운영 의사결정에 대한 거부권 (veto) 을 부여하지 않는다"고 명시함으로써 합의된 제한 사항들이 특히 견고해 보이지는 않습니다.

구글 퍼블릭 섹터 (Google Public Sector) 대변인은 *더 인포메이션 (The Information)*에 "우리는 국가 안보를 지원하기 위해 AI 서비스 및 인프라를 제공하는 선도적인 AI 실험실과 기술, 클라우드 기업들의 광범위한 컨소시엄의 일원이 된다는 점에 자부심을 느낀다"고 말했습니다.

구글은 2 월 11 일에 정부에 드론 군집 챌린지 참여를 중단할 것이라고 통보했습니다. 회사는 공식적으로 자원 부족을 이유로 들었지만, 블룸버그가 검토한 내부 기록에는 철수가 윤리 검토 이후 이루어졌음이 드러났습니다.

600 명 이상의 구글 직원이 월요일 CEO 순다르 피차이 (Sundar Pichai) 에게 편지를 전달하여 기밀 계약을 거부할 것을 호소했습니다. 이들은 이것이 구글 AI 의 오용을 막는 유일한 방법이라고 주장했습니다.

구글은 2018 년에도 드론 감시 영상 분석을 위한 펜타곤 계약인 프로젝트 마벤 (Project Maven) 에 대해 유사한 내부 반발을 겪었습니다. 약 4,000 명의 직원이 청원서에 서명한 후 회사는 해당 계약을 만료시켰으며, 팔란티어 (Palantir) 가 그 업무를 인수했습니다. 이후 이 프로그램은 기록에 포함된 프로그램으로 성장하여 130 억 달러 규모로 커졌습니다.

안스로픽 (Anthropic) 은 올해 초 "어떠한 합법적인 목적"이라는 유사한 조항에 동의하지 않고 자율 무기 및 국내 대량 감시에 대한 명시적 제한을 요구했습니다. 이에 펜타곤은 회사를 공급망 위험으로 지정했는데, 이후 연방 판사는 이를 '오웰식 (Orwellian)'이라고 부르며 집행 금지 명령을 내렸습니다. 해당 소송은 아직 진행 중입니다.

토머스 하드웨어 (Tom's Hardware) 의 최신 뉴스, 분석 및 리뷰를 구독하려면 구글 뉴스에서 토머스 하드웨어를 팔로우하거나 선호하는 소스로 추가하세요.

루크 제임스 (Luke James) 는 프리랜서 작가이자 저널리스트입니다. 그는 법률 분야에서 배경을 가지고 있지만,