트럼프 행정부는 목요일에 중국 주체들이 미국의 인공지능(AI) 시스템을 무단으로 빼돌리기 위해 '산업적 규모 캠페인(industrial-scale campaigns)'을 전개하고 있다고 비난하며, 외국 행위자들에게 책임을 물을 방법을 모색할 것이라고 밝혔습니다.

도널드 트럼프 대통령의 최고 과학기술 자문가인 마이클 크라치오스(Michael Kratsios)는 중국이 대형 AI 모델로부터 소규모 AI 모델을 훈련하기 위해 데이터를 체계적으로 추출하고 복사하는 이른바 '증류(distillation)' 작업에 대한 의혹을 제기하며, "미국 산업의 혁신을 체계적으로 추출하고 복사하는 것에는 아무런 혁신성이 없다"고 말했습니다.

미국 정부는 이전에 중국이 미국 AI 기술과 지적 재산권(intellectual property)을 표적으로 삼았다고 비난한 바 있습니다.

크라치오스는 대규모 '증류' 작업을 탐지하고 예방하기가 쉬워짐에 따라, 그러한 "취약한 기반 위에서 AI 역량을 구축하는" 주체들은 "자신들이 생산하는 모델의 무결성과 신뢰성(integrity and reliability)에 대한 자신감을 잃어야 한다"고 경고했습니다.

그는 미국 정보에 따르면, 미국의 최첨단(frontier) AI 시스템을 '증류'하려는 캠페인이 주로 중국 기반 주체들로부터 나오고 있다고 말했습니다.

이러한 노력에는 수만 개의 프록시 계정(proxy accounts)과 탈옥 기술(jailbreaking techniques)을 사용하여 독점 정보를 비밀리에 "노출시키는 것"이 포함된다고 크라치오스는 밝혔습니다.

'은밀하고 무단인 증류 캠페인(surreptitious, unauthorized distillation campaigns)'을 통해 미국 모델을 복사하려는 시도는 원본과 동일한 성능의 AI 시스템을 만들어내지 못할 것이라고 자문가는 지적했습니다.

하지만 이러한 행위는 "외국 행위자들이 적은 비용으로 특정 벤치마크(benchmarks)에서 비교 가능한 성능을 보이는 제품을 출시하도록 가능하게 한다"고 그는 언급했습니다.

또한 크라치오스에 따르면, 이는 증류자들로 하여금 결과 모델에서 보안 프로토콜(security protocols)을 의도적으로 제거하고 해당 AI 모델이 이념적으로 중립적이며 진실 추구적인지 보장하는 메커니즘을 무효화하도록 가능하게 합니다.

워싱턴의 중국 대사관은 메모에 대한 논평 요청에 즉각 응하지 않았습니다.

크라치오스는 증류 자체가 경쟁적인 AI 생태계와 본질적으로 충돌하는 것은 아니며, "더 진보된 시스템에서 더 작고 가벼운 모델을 생산하기 위해 합법적으로 사용될 때"