Garry Tan, Y Combinator CEO가 미국 오픈 웨이트 AI 연구소들도 '지식 증류'에 나서야 한다고 제안

Y Combinator CEO Garry Tan은 중국 AI 연구소들이 지식 증류(distillation) 기법을 사용하여 최첨단 모델 개발사들로부터 지식을 추출하는 것에 대해 규제 당국이 개입하지 않기를 바라고 있습니다. 실제로 그는 미국 AI 연구소들도 같은 방식으로 접근해야 한다고 생각합니다.

그는 이번 주 초 CNBC 인터뷰에서 “저는 아무것도 하지 않을 것입니다.”라며, “미국의 증류 체제가 있어야 한다고 주장할 수 있을 것”이라고 말했습니다.

그는 TechCrunch에 이어서 설명하며, 이는 작고 미국 기반의 오픈 웨이트 AI 연구소들이 미국 최첨단 AI 연구소들과 동일한 종류의 훈련 기법을 사용하기를 바란다는 의미이며, 이를 통해 중국이 아닌 더욱 강력한 오픈 웨이트 선택지를 미국에 제공할 수 있게 할 것이라고 했습니다.

지식 증류(Distillation)는 모델 개발사가 다른 모델에게 광범위하게 프롬프트를 입력하여 작동 방식과 추론 과정을 학습하는 것입니다. 이는 AI 연구소들이 새로운 모델을 훈련시키는 데 일반적으로 그리고 합법적으로 사용됩니다.

Anthropic은 이번 주에 중국 연구소들이 신분을 숨기고 무단으로 증류 공격(illicit distillation attacks)을 벌이고 있다고 주장하는 두 번째 보고서를 발표했습니다. Anthropic CEO Dario Amodei는 이전에 미국 규제 당국에 증류에 대해 단속할 것을 공개적으로 촉구한 바 있습니다.

흥미로운 점은 실리콘밸리의 권위 있고 생산적인 스타트업 액셀러레이터 책임자가 이에 동의하지 않는다는 것입니다.

분명히 말하자면, Tan이 미국 AI 연구소들이 도난당한 자격 증명을 사용하여 증류할 것을 옹호하는 것은 아닙니다. 그는 그들이 자유롭게 접근하기를 원합니다. 실제로 그의 주장은 두 가지입니다. 첫째, AI 연구소들이 자신들의 모델이 공유하는 정보에 대해 고객들이 무엇을 할 수 있는지까지 지시하는 것은 과도한 권한이라고 느낍니다.

또한 그는 독점 AI 연구소들 역시 자신들의 모델을 훈련하기 위해 가능한 한 많은 인간의 지식을 빨아들였을 때 허가를 받지 않았다는 점을 지적합니다. 그들은 저작권 소유자들의 허가 없이도 방대한 양의 저작권 자료를 사용했던 것으로 유명합니다.

그는 미국 연구소들 역시 지식 증류(Knowledge Distillation)에 나서야 한다고 제안했습니다.

“사용자와 고객들이 폐쇄형 가중치 모델(closed weight models)의 API 호출을 통해 무엇을 할 수 있는지 통제하는 것은 지나치게 제한적이라고 느껴지며, 정부가 이 부분에서 역할을 해야 합니다. 광범위한 공공 데이터로 훈련된 지능에 대한 접근 자체가 엄격한 서비스 약관 뒤에 가려진 것이라기보다는 일종의 공공재(public good)라는 사실을 정상화하는 데 기여할 수 있습니다.” 그는 TechCrunch와의 인터뷰에서 미국 연구소들이 왜 자유롭게 증류할 수 있어야 하는지 질문받았을 때 이렇게 말했습니다.

자신 역시 사이버 정신병증(cyber psychosis)을 겪었다고 표현할 정도로 열성적인 AI 사용자인 Tan은 오픈 가중치 AI 연구소와 최첨단(frontier) 연구소 간의 균형을 원합니다.

그는 CNBC와의 인터뷰에서 “최첨단 연구소들이 이 분야를 주도하고 있습니다. 우리는 이것이 자금 조달이 가능하고 지속 가능한 훌륭한 비즈니스 모델이 되기를 바랍니다.”라고 말했습니다. “오픈 가중치 모델은 사람들에게 자유와 접근성을 제공해야 합니다.”

그에게 있어 진정한 AI 디스토피아(doomer) 시나리오는 최첨단 AI의 엄청난 힘이 단 하나의 강력한 독점 공급업체 손에 들어가는 것입니다. “AI를 위한 악몽 같은, 디스토피아적인 시나리오는 오직 한 회사가 존재하는 경우입니다.” 그는 말했습니다. “그 회사는 최고의 자본 접근성을 가지고 있고, 최고의 AI 연구원들을 보유하고 있습니다. 그리고 그 힘을 독점하며 갑자기 단일 거대 기업이 생겨나는 것입니다. 그리고 그것은 나쁜 일이 될 겁니다.”