오픈 웨이트 (open-weights) 인공지능 모델을 둘러싼 논쟁은 그 이점과 위험에 대한 견해가 갈리며 복잡하게 전개되고 있습니다. 최근 Anthropic의 CEO Dario Amodei는 자사의 입장에 대해 중요한 설명을 제공하며, 오픈 웨이트 AI를 지지하는 동시에 표적화된 제한과 강력한 안전 테스트를 옹호한다는 점을 강조했습니다. 이러한 미묘한 접근 방식은 글로벌 보안을 타협하지 않으면서 혁신을 촉진하는 것을 목표로 합니다. — anthropic clarifies stance open models

공공재로서의 오픈 웨이트 AI 지지

일부 해석과는 달리, Anthropic은 오픈 웨이트 AI 모델에 대한 금지를 요구한 적이 없습니다. Amodei는 이러한 모델들, 특히 본질적으로 위험한 능력을 갖추지 않은 모델들을 중요한 공공재로 보고 있습니다. 그는 광범위한 접근성이 기업, 개발자 및 연구자들에게 이익을 주어 더욱 역동적이고 경쟁력 있는 AI 생태계를 조성한다고 믿습니다. 이는 오픈 모델이 강력한 AI 도구에 대한 접근을 민주화할 수 있다는 광범위한 정서와 일치합니다.

하지만 Anthropic의 지지는 조건부입니다. Amodei는 보호주의적 금지가 자신의 주요 국가 안보 우려에 대한 해결책이 아니라고 강조했습니다. 회사의 입장은 권위주의 정부, 특히 중국이 미국의 능력을 능가할 수 있는 AI 역량을 개발하여 잠재적으로 상당한 군사적 우위를 점하거나 강화된 국내 탄압을 가능하게 할 수 있다는 핵심적인 우려에 의해 움직이고 있습니다.

핵심 우려 사항: 권위주의적 AI와 배포보다 중요한 역량

Amodei의 중심적인 우려는 AI 모델의 배포 방식(오픈 웨이트인지 클로즈드 웨이트인지)이 아니라, AI의 궁극적인 역량과 그것을 누가 통제하느냐에 있습니다. 그는 모델이 민주주의 국가의 상업적 엔티티들에게 공개적으로 접근 가능한지 여부와 관계없이, 국가 행위자들에 의한 비밀스러운 개발이 상당한 위협이 된다고 강조했습니다. 사이버 전쟁이나 생물학적 공격과 같은 분야에서의 오용 가능성은 정렬 (alignment) 과제와 결합되어 이러한 우려를 증폭시킵니다.

오픈 웨이트 (open-weights) 모델이 모니터링과 안전 장치 구현의 어려움으로 인해 본질적으로 더 높은 위험을 초래할 수 있다는 점을 인정하면서도, Amodei는 미국과 같은 국가의 기업들이 이들을 사용하는 것을 일괄적으로 금지하는 것은 역효과를 낳을 것이라고 주장했습니다. 그러한 금지는 주로 경쟁을 저해할 것이며, 이는 Anthropic이 명시적으로 거부하는 목표입니다. 더욱이, 악의적인 행위자들이 그러한 제한을 준수하는 합법적인 기업일 가능성은 낮습니다.

전략적 개입: 칩 제한, 증류 (Distillation) 단속, 그리고 안전 테스트

고도화된 AI 개발과 관련된 위험에 대응하기 위해, Anthropic은 세 가지 구체적이고 전략적인 개입을 옹호합니다:

1. 적대국에 대한 칩 판매 제한

Amodei는 권위주의 정권, 특히 중국이 첨단 반도체 기술에 접근하는 것을 막는 것이 그들의 AI 개발을 저지하는 가장 직접적이고 효과적인 방법이라고 믿습니다. 하드웨어에 대한 이러한 전략적 통제는 최첨단 AI 모델을 구축하고 배포하는 데 있어 결정적인 병목 지점 (bottleneck)으로 간주됩니다.

2. 산업 규모의 모델 증류 (Model Distillation) 단속

또 다른 주요 우려 분야는 산업 규모의 모델 증류 (model distillation)입니다. 이 기술은 AI 모델을 효율적으로 개선할 수 있게 해주며, 종종 더 큰 독점적 (proprietary) 모델의 능력을 복제하거나 강화할 수 있게 합니다. Anthropic은 하드웨어 제한을 우회하고 AI 군비 경쟁을 가속화할 수 있는 이러한 불법적인 복제 방식에 대응하기 위해 정책적 개입을 촉구합니다.

3. 의무적 안전 테스트 시행

마지막으로, Anthropic은 모델의 출처나 출시 형식에 관계없이 충분한 역량을 갖춘 모든 AI 모델에 대해 의무적인 안전 테스트 (safety testing)를 시행할 것을 옹호합니다. 이러한 접근 방식은 사이버 위협, 생물학적 위험, 그리고 AI 정렬 (AI alignment) 실패와 관련된 리스크를 완화하는 가장 효과적인 수단으로 간주됩니다. Amodei는 이 아이디어가 업계와 정부 부처 모두에서 상당한 지지를 얻고 있다고 언급했습니다. 그는 선제적인 금지에 의존하기보다는, AI 모델이 초래하는 실제 리스크를 확인하고 강력한 안전 강화 조치를 개발하기 위해 실증적 테스트 (empirical testing)를 옹호합니다.

오픈 웨이트 (Open-Weights) 논쟁의 미묘한 차이

Amodei는 다양한 기술 기업들이 서명한 공개 서한에 전달된 정서의 상당 부분에 동의하며, 접근성을 확대하고 경쟁을 촉진하는 데 있어 오픈 웨이트 (open weights)의 이점을 인정했습니다. 그러나 그는 오픈 웨이트 모델이 본질적으로 안전 장치 개발을 더 쉽게 만든다거나, 광범위한 접근이 공격자보다 방어자에게 보편적으로 더 많은 이득을 준다는 주장에는 이견을 보였습니다. 이는 생물학적 무기 개발과 같이 민감한 분야에서 특히 그러하며, 이러한 분야에서의 오픈 액세스 (open access)는 위험한 역량을 가속화할 수 있습니다.

따라서 Anthropic의 입장은 금지가 아니라 표적화된 전략적 개입입니다. 이 회사의 초점은 첨단 하드웨어가 권위주의 정권의 손에 들어가는 것을 막고, 불법적인 모델 복제 기술을 차단하며, 모든 강력한 AI 시스템에 대해 엄격한 안전 평가를 보장하는 데 머물러 있습니다. 이러한 접근 방식은 급격히 진화하는 인공지능 분야에서 오픈 혁신의 부정할 수 없는 이점과 글로벌 안전 및 보안이라는 결정적인 필요성 사이의 균형을 맞추고자 합니다. nvidia ceo jensen huang korea open에서 강조된 바와 같이, AI 개발을 둘러싼 논의는 서로 다른 이해관계자들이 각기 다른 우선순위를 강조함에 따라 계속해서 진화하고 있습니다.

Anthropic의 관점에 대해 더 깊이 있게 살펴보고 싶다면, Google Drive PDF에서 제공되는 상세 분석을 참조할 수 있습니다. AI 개발의 더 넓은 지형에 대한 추가적인 통찰은 또 다른 Google Drive PDF에서도 확인할 수 있습니다.

tags: 인공지능 (artificial intelligence), AI 안전 (ai safety), 오픈 소스 AI (open source ai), Anthropic, 대규모 언어 모델 (large language models), AI 정책 (ai policy)