AI 오픈 레터(open letters)와 선언문(manifestos)의 계절이 온 모양입니다. Mark Zuckerberg는 오늘 WSJ에 발표한 기고문을 통해 AI의 미래에 관한 논쟁에 합류했습니다. 솔직히 말해서, 그의 입장은 'Pacing the Frontier'보다 훨씬 더 균형 잡혀 있고 기술적으로 일관성이 있습니다.

AI의 미래는 모두를 위한 것이다 - WSJ

Zuckerberg의 논거는 현재 유통되고 있는 네 가지 입장 중 확산(diffusion)에 가장 우호적입니다. 그의 핵심 관점은 고급 AI가 소수의 프론티어 연구소(frontier labs)나 정부가 통제하는 시스템 내에 갇혀 있어서는 안 된다는 것입니다. AI는 기업, 개인, 오픈 생태계(open ecosystems), 제품, 그리고 국가 인프라를 통해 퍼져 나가야 합니다. 강조점은 프론티어의 속도를 늦추려는 시도를 통해 "시간을 버는 것"이 아니라, 기회, 경쟁력, 미국의 리더십, 그리고 광범위한 인간의 주체성(human agency)에 있습니다. 그의 논거를 요약하자면 다음과 같습니다: AI는 기본적으로 개인의 주체성을 확장하기 위한 도구로 이해되어야 하며, 기관들이 인류를 보호하기 위해 맞서야 하는 힘으로 간주되어서는 안 됩니다.

지금까지 나타난 AI 정책 지도는 다음과 같습니다:

1. 오픈 모델 연합: 국가 전략으로서의 개방성
   Nvidia, Microsoft, Meta, Google, OpenAI, IBM, Linux Foundation 등은 오픈 모델(open models), 오픈 웨이트(open weights), 그리고 생태계 경쟁이 위협이 아닌 전략적 자산이라고 주장합니다.

2. Dario Amodei: 위험 임계값 아래에서는 개방, 그 위에서는 제한
   오픈 모델은 사이버 보안이나 생물학 같은 분야에서 프론티어 역량 임계값을 넘기 전까지는 유익합니다.

3. "Pacing the Frontier": 자동화된 AI R&D를 늦추기 위한 장치 구축
   1,100명 이상의 직원이 서명한 이 서신은 질적으로 다릅니다. 이들은 정부가 프론티어의 발전을 의도적으로 조절할 수 있는 국제적 메커니즘을 개발할 것을 요구합니다.

4. Zuckerberg: 광범위한 접근, 미국의 리더십, 표적화된 안전장치
   확산을 가속화하고, 혁신을 보존하며, 지능 그 자체보다는 구체적인 위해(harms)를 규제해야 합니다.

다소 지엽적인 관점에서 보자면, 이러한 AI 선언문들의 갑작스러운 축적 자체가 시대의 징후일 수도 있습니다.

점성술사들은 이번 달 물병자리 만월(full Moon in Aquarius)과 일치하는 "변곡점 (inflection point)"에 대해 걱정하고 있지만, 그것은 다른 서브레딧(sub)의 소재입니다. 🥲 어느 쪽이든, 우리는 정말 흥미진진한 시대에 살고 있습니다. /u/etherd0t 제출 [link] [comments]