미국 초지능 전략, 인간 뇌를 마우스 두개골에 담기, 그리고 기계 해석학

RAND는 미국에게 최선의 AI 전략은 모든 선택지를 열어두는 것이라고 생각한다:
_...무엇이 정확히 최적인지 명확하지 않으므로, 미국은 지금 자금을 사용하여 옵션을 보존해야 한다...
_RAND가

– 공존(Coexistence): 지배(Dominance); 미국이 AI 개발을 주도하고 다른 국가들의 발전을 억제하는 방식. 공동 개발(Co-Development); 미국이 공유 거버넌스, 풀링된 컴퓨팅 자원, 검증 및 모니터링을 통해 중국을 포함한 컨소시엄을 이끌고 안전한 초지능(superintelligence)을 공동 개발하는 방식. 준비 태세(Preparedness); 미국이 비공식적인 조정을 통해 공존 노력을 동원하며, 여기에는 “자발적 약속, 단계적 배치, 독립 평가, 사고 보고, 그리고 AI 사고를 흡수하고 복구할 국내 역량”이 포함된다.

– 부정(Denial): 모라토리엄; 미국이 “특정 임계값 이상의 AI 개발에 대한 검증 가능한 글로벌 중단”을 추구하는 방식. 억지력(Deterrence); 미국이 “정의된 임계값 이상의 자체 최전선 개발을 중단하고, 외국 프로그램을 예방하고 필요하다면 파괴하기 위해 국가 권력의 모든 도구를 사용하는 방식”. 사회 연속성(Continuity of Society); “모든 예방 전략이 실패했거나 비실현 가능하다고 판단되고 공존이 불가능하다고 여겨질 때, 남은 목표는 일부 인간 인구가 주체성을 유지하며 생존하는 것이다: 미국은 AI가 활성화한 위협에 대비하여 지리적으로 분산된, 생물학적으로 자립 가능한 정착지를 만든다.”

– 가속화(Acceleration): 이 전략은 AI 개발을 제약하는 것이 AI 개발 자체보다 더 위험하다고 암묵적으로 믿기 때문에, 미국은 “유용한 AI의 부산물로 안전성을 생산하기 위해 시장, 경쟁, 그리고 빠른 반복 주기에 의존한다.”

다섯 가지 주요 불확실성:

다섯 가지 주요 불확실성:

• 위험 근접성 (Danger proximity): AI가 너무 위험해져서 그 위험성이 이익보다 커지는 시점은 언제인가? “만약 위험이 임박했다면, 시간을 벌고 방어 체계를 구축하며 회복탄력성에 투자하는 전략이 선호되어야 한다. 만약 위험이 멀거나 첨단 A(advanced A) 발전에 진전이 없을 때 인간에게 더 큰 위험이 닥친다면, 개발 가속화의 필요성이 강화된다.”

• 공존 가능성 (Coexistence feasibility): 인간과 AI 시스템이 안정적인 균형을 찾는 것이 가능한가? “만약 공존이 가능하다면, 첨단 AI를 구축하고 배치하는 전략이 더욱 바람직해진다. 만약 공존이 불가능하다면, 개발을 억제하거나 억압하거나 인류 문명을 보호할 다른 수단으로 방향이 바뀐다.”

• 억제 가능성 (Restraint feasibility): 인간들이 협력하여 AI 발전을 억제할 수 있는가? “만약 억제가 가능하다면, 협력적 전략을 사용할 수 있게 된다. 그렇지 않다면, 억제 기반 접근 방식은 더 강압적인 집행을 통해서만 도달 가능해진다.”

• 결정적 전략 우위 (Decisive strategic advantage): 단일 행위자가 경쟁자들보다 결정적인 전략적 주도권을 구축할 수 있는가? “만약 결정적 우위가 달성 가능하고 미국이 지배력을 유지할 수 있다고 평가한다면, 일방적인 전략이 합리적일 수 있다. 만약 확산이나 다른 이유로 인해 결정적 우위가 불가능하다면, 단일 행위자가 AI를 활용하여 글로벌 규칙을 정할 수는 없다.”

• 억압 가능성 (Suppression feasibility): 국내 또는 경쟁국의 AI 프로그램을 기술 통제로 억제할 수 있는가? “만약 억압이 가능하다면, 억지력(Deterrence)이 가능해진다. 그렇지 않다면, 다른 주체들이 자제를 하더라도 행위자들은 자신들 스스로가 제재받을 두려움 없이 위험한 개발을 계속 추진할 수 있다.

이것이 중요한 이유 – AI에 진지하게 접근하려면 돈을 써야 한다: 이 RAND 보고서의 핵심 내용은 미국이 인공지능(AI)의 지속적인 발전을 활용하기 위해 많은 돈을 지출해야 한다는 것입니다. 비록 주된 준비 작업이 선택권을 유지하는 것에 관한 것이라 할지라도 말입니다. 현재 미국의 전략은 대체로 RAND가 설명한 '가속화' 전략으로 묘사될 수 있는데, 이는 마치 차에 타고 앉아 모든 자원을 자동차를 더 빨리 달리게 하고 엔진을 업그레이드하는 데만 쓰고, 안전벨트나 헤드라이트, 브레이크 같은 선제적 안전 조치에는 아무것도 쓰지 않는 것과 유사합니다.더 읽기: 불확실한 초지능 경로에서 지정학적 우위를 확보하기 위한 미국의 전략 (RAND).

---

인간 연구자들이 부분적으로 인간의 뇌 물질을 가진 생쥐를 키우다:
…언제 생쥐가 생쥐가 아닐까? 그 뇌 일부가 인간의 뇌 조직일 때… 한 그룹의 연구자들은 의도적으로 퇴화된 생쥐의 뇌 안에 인간과 유사한 덩어리(chunk)를 키워내고, 이 동물들을 인간 뇌 문제를 연구할 잠재적인 실험 플랫폼으로 사용하는 방법을 알아냈습니다.
연구진은

인간 뇌를 가진 마우스들은 괜찮았다: 연구에서 인간들은 정상적인 뇌를 가진 대조군 마우스(control mice), 의도적으로 축소된 뇌를 가진 마우스(apallial mice), 그리고 이식된 인간 뇌 조직을 가진 마우스(xenocortical mice, 또는 XCX)를 비교했습니다. “운동 시퀀싱(MoSeq)을 사용한 자발적인 마우스 행동에 적용된 비지도 학습(Unsupervised machine learning)은 대조군 및 apallial 마우스에서 뚜렷한 행동 레퍼토리를 밝혀냈으며, XCX 그룹은 대조군과 apallial 그룹 모두와는 다르지만 그 중간 지점에 위치했습니다”라고 그들은 작성합니다. “데이터는 인간 신경 이식편이 전기적으로 활성하고 기능적으로 통합된 네트워크로 발달했음을 보여주었습니다… XCX L5-ET 뉴런의 유전자 세트 농축 분석(gene set enrichment analysis) 결과, 일차 운동 피질에서 확인된 인간 특이적 L5-ET 유전자와 사회 인지 및 신경정신 질환에 관여하는 특수 집단인 VENs를 포함하는 인간 전두섬엽 피질의 특징적인 L5-ET 뉴런 유전자가 풍부하게 나타났습니다.”

미로 테스트: 연구진은 마우스들이 “이전에 탐색했던 환경에 대한 기억 흔적을 유지해야 한다”고 생각하도록 설계된 미로 환경에서 마우스들을 테스트했습니다. 그리고 그곳에 마우스들을 넣었을 때, “대조군과 XCX 마우스는 높은 수준의 수행 능력을 보였지만, apallial 마우스는 그렇지 못했다”는 것을 관찰했습니다. 이는 인간 뇌 조직이 어느 정도 기억 기능을 수행할 수 있음을 시사합니다.

이것이 중요한 이유 – 의학 및 초지능: 여기서 주요 활용처는 마우스를 이용해 인간 뇌에 대한 의료 치료법을 더 잘 테스트할 수 있다는 점이며, 이는 새로운 의약품 개발에 있어 중요한 도구 세트입니다. 하지만 저는 이것이 또한 미래에 인간과 AI 과학자들이 구축할 수 있는 방대한 지능의 영역을 보여주는 시연이라고 생각합니다. 여기서는 마우스와 인간 뇌를 결합한 일종의 키메라 뇌를 가지고 있습니다. 이러한 실험은 얼마나 멀리까지 갈 수 있을까요? 다른 생명체, 심지어 인간에게도 이런 실험을 할 수 있다고 상상할 수 있을까요? 여기에는 엄청난 의학적, 윤리적 문제가 있지만, 마우스에서 작동한다는 증거는 언젠가 다른 대상에게 시도될 수 있음을 확실히 시사합니다.더 읽기: 마우스를 이용한 인간 유래 오가노이드의 발달적 이종피질화 (Nature).

---

AI 발전 속도 조절을 위한 연구 의제 방향:
_...세상은 이 속도를 조절하고 이에 대해 더 나은 결정을 내리기 위해 무엇을 할 수 있을까요? 사실 많이 있습니다...
최근 AI 속도 조절 및 AI 둔화에 대한 논의가 많으면서 일반적인 아이디어에는 많은 열정이 있었지만, 실제로 AI 발전을 어떻게 속도 조절할지에 대한 연구 분야는 비교적 미개발 상태입니다. 이제 연구자들은 속도 조절 연구 의제가 어떤 모습일지 생각하기 시작했으며, 새로운 논문은 여기서 개발될 수 있는 몇 가지 사고방식을 제시합니다.
새로운 그룹 논문에서 연구자들은

우리의 희망은 적절한 연구를 통해 페이싱(pacing)이 점진적으로 더 신중하고, 목표 지향적이며, 비례적이고, 결정적이며, 합법적인 것이 될 수 있다는 것입니다.”

연구 주체: ACS Research, University of Toronto, Arb Research, Paradigm 3 Institute, University of Pennsylvania의 Wharton School, Goodheart Labs, Trajectory Institute, Harvard University, 그리고 University of Cambridge.

페이싱에 반대하는 주장: 의료 및 기타 과학 기반 혁신과 같은 지연된 이점들; 권력 집중을 잠재적으로 증가시킬 수 있음; 페이싱 기간 동안 컴퓨팅 비용의 저렴화로 인해 잘못된 안도감을 줄 수 있으며 다양한 AI 역량 과잉(overhangs)을 생성할 수 있습니다; 초기에 페이싱하는 것은 AI를 사용하여 더 외과적이고 효과적인 페이싱을 할 수 있는 능력을 고려할 때 늦게 페이싱하는 것보다 비효율적일 수 있습니다; 잘못된 페이싱 체제를 만들 경우 되돌리기 어렵습니다 (예: 핵 에너지).

페이싱에 찬성하는 주장: AI 발전으로 인한 위협(예: 사이버 및 생물학)을 다룰 시간을 더 많이 벌어줍니다; AI의 진전은 예측하기 어려우므로 예측 불가능하고 무서운 일들이 발생할 수 있습니다; AI 발전은 세상에 손해 보는 상황(lose-lose situations)을 초래할 수 있습니다 (예: 정부가 일부 군사 결정권을 포기하고 이를 AI 시스템에 맡겨 인간이 권한을 상실하게 되는 경우).