AI가 OpenAI의 차기 모델을 설계하고 있다는 것은 '초지능'의 징후: SoftBank의 Masayoshi Son, CNBC에 전해

OpenAI의 차기 모델이 또 다른 모델에 의해 설계되고 있으며, 이는 AI가 "초지능 (super intelligence)"에 도달하고 있다는 징후라고 SoftBank의 CEO Masayoshi Son이 CNBC에 밝혔습니다.

이 억만장자의 발언은 AI의 급격한 발전 속도가 가져올 영향에 대처하기 위해 AI 개발 속도를 늦춰야 할 수도 있다는 Anthropic의 경고가 나오는 가운데 나왔습니다.

Son은 세계 최대의 기술 투자사 중 하나이자 OpenAI의 주요 주주 중 하나인 SoftBank를 운영하고 있습니다. 월요일 CNBC와의 인터뷰에서 Son은 OpenAI의 CEO Sam Altman 및 해당 기업의 엔지니어들과 대화를 나누었으며, 그들로부터 AI "모델이 (미래의) 모델을 설계하고 있다"는 이야기를 들었다고 말했습니다.

"따라서 이는 다른 모든 주요 모델들에게도 일어날 일입니다,"라고 Son은 말하며, 엔지니어들이 더 이상 다음 모델을 설계할 만큼 충분히 똑똑하지 않게 될 것이라고 덧붙였습니다.

"일단 그런 일이 발생하면, 모델이 다음 모델을 생성하게 됩니다... 그리고 그것은 우리 모두보다 기하급수적으로 더 똑똑해질 것입니다. 그것이 바로 초지능 (super intelligence)입니다,"라고 Son은 CNBC에 말했습니다.

OpenAI 대변인은 아직 출시되지 않은 모델에 대한 언급은 거부했으나, 회사가 모델 개발에 이미 AI를 사용하고 있는 분야를 강조했습니다.

지난 2월, OpenAI는 자사의 GPT‑5.3‑Codex가 "스스로를 만드는 데 도구로서 역할을 한 첫 번째 모델"이라고 밝혔습니다. OpenAI의 코딩 도구인 Codex를 개발하는 팀은 "초기 버전을 사용하여 자체 학습의 디버깅 (debug), 자체 배포 관리, 그리고 테스트 결과 및 평가 진단에 활용했습니다."

Son의 발언은 "인공 초지능 (artificial super intelligence)」 또는 ASI에 관한 더 광범위한 논의의 일부입니다. ASI는 그가 2024년에 인간보다 10,000배 더 똑똑한 AI라고 설명한 용어입니다. 당시 Son은 ASI가 10년 안에 도래할 것이라고 말했습니다.

하지만 그는 월요일 CNBC에 약 2년 전 그러한 타임라인을 제시했을 때, "사람들이 충격을 받을 수 있기 때문에 보수적으로 접근하려 했던 것"이라고 말했습니다.

"제 생각에는 10년이 아니라 4년 안에 올 것이라고 생각했습니다. 이제 저는 그것이 향후 2년 안에 올 것이라고 말합니다,"라고 Son은 말했습니다.

SoftBank의 CEO는 AI가 "대부분의 주제"에서 자신보다 더 똑똑하기 때문에 현재 매일 2~3시간 동안 OpenAI의 ChatGPT를 사용하고 있다고 밝혔습니다.

Son은 향후 몇 년 안에 AI가 약 70%에서 80%의 주제에서 인간보다 더 똑똑해질 것이며, AI가 인간의 지능을 능가하는 주제에서는 "평균적인 사람들보다 10배 더 똑똑할 수도 있다"고 말했습니다.

Son은 수년 동안 AI에 대해 낙관적인 태도를 보여왔으며, 칩 설계업체인 Arm의 소유권과 OpenAI에 대한 지분, 그리고 로보틱스(robotics) 및 자율 주행(autonomous driving)과 같은 분야에 대한 투자를 통해 SoftBank를 이 붐의 중심에 위치시켰습니다.

그는 CNBC와의 인터뷰에서 AI 혁명은 2000년대의 닷컴 혁명보다 50배 더 크다고 말했습니다.

더욱 진보된 AI 시스템의 위험성은 목요일, Anthropic이 "재귀적 자기 개선 (recursive self-improvement, RSI)"에 관한 블로그 게시물을 발표한 후 주목받게 되었습니다. RSI는 AI 시스템이 "자신의 후속 모델을 완전히 자율적으로 설계하고 개발할 수 있는" 트렌드를 의미합니다.

Anthropic은 긍정적인 결과가 있을 것이라고 말하면서도, "완전한 재귀적 자기 개선은 또한 인간이 AI 시스템에 대한 통제력을 잃을 위험을 증가시킬 수도 있다"고 경고했습니다.

AI 챗봇인 Claude를 개발하는 이 회사는 이 기술의 개발 속도를 늦추기 위한 AI 연구소들 간의 조율된 노력이 "아마도 좋은 일이 될 것"이라고 말했습니다.

OpenAI의 모델 개선에 대해 이야기할 때, Son이 RSI를 언급한 것인지는 불분명합니다. 하지만 지난 6월, OpenAI의 한 연구 논문은 오늘날의 시스템에서 RSI의 "초기 징후"가 있다고 밝혔습니다.

해당 논문은 "우리는 이것이 개발자와 국가 간의 경쟁 압력을 높이고, 기존 기관들이 해결할 준비가 되지 않은 거버넌스(governance) 과제를 만들어낼 것으로 예상한다. RSI가 등장함에 따라, 사회는 AI 발전의 궤적을 형성하고 그것이 인류의 이익에 부합하도록 보장할 방법이 필요할 것이다"라고 언급했습니다.