7월 17일, 한 스페인 신문은 Google DeepMind의 수장이자 노벨 화학상 수상자인 Demis Hassabis가 AGI(인공 일반 지능)가 도래하기까지 3~4년의 시간이 남았다고 말했다는 헤드라인을 실었습니다. 그보다 사흘 전, 그는 스스로 더 신중하게 다음과 같이 적었습니다. 인공 일반 지능(Artificial General Intelligence, AGI)은 "아마도 불과 몇 년 남지 않았으며", 우리는 "특이점(Singularity)의 초입"에 서 있습니다.

이 내용을 독립적인 예측가들의 의견과 비교해 보십시오. 가장 큰 공개 예측 커뮤니티인 Metaculus는 범용 AI 시스템의 중앙값을 2033년경으로 보고 있습니다. 2,778명의 머신러닝 (Machine Learning) 연구자를 대상으로 한 마지막 대규모 설문조사에서는 모든 작업에서 인간을 능가하는 기계의 시점을 2047년으로 결론지었습니다. 널리 읽힌 "AI 2027" 시나리오를 작성한 Daniel Kokotajlo는 지난 12월 자신의 타임라인을 수정하여 초지능(Superintelligence)의 도래를 대략 2034년으로 미루었습니다.

따라서 3대 선도 연구소 중 하나를 운영하는 인물은 몇 년이라고 말합니다. 예측 전문가 집단은 1~20년이라고 말합니다. 그들은 동일한 모델을 보고 있습니다. 진지한 추정치들이 10배 차이로 엇갈릴 때, "AGI가 언제 도래하는가"는 더 이상 계획을 위한 질문이 아닙니다. 그것은 도박이 되며, 그 누구도 가격을 매길 수 없습니다.

좋은 소식은 이것이 잘못된 질문이기도 하다는 점입니다. 타임라인을 둘러싼 싸움 아래에는 거의 아무도 논쟁하지 않는 두 번째 이야기가 있으며, 그것이야말로 당신이 실제로 대비할 수 있는 것입니다.

날짜를 알 수 없는 이유

AGI에 대한 공유된 정의가 없다는 사실부터 시작하십시오. OpenAI는 이를 수익 달러로 측정했습니다. DeepMind는 0에서 5까지의 능력 사다리(capability ladder)를 사용합니다. Anthropic의 Dario Amodei는 이 용어를 마케팅 용어라고 부르며 "강력한 AI (Powerful AI)"라는 표현을 선호합니다. Meta의 Yann LeCun은 이 단어를 완전히 은퇴시키고 싶어 합니다. Nvidia의 Jensen Huang는 올봄 한 팟캐스트에서 자신의 정의에 따르면 우리는 이미 AGI에 도달했다고 말했습니다. Gary Marcus는 우리가 근처에도 가지 못했다고 말합니다. 두 사람 모두 서로 다른 척도로 동일한 시스템을 설명하고 있는 것입니다.

여기에 인센티브(incentives)를 더해 보십시오. 몇 년 안에 AGI가 도래할 것이라고 예측하는 연구소 책임자는 자본을 조달하고, 인재를 영입하며, 자신의 분야를 규제할 규제안을 형성하고 있기도 합니다. 그렇다고 해서 그가 틀렸다는 뜻은 아닙니다. 다만 그 예측을 읽을 때 그에 부수된 이해관계(interest)를 함께 고려해야 한다는 의미입니다.

그리고 기술적 역풍(technical headwinds)은 단순히 손짓하며 넘길 문제가 아니라 실재하는 문제입니다. 공개된 학습 텍스트(training text)는 2028년경에 고갈될 것으로 예상됩니다. GPT-4.5는 미미한 성능 향상을 위해 이전 모델보다 몇 배나 더 많은 비용이 들었다고 보고되었는데, 이것이 바로 수확 체감(diminishing returns)의 모습입니다. 오늘날 에이전트(agents)를 활용해 무언가를 구축하는 이들에게 가장 구체적인 한계는 긴 작업(long tasks)에서의 신뢰성(reliability)입니다. Yoshua Bengio와 100명 이상의 전문가가 작성한 국제 AI 안전 보고서(International AI Safety Report)는 이를 직설적으로 표현했습니다. 작업이 길어질수록 에이전트는 맥락을 놓치게 되며, 단 하나의 팝업 광고만으로도 전체 실행 과정이 탈선할 수 있습니다. 작은 오류들이 복합적으로 작용하여 에이전트는 회복하지 못한 채 목표에서 벗어나게 됩니다.

이 중 그 어떤 것도 AGI가 멀리 떨어져 있다고 말하지 않습니다. 다만 그 시점이 양방향 모두에서 진정으로 불확실하며, 어떤 숫자를 선택하든 특정 연도에 로드맵(roadmap)을 거는 것은 실수라는 점을 말해줄 뿐입니다.

실제로 논쟁의 여지가 없는 것

이제 모두가 동의하는 부분입니다. 왜냐하면 이것은 예측이 아닌 측정의 영역이기 때문입니다.

능력 곡선(capability curve)은 가파르고 꾸준합니다. 독립 평가 연구소인 METR는 AI가 50%의 성공률로 스스로 완료할 수 있는 작업의 길이를 추적합니다. 그 길이는 대략 4개월에서 7개월마다 두 배씩 증가해 왔습니다. 실질적인 관점에서 볼 때, 우리는 약 1년 만에 몇 분 단위의 작업에서 몇 시간 단위의 작업으로 넘어갔습니다. METR는 16시간이 지나면 측정이 신뢰할 수 없게 된다는 점을 주의 깊게 명시하고 있으므로, 이는 존중해야 할 추세이지 매일매일의 정확도를 믿고 의지할 스톱워치는 아닙니다.

실행(Execution)은 범용화(Commodity)되고 있습니다. Stanford AI Index에 따르면, 주요 코딩 벤치마크인 SWE-bench는 12개월 만에 약 60%에서 99%에 근접하게 상승했습니다. GitHub는 현재 생성된 코드의 상당 부분이 AI에 의해 생성되었다고 보고합니다. 최첨단 연구소(Frontier labs)의 엔지니어들은 사석에서 자신들의 코드 거의 전부가 가벼운 수동 수정(Manual correction)을 거친 기계 작성 코드라고 말합니다. 지난 50년 동안 희소하고 비쌌던 소프트웨어 작성은 저렴해지는 과정에 있습니다.

배관(Plumbing) 작업은 표준화되었습니다. 에이전트가 도구와 통신하는 방식인 모델 컨텍스트 프로토콜(Model Context Protocol)은 지난 12월, Anthropic의 프로젝트 단계를 벗어나 Linux Foundation의 새로운 Agentic AI Foundation으로 이동했습니다. 이 재단은 OpenAI와 Block이 공동 설립자로 참여하고 있으며, 모든 주요 클라우드 기업들이 합류해 있습니다. SDK 다운로드 수는 매달 수천만 건에 달합니다. 모두가 모델 리더보드(Leaderboards)를 주시하는 동안, AI의 USB-C 모멘트는 이미 조용히 일어났습니다.

이 세 가지를 종합하면 하나의 패턴이 나타납니다. 모델이 범용화(Commoditized)되고 있다는 것입니다. 모델은 강력하고, 저렴하며, 대체 가능합니다. 지난 6월, 하나의 최첨단 모델(Frontier model)이 시장에서 19일 동안 사라졌지만 거의 아무도 눈치채지 못했습니다. 모두가 구축하기 위해 경쟁하는 대상이 동시에 서로 대체 가능한 것이라면, 가치는 다른 곳으로 이동하고 있는 것이 분명합니다.

가치가 이동하는 곳

가치는 모델로부터 벗어나고 있습니다. 이는 벤처 투자자, 기업 구매자, 그리고 실제로 에이전트를 출시하는 사람들이 모두 동의하는 유일한 지점입니다. Marc Andreessen은 이를 "해자(Moat)는 모델이 아니라, 그 주변에 무엇을 구축하느냐에 있다"라고 표현했습니다. Sequoia의 버전은 "서비스가 새로운 소프트웨어다"입니다. 서로 다른 위치에서 내린 동일한 관찰입니다.

모델이 떨궈내고 있는 가치를 네 가지 계층이 흡수하고 있습니다.

첫 번째는 메모리 (Memory)이며, 이는 새로운 락인 (lock-in) 현상으로 변하고 있습니다. ChatGPT와 Claude 모두 현재 지속적인 메모리 (persistent memory)를 구축하고 있으며, 두 서비스 모두 이를 독점적으로 유지하고 있습니다. 한 필자가 표현했듯, 그것은 당신의 메모리가 아니라 'ChatGPT가 가진 당신에 대한 메모리'입니다. 이것이 바로 이번 달에 오픈 소스 반대 운동 (open counter-movement)이 나타난 정확한 이유이며, 두 번째 벤더가 실제로 다시 읽어올 수 있는 휴대 가능한 메모리 형식 (portable memory format)에 대한 경쟁적인 제안들이 나오고 있습니다. 모델을 교체하는 것은 사소한 일이 되었습니다. 하지만 축적된 메모리를 교체하는 것은 그렇지 않습니다. 당신이 누구인지, 그리고 무엇을 해왔는지에 대한 컨텍스트 (context)가 그것을 읽어들이는 모델보다 더 강력하게 고착(stickier)되고 있습니다.

두 번째는 신뢰 (Trust)입니다. Microsoft는 지난 6월, 조작된 도구 메타데이터 (tool metadata)가 모든 호출 시 조용히 실행되는 MCP 서버의 도구 오염 (tool poisoning)에 대해 경고했습니다. 연구자들은 최대 20만 개의 노출된 사례를 발견했습니다. Hassabis는 AGI 타임라인에 관한 동일한 에세이에서, 프런티어 시스템 (frontier systems)의 사이버 보안, 생물학적 위험, 에이전트적 행동 (agentic behavior), 그리고 기만 (deception)을 테스트하기 위한 FINRA 스타일의 기구를 제안하는 데 대부분의 분량을 할애했습니다. 에이전트가 단순히 정보를 읽는 것을 넘어 세상 속에서 행동하기 시작할 때, "이것은 검증되었고 서명되었습니다"라는 문구는 있으면 좋은 기능에서 구매 필수 요건으로 변하게 됩니다.

세 번째는 발견 (Discovery)이며, 가장 불안정한 상태입니다. 한 감사(audit)의 표현을 빌리자면, 상호 운용성 (interoperability)이 전혀 없고 그 중 거의 절반이 중복된, 15개 이상의 레지스트리 (registries)에 걸쳐 10만 개 이상의 에이전트가 나열되어 있습니다. 에이전트들이 서로를 찾고 서비스를 찾는 계층 (layer)에서 아직 승자가 나오지 않았습니다. 잘 알려진 URL에 에이전트 카드 (agent cards)를 배치하여 관습을 형성하는 것은 시작일 뿐, 끝이 아닙니다.

네 번째는 관계 및 워크플로 소유권 (Relationship and workflow ownership)이며, 이는 연구실이 아닌 비즈니스를 운영하는 누구에게나 가장 중요한 요소입니다. 과거에 타인의 소프트웨어를 재판매하던 컨설턴트들은 이제 자신들만의 버전을 생성하며 워크플로 (workflow), 데이터, 그리고 고객을 유지하고 있습니다. 코드는 저렴합니다. 신뢰는 비쌉니다. 방어 가능한 자산 (defensible asset)은 결코 소프트웨어가 아니었습니다. 그것은 소프트웨어가 자리 잡고 있는 관계였습니다.

정직한 반론 (The Honest Counterargument)

어쩌면 이 중 어느 것도 살아남지 못할 수도 있습니다. 만약 진정으로 범용적이고 스스로 개선되는 (self-improving) 시스템이 등장한다면, 그것은 메모리 계층 (memory layer), 신뢰 계층 (trust layer), 발견 계층 (discovery layer), 그리고 관계 (relationship)를 한꺼번에 집어삼킬 수 있으며, 이 모든 프레임워크는 시대에 뒤떨어진 것이 될 수 있습니다.

저는 이 점을 진지하게 받아들이고 있으며, 그럼에도 불구하고 두 가지 이유로 여전히 이 네 가지 계층을 기반으로 구축하고 있습니다. 첫째, 아무리 공격적인 타임라인이라 할지라도 정확히 이러한 전환기를 거치는 수년의 시간을 통과해야 하며, 종착지를 명명한다고 해서 그 세월을 건너뛸 수는 없기 때문입니다. 둘째, 이 베팅의 실패 시나리오(failure mode)가 완만하기 때문입니다. 만약 AGI가 몇 년 뒤에나 등장한다면, 메모리와 신뢰, 그리고 관계를 소유하는 것이야말로 정확히 돈이 되는 지점입니다. 만약 AGI가 더 빨리 등장한다 하더라도, 그것들은 자동화되어 사라질 마지막 요소들일 것입니다. 왜냐하면 그것들은 원시적인 능력 (raw capability)이 아니라 책임 (accountability)과 인간의 신뢰에 관한 것이기 때문입니다. 휴대 가능한 메모리 계층과 검증된 신뢰 계층을 확보하는 것이 나쁜 전략이 되는 향후 몇 년간의 시나리오는 존재하지 않습니다.

이것이 당신에게 의미하는 바

AGI의 시점을 예측하는 일을 멈추십시오. 이를 생업으로 삼는 사람들조차 10년 이내에 의견을 모으지 못하며, 그 숫자는 어차피 실행 가능한 정보가 아닙니다. 대신 능력 곡선 (capability curve)을 주시하고, 신뢰성 격차 (reliability gap)를 주시하십시오. 그것들은 측정 가능하며 실제로 움직이기 때문입니다.

그다음, 모델에서 살아남는 것 위에 구축하십시오. 모델은 교체 가능하다는 것을 가정하십시오. 이미 그러하기 때문입니다. 모델 아래에 있는 계층들에 무게를 두십시오. 즉, 사용자에게 속한 메모리, 에이전트가 행동할 수 있게 하는 신뢰, 에이전트가 발견될 수 있게 하는 발견, 그리고 어떤 모델도 물려받을 수 없는 관계입니다. 이것은 2029년에 대한 예측이 아닙니다. 이것은 이미 작년보다 올해 더 가치 있는 것들에 대한 설명입니다.

날짜는 주의를 분산시킬 뿐입니다. 변화가 핵심입니다.

이 기사는 원래 studiomeyer.io에 게시되었습니다.