사라진 Fable이 가르쳐준 것 ― 최강 AI의 중단과 앞으로 인간에게 남을 업무

서론: 며칠 동안 다뤄졌던 「최강의 AI」

불과 며칠 동안만, Opus를 뛰어넘는 클래스라고 소문난 Fable을 접할 기회가 있었습니다. 그리고 어느 날 아침, 그것은 조용히 사용할 수 없게 되었습니다. 수출 관리상의 이유로 모든 사용자에게 무효화되었고, 쿼리(Query)는 다른 모델로 자동 전환되었습니다.

미국 상무부는 「외국 국적자에 의한 이용을 중지하라」는 수출 규제상의 지시를 내렸으나, 기술적으로 국적별로 선을 긋기가 어렵기 때문에 실무상으로는 모든 사용자 대상의 제공 중단이라는 형태로 구현된 것입니다.

「최강의 AI는 기술적인 이유가 아니라 지정학적인 이유로, 어느 날 갑자기 손에서 사라질 수 있다」

머리로는 알고 있었던 일이 실제로 일어나자 예상치 못한 감각이 들었습니다. 이 작은 상실 경험은 많은 것을 생각하게 했습니다. 이 기사는 그 사고의 기록입니다. 크게 세 가지──향후 AI는 어떻게 발전해 나갈 것인가, 그때 강화되어야 할 인간 측의 스킬은 무엇인가, 파트너로서의 AI와 어떻게 지내야 하는가──를 차례대로 생각해 보겠습니다.

제1부: 향후 AI의 발전 시나리오

전제 ― 「지능의 가두리(Enclosure)」는 현실離れ한 이야기가 아니다

이번 전환의 배경에는 수출 관리의 대상이 「반도체 칩」에서 「AI 모델 그 자체」로 스며들고 있다는 큰 흐름이 있습니다. 고성능 계산 자원은 이제 더 이상 순수한 상업 기술로는 취급되지 않게 되었으며, 그 연장선상에 모델의 차단이 있습니다.

한편으로, 가두리에는 흥미로운 부작용이 있습니다. 가두면 가둘수록, 외부의 자체화가 가속화됩니다. 칩 규제 하에서도 저렴하고 고성능인 오픈 모델(Open Model)이 등장한 사례가 있듯이, 규제는 개발을 멈추기보다 적극적으로 「우회」를 낳는 경향이 있습니다.

오픈 웨이트(Open-weight) 모델은 일반 지식 계열 벤치마크에서는 톱 클래스의 클로즈드 모델(Closed Model)과 1% 전후까지 격차가 줄어들어, 「수개월~1년 정도의 뒤처짐으로 따라잡는다」는 분석도 나오고 있습니다. 반면, 복잡한 지시 추종(Instruction Following)・얼라인먼트(Alignment)・장시간의 자율 주행(에이전트 능력)에서는 종합적으로 볼 때 여전히 클로즈드한 독자 모델이 앞서 있는 것으로 보입니다.

이 「지식에서는 거의 대등해졌다 / 하지만 에이전트 능력에서는 진짜 차이가 있다」는 비대칭이 향후를 분기시키는 주축이 됩니다. 세 가지 시나리오로 생각해 보겠습니다.

시나리오 A: 앞당겨진 코모디티화 (가두리의 역분사)

가두리 소동이 오히려 「자체 AI를 갖지 않는 것은 생사 문제다」라는 인식을 전 세계에 퍼뜨리는 세계입니다. 각국·각 기업이 자체화에 달려들고, 오픈 모델이 급속히 캐치업(Catch-up)합니다. **①생각하는 기술, ②컨텍스트 설계(Context Design)**는 모델 측에 점점 흡수되어, 숙련도가 높지 않은 이용자라도 고도의 답변을 이끌어낼 수 있게 됩니다.

이 세계에서의 차별화는 **③대화·랠리 스킬(Dialogue/Rally Skill)**과, 평범한 모델을 잘 묶어서 다루는 「메타 에이전트(Meta-agent)」의 설계로 옮겨갑니다. 지능 격차는 과거의 근력 차이나 빨리 달리는 능력처럼 상대적으로 줄어들 것입니다.

시나리오 B: 이층화 (컴퓨팅 리소스의 해자 고착화)

반대로, 계산 자원의 해자가 효과를 발휘하여, 장시간 자율 주행할 수 있는 진짜 에이전트 능력만이 대자본·동맹 내에 계속 머무르는 세계입니다. 지식·추론에서는 따라잡을 수 있어도, 「한 번 던져두면 알아서 업무를 완수하는」 층을 손에 넣지 못합니다.

그러면 ①②의 민주화가 진행될수록, 남겨진 희소 자원(=최상의 에이전트 능력)에 대한 액세스 × ③의 스킬을 겸비한 자만이 지수적으로 아웃풋을 가속하며, 격차는 오히려 벌어집니다. 이는 과거 기계화 기술을 가두어 자원을 독점했던 강대국의 논리의 재림이기도 합니다. 이번 소동이 각국이 자체적으로 주권적으로 운용하는 AI(소버린 AI, Sovereign AI)의 중요성을 일반에 강력하게 인지시키는 계기가 될 것이라고 생각되는 이유는 이러한 경계심 때문입니다.

시나리오 C: 지정학적 모자이크 (AI 버전의 스플린터넷)

단독 승자가 나오지 않고, 여러 지역 블록(미국 동맹권 / 오픈 웨이트권 / 규제로 맞서는 권역 / 컴퓨팅 리소스 공급국)이 병존하며 상호 운용에 마찰이 발생하는 세계입니다.

여기서는 「어떤 모델에도 의존하지 않는 설계」가 가장 중요해지며, 이종 모델 간을 횡단하는 ③의 스킬 + 메타 에이전트의 설계가 중요해집니다. 그리고 성능을 위해서라기보다, 언제 전환·차단되어도 멈추지 않기 위한 「보험」으로서 로컬 LLM을 보유합니다. 개인적인 견해로는 이것이 가장 실현 가능성이 높은 세계입니다.

스플린터넷(Splinternet): 세계에서 하나로 연결되어 있어야 할 인터넷 공간이 국가나 지역별로 분단되는 현상이나 상태

예상되는 시나리오 ― 영역별로 공존

시나리오로서는 A 단독도 B 단독도 아닌, 영역별로 A와 B가 공존하고 이를 C라는 그릇이 감싸는 전개가 가장 유력하다고 생각합니다. 지식·요약·코딩처럼 ①②가 효과적인 영역은 A의 코모디티화 (Commoditization)가 진행되고, 장시간 자율 주행이라는 ③이 진가를 발휘하는 영역은 B의 희소성이 당분간 남을 것입니다.

그렇다면 취해야 할 대응책이 도출됩니다. (1) ①②는 모델에 맡긴다는 전제하에, ③과 오케스트레이션 (Orchestration)에 인적 투자를 집중한다. (2) 단일 모델에 도박하지 않고, 전환 가능성을 설계에 포함한다. (3) 로컬 LLM + 메타 에이전트 (Meta-agent)를 「보험」으로서 육성한다. 로컬에서 얻을 수 있는 지능을 잘 활용하여 자신의 지능을 부스트 (Boost)한다──이것이 가장 현실적이고 효과적인 태도라고 생각합니다.

제2부: 강화되어야 할 인간 측의 스킬

AI를 사용하는 사람의 3가지 스킬

다시 정리하자면, AI를 능숙하게 다루는 능력은 적어도 다음 세 가지로 나눌 수 있다고 생각합니다.

스킬	내용
① 생각하는 기술	풀어야 할 문제로부터 정답까지의 경로를 상정하고, 루트를 설계함
...	①②는 「정답이 있는 태스크 (Task)」를 보상으로 삼아 단련하기 쉽기 때문에 모델 측에 흡수되기 쉽습니다. 반면, ③은 고정된 정답이 없고 보상을 정의하기 어렵습니다. 다음에 어떤 관점을 제시할지, 언제 가설을 접을지, 이전 턴 (Turn)에 어떻게 대응할지──이는 별개의 계통인 스킬이며, 마지막까지 인간 측에 남기 쉬운 핵심이라고 생각합니다.

왜 「랠리 (Rally)」가 본질적으로 강한가

여기서, 「한 번 던지면 내부에서 오랜 시간 동안 알아서 정답에 도달하는 모델」과 「랠리를 하며 함께 정답에 도달하는 방식」을 비교해 보겠습니다.

긴 직렬 태스크 (Serial Task)에서는 1단계의 오류율이 곱연산으로 작용합니다. 단판 자율 주행은 긴 사슬을 한꺼번에 달리기 때문에 오차가 누적될 리스크가 있습니다. 이에 반해 랠리는 인간이 요처에서 검증과 궤도 수정을 끼워 넣음으로써, 긴 사슬을 「짧은 검증 포함 구간」으로 나누어 오차의 누적을 그때마다 리셋합니다. 즉, 랠리는 단판 자율 주행의 약점을 구조적으로 회피하는 아키텍처 (Architecture)가 됩니다.

인재 채용에 비유하자면, 스킬이 높은 인재를 뽑을 수 있다면 사업은 진행하기 쉽지만, 그런 인재는 좀처럼 구하기 어렵습니다. 그렇다면 평범한 스킬을 가진 사람들을 모아 교육하면서 시스템으로서 사업이 돌아가도록 만드는 아키텍처가 더 강해집니다. AI에서도 같은 일이 일어납니다. 최강의 AI를 지정학적·비용적으로 구할 수 없다면, 평범한 모델을 메타 에이전트화하여 잘 활용하는 아키텍처가 강해집니다. 한 번에 정답에 도달하는 모델이 아니더라도, 랠리를 하며 함께 도달하면 됩니다.

그리고 더욱 중요한 것은, 공동 창조 (Co-creation)가 아니라면 찾아낼 수 없는 정답이 있다는 점입니다. 목적이 고정된 문제에서는 단판 자율 주행이 빠르고 유리합니다. 하지만 목적 그 자체가 탐색 중인 문제에서는 랠리가 본래적으로 우월합니다. 탐색 도중에 「내가 진정으로 무엇을 원했는가」 자체이 업데이트되기 때문입니다. 고정된 정답이 없는 이상, 살아있는 보상 신호를 공급할 수 있는 것은 인간뿐이며, 그 신호는 대화할 때마다 새로 써집니다. 단판 자율 주행은 목적을 고정하여 빠르게 풀고, 랠리는 목적을 살리면서 정의하며 풉니다. 얻을 수 있는 가치가 큰 문제의 대부분은 사실 후자라고 생각합니다.

지능은 코모디티화되지만, 격차는 쉽게 사라지지 않는다

「AI로 인해 지능은 민주화된다」라는 말이 자주 들립니다. 확실히 지능 그 자체의 가치는 내려갈 것입니다. 하지만, 그 저렴해진 지능을 인지하고 다 써먹을 수 있는 것은 스킬이 높은 사람뿐입니다.

역사를 되돌아보면 비슷한 패턴을 몇 가지 발견할 수 있습니다. 전력은 급격히 저렴해졌지만, 공장의 생산성이 비약적으로 상승하기까지는 수십 년이 걸렸습니다. 저렴한 전기를 활용하려면 증기 기관을 전제로 구축된 공장을 전력 전제로 다시 재구축해야 했기 때문입니다. 병목 (Bottleneck)은 전력에 대한 접근성이 아니라, 그것을 흡수하는 측의 능력(변화 흡수 능력)에 있었습니다. 이번 「인지 스킬」도 마찬가지로, 병목은 코모디티화되는 지능 그 자체에서, 그것을 다 써먹는 측의 능력으로 옮겨갑니다.

다만, 이것이 영속되지는 않습니다. 글자를 읽고 쓰는 능력이 그러했듯, 인지 스킬 자체도 머지않아 교육되고 보급될 것입니다. 문제는 「격차가 남느냐/사라지느냐」라는 이지선다가 아니라, **보급의 시정수 (Time Constant)**입니다. 최첨단 AI의 세대교체가 월 단위, 년 단위로 진행되고, 인간 측의 스킬 보급이 이를 뒤처져 따라가는──그 차이가 존재하는 동안 격차는 벌어집니다.

이성형 랠리와 감성형 랠리

마지막으로, 간과되기 쉬운 논점 하나를 제시합니다. 랠리에는 두 가지 모드가 있습니다. 논리로 파고드는 이성형과, 공감·감각·호불호에 의해 리드되는 감성형입니다.

현재 AI의 진화는 상당히 이성형(오해를 사더라도 말하자면 '남성적')에 치우쳐 있습니다. 이유는 간단합니다. 강화학습 (RL)은 검증 가능한 정답이 있는 태스크(수학·코드·논리)와 궁합이 좋기 때문입니다. 감성·호불호·신체적 감각은 고정된 정답이 없어 보상을 정의하기 어렵기 때문에, 최적화의 스포트라이트가 비치기 어렵습니다. 즉, 지금의 AI가 가진 '논리적임'은 개발자의 속성이라기보다, 검증 가능성으로 타격할 수 있는 영역만을 갈고닦아 온 훈련의 편향성에 의한 것입니다.

그리고 이끄는 답도 달라집니다. 이성형은 목적을 조기에 고정하여 수렴시키는 데 능숙합니다. 반면, 감성형은 목적을 고정하지 않은 채 발산 상태에 머물며, '무엇을 원하는가 자체를 아직 언어화하지 못한 초기 단계'를 다룰 수 있습니다. 이성형 랠리(Rally)는 그 단계를 건너뛰고, 이미 언어화된 질문부터 시작해 버립니다. 수렴은 빠르지만, 질문의 선택지를 처음부터 줄여버리고 있을지도 모릅니다.

AI에게도 더 많은 감성형의 진화가 있어야 합니다. 그리고 그 첫 번째 주체는 아마 모델 자체보다도, 대화하는 쪽의 인간일 것입니다. 같은 모델이라도 수렴을 재촉하지 않고, '올바른 하나의 정답'이 아니라 '여러 가지로 그럴듯한 느낌'을 나열하도록 유도한다면 감성형 랠리로 끌어들일 수 있습니다. 논리로 몰아붙이는 근육뿐만 아니라, 감촉으로 표류하는 근육도 단련한 사람은 지금의 모델에서도 다른 답을 이끌어낼 수 있을 것입니다.

제3부: 파트너로서의 AI와 함께하는 법

'라벨'에서 '컨텍스트'로

이전에 다른 기사(「당신은 전문가입니다」는 역효과!?)에서, 「당신은 전문가입니다」라는 라벨이 AI를 '연기'로 내몰아 포툠킨(Potemkin)식의 겉치레 이해를 낳는다는 이야기를 쓴 적이 있습니다. 직함을 부여하는 것이 아니라, 배경·목적·판단 기준·사고의 틀이라는 컨텍스트 (Context)를 전달하는 것, 이것이 AI를 '배우'에서 '파트너'로 바꾸는 첫걸음이었습니다.

이 컨텍스트 설계는 제2부에서 말한 ②의 기술에 해당합니다. 본 기사의 테마인 ③대화·랠리 기술은 그 ②를 대화 속에서 동적으로 더하고 빼는 기술입니다. 그리고 그 구체적인 절차로서 도움이 되는 것이 앞선 기사에서도 소개했던 '프롬프트의 밀도'라는 개념입니다.

더블 다이아몬드와 밀도의 리듬

디자인 사고 (Design Thinking)의 '더블 다이아몬드 (Double Diamond)'를 프롬프트 설계에 적용하면 다음과 같습니다.

발산①(Discover) → 수렴①(Define) → 발산②(Develop) → 수렴②(Deliver)
저밀도  중밀도  저밀도  고밀도
(탐색·확장) (질문 압축) (해답 확장) (실행·완성)

이 밀도의 리듬이야말로 ③ 랠리 기술의 골격입니다. 그리고 제2부의 '오차 누적' 이야기와 결합하면 그 정체가 보입니다.

저밀도 페이즈 (발산): 모델을 의도적으로 자율 주행하게 하여 표류하게 만드는 구간. 여기에서 오차(=예상치 못한 일탈)는 버그가 아니라 기능이며, 탐색의 폭 그 자체가 된다.
고밀도 페이즈 (수렴): 배경·목적·기준·사고의 틀을 한꺼번에 입력하여 자율 주행을 제어하고, 누적된 드리프트 (Drift)를 리셋하여 완성으로 이끄는 구간.

즉, 밀도의 리듬은 곧 오차 관리 (Error Management)의 리듬이기도 합니다. 발산 단계에서 의도적으로 오차를 허용하고, 수렴 단계에서 의도적으로 거두어들입니다. 단판 자율 주행 모델이 이를 내부에서 알아서 해주지 않기 때문에, 인간이 밀도를 조절하여 외부에서 공급해 주는 의미가 있으며, 이것이 '최강 모델이 아니더라도 랠리를 통해 함께 정답에 도달하는' 구체적인 조작 절차입니다.

틀을 '깨는' 것이야말로 랠리의 핵심

다만, ③ 기술의 진정한 핵심은 '발산→수렴→발산→수렴'을 틀에 맞춰 돌리는 것이 아니라고도 생각할 수 있습니다.

정말로 효과적인 것은 언제 틀을 깰 것인가를 판단하는 것입니다. 수렴 도중에 '뭔가 다르다'고 느껴서 다이아몬드를 한 단계 전으로 되돌려 다시 펼치는 것. 정해진 4단계를 성실하게 완주하는 힘이 아니라, 페이즈의 경계를 움직이는 힘. 그리고 그 '뭔가 다르다'를 작동시키는 센서가 제2부에서 쓴 감성형 모드입니다. 이성형은 틀을 끝까지 완주하려 하고, 감성형은 도중에 위화감을 감지하여 틀을 깨뜨립니다. 이 양쪽 모두가 필요합니다.

더 나아가 이 더블 다이아몬드의 왼쪽에는 '다이아몬드 제로'라고 불러야 할 전 단계가 반드시 존재할 것입니다. 기준을 입력하기 전, 기준 그 자체를 발견하기 위해 표류하는 랠리. '미의식을 언어화하라'고들 하지만, 정말 어려운 탐구에서는 미의식은 처음부터 언어화할 수 없습니다. 표류하고, 무언가에 걸리고 나서야 비로소 '나는 이것을 기준으로 삼고 있었구나'라고 사후적으로 알게 되는 것입니다. 이 부분은 아직 절차화되지 않은 채 남아 있는 커다란 여백이라고 생각합니다.

마치며: 발판은 나누어 줄 수 있다. 마지막에 남는 것은 「미각」

지금까지의 이야기를 종합하면, 하나의 희망과 하나의 각오에 도달하게 됩니다.

희망

③의 기술은 「발판 (scaffold)」으로서 나누어 줄 수 있다는 것입니다. 랠리 (Rally)는 본래 감성을 포함한 암묵지 (Tacit knowledge)로서, 이를 가진 사람만이 가지고 있습니다. 하지만 더블 다이아몬드 (Double Diamond) + 밀도 설계라는 형태로 만드는 순간, 그것은 발판이 됩니다. 감각적으로 랠리가 능숙하지 않은 사람이라도, "지금은 발산 단계이므로 밀도를 낮춘다", "지금은 수렴 단계이므로 조인다"라고 의도적으로 실행할 수 있습니다. 가치는 「어떤 모델에 접근할 수 있는가」에서 「발판을 구축할 수 있는 능력」으로 옮겨갑니다. 이 발판은 모델의 세대교체나 지정학적 차단에도 강한, 이식 가능한 자산입니다. 이번 Fable 사건은 바로 그 점을 뼈저리게 느끼게 해주었습니다. -
각오

그럼에도 불구하고 마지막까지 저렴해지지 않는 층위가 있다는 것입니다. ①②가 모델에, ③의 절차적인 부분이 발판에 흡수되어 가면, 마지막에 수중에 남는 것은 「어떤 질문이 애초에 랠리할 가치가 있는가」를 꿰뚫어 보는 미각(Taste)과 판단입니다. 방법은 배울 수 있어도, 무엇을 물어야 하는가라는 안목은 가르치기 어렵습니다. 그리고 그 안목의 소재는 많은 경우 먼저 감성에서 오고, 나중에 논리가 따라오는 것처럼 보입니다.

지능이 완전히 범용화 (Commodity)된 세계에서 마지막으로 희소한 것은, 똑똑한 답을 내는 능력이 아니라, 똑똑하게 물을 대상을 선택하는 능력일지도 모릅니다. 그리고 그 랠리를 「지적 탐구」로서 즐길 수 있느냐 하는 점. 아마도 그 지점이 마지막 분기점이 될 것입니다.

제2, 제3의 Fable가 각지에서 자라나기를 기다리며, 로컬에서 구할 수 있는 지능을 메타 에이전트 (Meta-agent)로서 묶고, 자신의 ①②③ 기술을 연마해 두는 것. 며칠 만에 사라진 「최강의 AI」는 이러한 현실적인 목표를 부여해 주었습니다.

Discussion