twarx.com에서 처음 게시되었습니다 - 전체 인터랙티브 버전은 그곳에서 읽을 수 있습니다.

최종 업데이트: 2026년 6월 23일

대부분의 AI 기술 워크플로우는 완전히 잘못된 문제를 해결하고 있습니다.

M.G. Siegler의 최신 Spyglass Inklings #022는 Amazon이 500억 달러 규모의 OpenAI 영화 프로젝트에서 발을 빼는 것, 299달러의 Meta Glasses, Microsoft의 내러티브 전환, Google이 Noam Shazeer와 John Jumper를 잃은 것, OpenAI의 광고 제안 등 서로 관련 없는 여섯 가지 헤드라인처럼 읽힙니다. 하지만 이들은 전혀 관련이 없는 것이 아닙니다. 이들은 모두 아무도 공개적으로 언급하지 않는 하나의 AI 기술 엔지니어링 실패의 증상이며, 일단 이를 인지하고 나면 산업 전체에서 이를 보지 않을 수 없게 됩니다.

이 기사는 그 실패에 이름을 붙이고 시스템 프레임워크(systems framework)를 제공합니다. 글을 마칠 때쯤 여러분은 왜 프런티어 모델(frontier-model)의 리더십이 무의미해지고 있는지, 왜 Nadella가 헤징(hedging)을 하고 있는지, 그리고 매 분기마다 스택(stack)을 다시 작성하지 않고도 제공업체의 혼란 속에서 살아남을 수 있는 AI 기술 시스템을 어떻게 설계해야 하는지 이해하게 될 것입니다.

[IMG:1] M.G. Siegler가 한 주간의 AI 기술 움직임을 매핑한 Spyglass Inklings #022의 주요 인물. 출처: Spyglass

이 트윗을 공유하세요

AI의 다음 10년은 최고의 모델을 가진 연구소(lab)가 승리하는 것이 아닙니다. 조정(coordination) 문제를 해결하는 쪽이 승리할 것입니다. 그 격차는 이미 벌어지고 있으며, 대부분의 팀은 그 격차의 잘못된 쪽에 기반하여 구축하고 있습니다.

Spyglass Inklings #022는 AI 기술 트렌드에 대해 무엇을 밝혀내는가?

한편, Google은 Noam Shazeer를 잃은 것으로 알려졌습니다. 그는 '채 2년도 되지 않은' 시점에 **27억 달러 ($2.7B)**를 들여 복귀했으나, 이제 '경쟁사인 OpenAI로 달려가고' 있습니다. 이와 함께 노벨상 수상 경력이 있는 DeepMind 연구원 John Jumper 또한 Anthropic으로 이직하고 있습니다. Google의 '최신 Gemini 플래그십 모델들은 I/O 컨퍼런스 준비가 되지 않았으며', 보고에 따르면 '여전히 Mythos/Fable 급의 성능에는 미치지 못할 것'이라고 합니다. 이는 제품 측면의 문제에 더해 서사(narrative) 측면의 문제까지 가중시키고 있습니다.

고객 배포를 위한 멀티 프로바이더 라우터(multi-provider routers)를 구축해 온 저의 견해는 다음과 같습니다. 이 기업들 중 어느 곳도 모델 성능이 뒤처져서 패배하는 것이 아닙니다. 그들은 제가 **AI 조정 격차 (The AI Coordination Gap)**라고 부르는 문제, 즉 원시 모델의 능력(raw model capability)과 실제 운영 환경(production)에서 해당 모델들을 조정(coordinate), 라우팅(route), 그리고 비용 최적화(cost-optimize)하는 데 필요한 시스템 사이의 벌어지는 간극과 싸우고 있는 것입니다. '비용이 더 중요해지기 시작하고 더 많은 하이브리드 AI 시스템에 대한 요구가 있다면... Google은 괜찮을 것이다'라고 쓴 Siegler의 직관은 옳습니다. 하이브리드, 멀티 프로바이더, 비용 인지형 오케스트레이션(cost-aware orchestration)이 실제 전장이며, 이는 이미 한동안 지속되어 온 흐름입니다.

정립된 프레임워크

AI 조정 격차 (The AI Coordination Gap)

AI 조정 격차(AI Coordination Gap)는 프론티어 모델(frontier model)이 단독으로 수행할 수 있는 능력과, 멀티 프로바이더, 비용 제약, 신뢰성 중심의 실제 운영 시스템이 실제로 필요로 하는 것 사이의 구조적 거리입니다. 이것이 바로 최고의 모델을 가진 기업이 배포(deployment) 단계에서 승리하는 경우가 드문 이유입니다.

$2.7B
Google이 Noam Shazeer를 복귀시키기 위해 지불한 것으로 알려진 금액 — 그는 현재 OpenAI로 떠나는 중
[Spyglass Inklings #022, 2026](https://spyglass.org/inklings-amazons-openai-movie-meta-glasses-microsofts-ai-narrative-pivot-google-falling-behind-in-ai-again/)
...

발표된 내용 — 정확한 AI 기술 사실 관계

Inklings #022 (2026년 6월 23일)에 따르면, 원문에서 확인된 사실은 다음과 같습니다:

• Amazon MGM이 OpenAI 영화 제작에서 발을 뺐습니다. Siegler의 해석에 따르면, '$50B(500억 달러)는 $50M(5,000만 달러)보다 크다'는 점과 해당 영화가 '단순히 anti-OpenAI일 뿐만 아니라, 전반적인 anti-AI 성향을 띨 수 있다'는 우려가 제기되었습니다. 보도는 Wired와 Spyglass의 논평을 인용했습니다.

• Meta Glasses가 299달러에 출시되었습니다 — '최신 Ray-Ban 브랜드 제품보다 무려 80달러나 저렴합니다.' EssilorLuxottica와 협력하여 제작되었습니다 (Meta는 현재 대주주입니다). 로고는 안경다리 뒷면에 숨겨져 있습니다. Meta의 Muse Spark 모델로 구동되는 AI 음성을 탑재한 'Kylie' 셀러브리티 버전이 존재하며, 이는 Snap의 **Specs ($2,195)**와 비교됩니다. [[Wired]]

• Microsoft의 하이브리드 AI 피벗 (Pivot). Nadella는 Microsoft가 자체적인 프런티어 모델 (Frontier models)을 구축하고 DeepSeek 모델을 제공하는 동시에, '거대 AI에 맞선 기습 작전 (blitz against Big AI)'을 펼치고 있습니다. Siegler는 이를 가능한 'DeepSeek 모먼트 (DeepSeek moment)'로서 'Fable 상황'에 비유합니다. [[WSJ]]

• Google의 AI 인재 유출. Noam Shazeer ($2.7B 규모의 보상)가 OpenAI로 이직하였고, John Jumper는 Anthropic으로 떠났습니다. Gemini 플래그십 모델들은 'I/O를 위한 준비가 되지 않았으며', 보고된 바에 따르면 'Mythos/Fable 급의 수준은 아니었다'고 합니다. [[Bloomberg]]

• OpenAI의 광고 제안. 이는 '현재 OpenAI에게 있어 단일적으로 가장 중요한 사항'으로 묘사되었으며, Siegler는 챗봇에게 'CPC(클릭당 비용) 및 CPM(노출당 비용) 모델은 별로 의미가 없어 보이며', 'AI 네이티브 (AI-native)' 형식이 필요하다고 언급했습니다.

확인된 사실 vs 추측: 가격($299, $2,195), $2.7B 수치, 25% 이상의 지분, 그리고 언급된 인물들의 퇴사는 모두 출처에서 인용되었습니다. 이를 하나의 조정 문제 (coordination problem)로 프레이밍한 것은 Siegler의 주장이 아닌 _저의 분석_입니다. 모델 명칭인 'Mythos', 'Fable', 'Muse Spark'는 출처에서 참조된 업계 명칭으로 등장합니다.

최고의 프런티어 모델 (frontier model)을 보유한 기업이 배포 (deployment) 시장에서 승리하고 있지는 않습니다. 공급자 조정 (provider coordination) 문제를 해결한 기업이 승리하고 있으며, 이들은 작업당 토큰 비용을 20~50배 더 낮게 유지하고 있습니다. 이것이 Inklings #022의 핵심적인 함의입니다.

AI 조정 격차 (AI Coordination Gap)란 무엇인가? (쉬운 설명)

당신이 식당을 운영한다고 가정해 봅시다. '프런티어 모델 (frontier model)'은 당신의 가장 뛰어난 셰프입니다. 하지만 식당은 단 한 명의 천재 셰프만으로 운영되지 않습니다. 셰프, 준비 요리사, 설거지 담당자, 공급업체, 그리고 모든 식재료의 비용을 조율하는 주방을 통해 운영됩니다. 만약 그 천재 셰프의 요리 한 접시 비용이 500달러라면, 그를 통해 모든 손님에게 음식을 제공할 수는 없습니다. 따라서 어떤 요리에 실제로 그의 손길이 필요한지를 결정하는 시스템이 필요합니다.

**AI 조정 격차 (AI Coordination Gap)**란, 훌륭한 모델을 보유하는 것과 각 작업에 대해 적절한 비용으로, 적절한 신뢰성을 갖춘 적절한 모델을 사용하는 시스템을 갖추는 것 사이의 간극을 의미합니다. 프런티어 벤치마크 (frontier benchmarks)를 두고 싸우는 기업들은 셰프를 두고 싸우고 있는 반면, 승리하는 기업들은 조용히 주방을 구축하고 있습니다. 그리고 이들은 진정으로 다르며, 진정으로 다른 팀을 필요로 하는 별개의 문제입니다.

AI 조정 격차의 시각화: 단일 공급자 스택 (left, 왼쪽) 대 라우팅 및 비용을 고려한 멀티 공급자 오케스트레이션 계층 (right, 오른쪽). 오른쪽이 바로 Microsoft의 하이브리드 피벗 (hybrid pivot)이 구축하고자 하는 방향입니다.

하이브리드 AI 기술 오케스트레이션 (Hybrid AI Technology Orchestration)은 어떻게 작동하는가?

하이브리드 AI의 이면에서 작동하는 메커니즘 — Microsoft가 구축하고 있으며, 점점 더 많은 이들이 따라 하고 있는 방식 — 은 모델의
_상위(above)_에 위치하는 라우팅 및 오케스트레이션 계층 (routing and orchestration layer)입니다. DeepLearning.AI의 설립자이자 전 Google Brain 리드인 Andrew Ng는 이를 명확하게 설명했습니다: "에이전트 워크플로우 (agentic workflows) 덕분에 AI가 수행할 수 있는 작업 세트가 극적으로 확장될 것입니다." 그는 The Batch를 위한 분석에서 이러한 변화를 상세히 기술했습니다. 이러한 확장은 모델이 아닌 조정 계층 (coordination layer)에서 발생합니다. 실제 요청이 흐르는 방식은 다음과 같습니다.

하이브리드 멀티 프로바이더 AI 요청 흐름 (Hybrid Multi-Provider AI Request Flow)

  1

    **요청 수신 (애플리케이션 계층) (Request Intake (Application Layer))**

사용자 질의 또는 에이전트 작업이 입력되면, 오케스트레이션 계층은 이를 사소한(trivial), 표준(standard), 또는 프런티어급(frontier-grade)으로 분류하는 동시에 메타데이터로서 지연 시간 예산 (latency budget)과 비용 상한선 (cost ceiling)을 부착합니다.

↓

  2
...

라우팅 모델 (routing model)은 해당 작업을 저렴한 오픈 소스 모델 (DeepSeek), 중간 단계 모델, 또는 프런티어 모델 (Claude, GPT) 중 어디로 보낼지 결정합니다. 비용 최적화가 바로 이 단계에서 이루어지기 때문에, 약 50~200ms의 오버헤드 (overhead)는 그 이상의 가치를 충분히 보상합니다.

↓

  3
...

검색 증강 생성 (Retrieval-Augmented Generation, RAG)이 벡터 데이터베이스 (Pinecone)에서 관련 문서를 가져오는 동안, 모델 컨텍스트 프로토콜 (Model Context Protocol, MCP)이 실시간 도구 및 데이터 소스를 연결하여 모델이 오래되거나 무관한 컨텍스트를 접하지 않도록 합니다.

↓

  4
...

선택된 모델이 실행되며, 실패하거나 타임아웃이 발생하면 정책 엔진 (policy engine)이 백업 프로바이더로 페일오버 (failover)합니다. 이것이 바로 Anthropic의 '미국 정부와의 갈등'이 구매자들로 하여금 다변화를 추진하게 만드는 이유입니다. 단일 프로바이더 종속 (single-provider lock-in)은 명백한 신뢰성 리스크이기 때문입니다.

↓

  5
...

출력값은 가드레일 (guardrails)에 따라 검증되고, 로그가 기록되며, 비용이 할당됩니다. 또한 텔레메트리 (telemetry) 데이터가 라우터로 다시 피드백되어 향후 라우팅을 개선합니다. 이것이 바로 대부분의 팀이 건너뛰는 계층이며, 누군가 마침내 청구서를 확인하기 전까지 운영 중인 AI가 소리 없이 성능이 저하되는 이유입니다.

이 순서가 중요한 이유는 비용과 신뢰성(reliability)에 관한 결정이 모델 자체가 아니라 2단계와 4단계에서 이루어지기 때문입니다. 이 계층을 소유하는 자가 고객을 소유하게 됩니다.

각 단계의 신뢰도가 97%인 6단계 에이전트 파이프라인(agent pipeline)은 엔드 투 엔드(end-to-end)로 볼 때 약 83%의 신뢰도(0.97^6)만을 가집니다. 대부분의 팀은 제품을 출시한 후에야 이 사실을 깨닫게 되며, 'AI 조정 격차(AI Coordination Gap)'는 바로 그 14%가 사라지는 지점입니다.

명명된 프레임워크

AI 조정 격차 (The AI Coordination Gap)

이는 왜 Google이 거의 무한한 자원을 보유하고 있음에도 뒤처지는 것처럼 보이는지를 설명해 줍니다. 프런티어(frontier, 모델)에서의 리더십과 조정(coordination, 시스템)에서의 리더십은 서로 다른 역량입니다. Shazeer와 같은 인재는 전자를 최적화합니다. 하지만 시장은 점점 더 후자에 대해 비용을 지불하고 있습니다.

AI 기술 조정 계층(AI Technology Coordination Layer)은 무엇을 제공하는가?

LangGraph, n8n, 또는 Microsoft의 AutoGen과 같은 도구로 구축된 프로덕션급 오케스트레이션(orchestration) 계층은 단일 직접 API 호출로는 도저히 불가능한 기능들을 제공합니다:

• 비용/품질에 따른 모델 라우팅 (Model routing by cost/quality): 사소한 쿼리는 DeepSeek급 오픈 모델(백만 토큰당 몇 센트 수준)로 라우팅하고, 진정으로 어려운 작업에는 프런티어 모델 (Claude, GPT)을 예약합니다. 팀들은 혼합된 워크로드에서 40-80%의 비용 절감을 보고하고 있습니다.

• 제공업체 페일오버 (Provider failover): Anthropic, OpenAI 및 오픈 소스 엔드포인트 간의 자동 폴백 (fallback) — Siegler가 언급한 규제적 '갈등 (tussle)'을 고려할 때 매우 중요합니다. 저는 한 제공업체가 40분 동안 연속으로 529 에러를 반환했을 때, 바로 이 패턴이 고객의 프로덕션 배포를 새벽 2시에 구해내는 것을 직접 목격했습니다.

• RAG 그라운딩 (RAG grounding): Pinecone 또는 유사한 벡터 데이터베이스 (vector databases)를 통해 최신 독점 데이터를 주입하여, 데이터가 변경될 때마다 재학습(retraining)해야 하는 문제를 제거합니다.

• MCP 도구 액세스 (MCP tool access): Model Context Protocol은 모델이 라이브 도구 및 데이터 소스를 호출하는 방식을 표준화합니다 — 모델을 교체하더라도 통합 상태는 유지할 수 있습니다.

• 멀티 에이전트 오케스트레이션 (Multi-agent orchestration): CrewAI 또는 LangGraph 상태 머신 (state machines)을 사용하여 복잡한 작업을 전문화된 에이전트들로 분해합니다.

• 관측 가능성 및 비용 귀속 (Observability and cost attribution): 요청당 토큰 로깅을 통해 재무 부서에서 지출이 정확히 어디에 사용되는지 확인할 수 있게 합니다. 이는 실제 환경에서 놀라울 정도로 드문 기능입니다.

이것이 바로 OpenAI의 광고에 관한 Siegler의 결론이 중요한 이유입니다: 'CPC 및 CPM 모델은 별로 의미가 없어 보인다'는 이유는 챗봇의 _아키텍처 (architecture)_에 아직 광고 삽입을 위해 설계된 조정 계층 (coordination layer)이 없기 때문입니다. 모델은 준비되었습니다. 시스템은 아직 아닙니다.

비용 인지형 AI 기술 라우터를 어떻게 구축하는가?

가장 단순한 형태의 비용 인지형 라우터를 구축해 보겠습니다. 목표는 다음과 같습니다: 쿼리가 단순하면 저렴한 모델로, 복잡하면 프런티어 모델로 라우팅하는 것입니다. 처음부터 시작하기 전에 저희의 AI 에이전트 라이브러리에서 재사용 가능한 빌딩 블록을 확인해 보세요.

Python — LangGraph 스타일의 비용 인지형 라우터

샘플 입력

query = '이 40페이지 분량의 계약서를 요약하고 책임 조항을 표시해줘.'

1단계: 복잡도 분류 (저렴한 모델이 분류(triage) 수행)

def classify(query):

작고 저렴한 모델이 난이도를 0-1 사이로 점수화함

score = cheap_model.score_difficulty(query) # 0.82 반환
return score

2단계: 비용 정책에 기반한 라우팅 (route)