2026년 9월의 예상치 못한 출시작 중 하나는 X를 장악한 프롬프트 가능한 분류기인 Jev였습니다. 몇 주 만에 오픈 소스 모델들이 우후죽순 생겨났고, OpenAI, Cloudflare와 Liquid는 상업적 상품으로 자체 모델과 엔드포인트를 출시했습니다. OpenAI 역시 개발자 데이에서 주요 발표 중 하나로 이를 선보였습니다.
Jev는 또한 TypeSafe 팀의 공유에 따르면, 출시 몇 주 만에 포춘 500대 기업의 25%가 사용하며 기업 전반으로 빠르게 확산되었습니다. 비용, 사용 용이성, 그리고 환각(hallucination) 없는 결과물은 정말 매력적이지만, 여전히 질문이 남습니다. 왜 지금일까요?
저렴한 분류기들은 (AI 역사를 통틀어) 오랫동안 존재해 왔습니다. 분류 모델들은 초기 인터넷에서 애플리케이션을 구동했으며, BERT와 CNN 기반 모델의 출시로 Hugging Face에서 더욱 대중화되었습니다. 이러한 모델 패밀리들, Hugging Face의 Transformers 라이브러리, 그리고 TensorFlow와 PyTorch의 오픈 소싱은 작은 팀이 매우 유능한 AI 모델을 배포하는 방식을 엄청나게 단순화했습니다. 적절한 데이터와 모델 미세 조정(fine tuning)에 대한 중간 지식이 있는 팀 또는 개인도 비교적 빠르게 좋은 결과를 얻거나 훌륭한 결과물을 만들 수 있었습니다. 하지만 여전히 몇 가지 어려움이 있었습니다. 기계 학습(ML) 및 프로그래밍 지식이 필요했고, 훈련과 추론을 위한 인프라가 갖춰져야 했으며, 모든 작업이나 데이터의 변화에 따라 모델은 훈련되고 테스트되며 재배포되어야 했습니다.
2018년부터 2022년까지 우리는 MLOps와 이러한 요구를 지원하는 플랫폼 도구의 호황을 누렸지만, 이는 2022년 11월 30일 ChatGPT 출시 이후 우리가 목격한 'AI 로켓선(AI rocketship)' 급 성장을 이끌지는 못했습니다.
지난 4년간의 ChatGPT를 되돌아보면, 초기 ChatGPT 출시와 이후 채택 과정에서 몇 가지 두드러지는 점이 있습니다:
- 모델 사용의 단순성: 사람들은 AI와 상호작용할 때 흔히 느끼는 ML 또는 소프트웨어 장벽이 없었습니다. 대화형이었으며 이전 GPT-3 버전과 비교하여 돋보였습니다.
- 쉽게 스크린샷을 찍어 공유할 수 있는 결과물의 바이럴리티(virality): 이는 연말연시의 주요 대화 주제가 되었습니다.
- 진입 장벽을 낮춘 무료 버전
연휴가 지나고 2023년은 데모, 사용 사례 고민, 그리고 서둘러 출시하는 해로 시작되었습니다. 데모는 실제 운영 환경(production)으로 넘어가고 소프트웨어 표준은 사라졌습니다. 테스트는 데모를 보기 좋게 만드는 데 초점을 맞추었고, 기업들은 자신들의 구현에 AI를 언급할 수 있도록 배포했습니다. 결국 2023년 말과 2024년 초가 되면서, 팀들이 AI 사용 방법을 운영화(operationalize)하기 시작함에 따라 ROI(투자 대비 수익률), 운영 안정성(production stability), 모델 정확도 측정 등이 핵심 논의 주제로 돌아왔습니다. AI 채택이 기하급수적으로 계속 성장한 핵심 이유는 변하지 않았습니다. 고객 지원, 코딩, 워크플로우 개선 또는 펠리컨 그림 그리기 등 어떤 목적으로든, 단순한 API와 사용자 경험(UX)이 차별화 요소였습니다.
이 간소화된 경험은 광범위하게 “서비스형 AI (AI as a Service)”라고 불릴 수 있으며, 매달 그 용어와 경험이 계속 진화하고 있습니다. 전진 배치 엔지니어(Forward Deployed Engineers) 및 컨설턴트가 일부 조직에 대해 이를 제공할 수도 있고, 다른 조직에게는 고가용성(highly available)의 간단한 AI 자체가 존재할 수도 있습니다. 많은 기업 환경에서 “서비스형 (as a Service)”은 거버넌스(governance)와 보안 승인(security buy-in)을 확보하는 것으로 정의될 수 있지만, 또 다른 이들에게는 빌더들이 기반 인프라보다는 고객에 집중할 수 있도록 하는 것을 의미합니다.
모델 기능이 빠르게 변화하는 AI 붐 속에서, 시대정신(zeitgeist)이 문제 해결의 최적 방법보다 로드맵을 결정하는 경우가 많습니다. 에이전트형 작업(Agentic tasks)은 GPT-4의 기능과 함께 등장했으며, 가장 크고 역량 있는 모델들의 최신 세대와 함께 계속 확장되었습니다. 하지만 기능이 확장됨에 따라 항상 최첨단 기술(frontier)이 필요한 것은 아니었으며, 많은 작고 간단한 문제들이 비용의 일부만으로 핵심 비즈니스 및 개인 작업을 수행할 수 있었습니다. 모델 비용은 GPT-3 이후 급격히 감소하다가 2025년 Google이 Gemini 2.0 세대에 대한 가격을 인상하기 시작하면서, OpenAI도 2026년에 5.4 nano에 대해 일관되게 높은 가격으로 따라갔습니다. 이러한 추세가 이어지면서 우리는 Uber, Coinbase, Meta, Microsoft 등 여러 기업들이 비용 문제로 토큰 지출을 빠르게 둔화시키면서, 많은 조직이 내부 모델이나 오픈 소스 모델로 이동하는 사례를 보았습니다.
AI Harnesses 또한 계속해서 진화했습니다. 많은 코딩 및 에이전트 도구들이 여러 모델을 결합하고, 더 강력한 오케스트레이터(orchestrator)를 사용하여 단순한 작업을 하위 에이전트(subagents)에게 위임하거나, 단일 에이전트가 대형 모델과 자문 역할을 하며 협의하도록 만들었습니다.
소형 모델들조차도 작업의 90%를 수행할 수 있을 만큼 충분히 능력을 갖추게 되었지만, 최첨단 연구소들은 AGI(범용 인공지능)를 향해 계속 경쟁하며 기술적 한계를 밀어붙이는 데 집중했습니다.
OpenAI는 Luna 5.6에서 예상치 못하게 비용에 대한 논의를 재개했으며, 다시 Luna 6에서도 마찬가지였습니다. 이는 입력 토큰당 백만 개 기준으로 $0.10라는 가격 지점으로 돌아왔습니다. 여러 면에서 Luna 5.6의 가격 변경은 낮은 마진으로 어려움을 겪던 많은 래퍼(wrapper) 회사들을 구제했으며, OpenRouter에서 볼 수 있듯이 사용량 폭발을 가능하게 했습니다.
// Detect dark theme var iframe = document.getElementById('tweet-2093350440792420751-685'); if (document.body.className.includes('dark-theme')) { iframe.src = "https://platform.twitter.com/embed/Tweet.html?id=2093350440792420751&theme=dark" }
비용의 추세는 이미 합리적인 수준으로 되돌아가고 있었고, Jev는 $0.042 백만 입력 토큰 가격으로 출시했습니다. 이는 빠르고 이해하기 쉬운 API였습니다. 몇 가지 영리한 마케팅이 불을 지폈지만, 비용, 단순성, 일반화 가능성이 그 출시에 대한 궤적을 정의했습니다. 생성형 경험 속에서 분류기(classifier)를 계속 훈련시키는 저의 일화적인 경험 외에도, Jev의 초기 블로그 게시물 중 하나인 The Bitterest Lesson은 효과적인 AI의 기반으로서 올바른 문제/문제와 데이터를 선택하는 아이디어를 강조합니다.
AI 시장이 계속 성장함에 따라 (현재 미국 성인 중 2.2%만이 PNC data를 기반으로 AI 구독료를 지불하고 있음), 개인 에이전트부터 기업 도입까지, 이 세 가지 요인이 채택을 주도할 것입니다. 프론티어 인텔리전스(Frontier intelligence)가 미래의 길을 닦겠지만, 데이터센터에 있는 천재가 항상 가장 접근하기 쉽거나 저렴한 존재는 아닐 것입니다.
