지난주 Sam Altman은 벙커에 앉아 좌절하고 있었는데, Zuck가 Muse를 공개하는 것을 지켜보고 있었습니다. Muse는 사용자가 알려주는 모든 것에서 학습하는 무료 개인 비서 스타일의 스파이로, 쇼핑을 대신해 주는 역할을 합니다. 이에 뒤처지지 않기 위해 Sam은 불과 며칠 전 샌프란시스코 무대에 올라, 월 $100를 내면 여러분의 받은 편지함에 있는 모든 AI 생성 이메일에 응답하고, DHH가 그날 빠르다고 생각하는 어떤 언어로도 백엔드를 재작성해 줄 수 있는 또 다른 귀엽고 완전히 무해한 개인 비서를 제공하겠다고 발표했습니다.
오늘 영상에서는 OpenAI Dev Day에서 놓친 모든 것을 파헤쳐 보겠습니다. 여기에는 GPT-6 Astra만큼 똑똑한 모델, 수상하게도 익숙해 보이는 API, 그리고 월 $200 플랜을 조용히 거세시킨 새로운 구독 티어까지 포함됩니다. 지금은 2026년 10월 1일이며, 여러분은 The Code Report를 시청하고 있습니다. 작년 1월에 지루함을 느끼고 최근 은퇴한 오스트리아 개발자 Peter Steinberger가 ClaudeBot을 출시했습니다. 이는 실제 작업을 하는 번거로움 없이 생산적인 것처럼 보이기를 좋아하는 사람들을 위한 최초의 AI 개인 비서였습니다.
이것은 빠르게 GitHub 역사상 가장 빠르게 성장하는 저장소(repo)가 되었고, 그 덕분에 그는 OpenAI에 고용되어 이 아이디어를 계속 발전시킬 수 있었습니다. 그러다 지난주, 그의 모든 노력이 마침내 결실을 맺었을 때 Zuck가 이 개념을 가져와 Muse에 채워 넣었습니다. 그리고 불과 며칠 전, 그의 고용주 스스로도 똑같은 일을 했지만, 이번에는 Dots라고 부르며 월 $100의 가격표를 붙였습니다. 여기서 단일 점(dot)은 GPT-6 Astra로 구동되는 개인 에이전트입니다. 따라서 기본적으로 B를 뒤집어 놓은 봇에 불과합니다. 이름만 지정해주면, 그 귀엽고 말랑한 아바타가 우리가 알고 있는 인터넷을 망치는 작업을 시작할 것입니다.
키노트 데모에서 Sam은 자신의 도트(dot)에게 폐쇄되기 전에 오래된 인벤토리 API를 제거하라고 지시했습니다. 그러자 도트는 의존성 추적, 통합 업데이트, 테스트 실행 등 현대 소프트웨어 모범 사례를 따르면서 CEO가 올린 세 개의 PR로 저장소에 스팸을 뿌렸습니다. 이 PR들은 가난한 개발자가 검토할 의무감을 느끼게 만들 정도였는데, 왜냐하면 그 코드를 인간의 눈이 직접 본 것은 처음일 것이기 때문입니다. 그러고 나서 Holly Lee는 도트가 사전 녹화된 비디오 밖에서도 작동한다는 것을 증명하며, 슬롭(slop) 시대에도 라이브 데모가 여전히 어렵다는 것을 입증했습니다.
하지만 제가 가장 좋아하는 부분은 인터넷이 dots.com이 2014년에 망한 어떤 여성 의류 브랜드의 소유였고, dot.com은 xAI가 소유하며 grokbots 랜딩 페이지로 리디렉션된다는 사실을 깨달았을 때입니다. 이는 몇 년 전 nextjs.dev와 remix.dev를 손에 넣었던 사람 이후 제가 본 최고의 도메인 장난이었습니다. 하지만 만약 dot이 당신의 슬롭 캐논(slop cannon) 선택지처럼 들린다면, OpenAI가 새로운 가격 정책을 공개한 프로 구독이 필요할 것입니다. 새로운 프로 500 플랜은 월 $500이며, 일반 ChatGPT Plus 사용량의 25배와 Astra를 초당 300 토큰으로 실행하는 새로운 속도 계층인 ultrafast에 대한 접근 권한을 제공합니다.
API에서 ultrafast는 입력 1백만 토큰당 $60, 출력 300 토큰당 비용이 발생합니다. 그리고 Sam이 그 단어들을 입으로 말했을 때, 성인 남성 청중들이 신음했습니다. >> 알고 있잖아? 가치가 있어. << 이는 그가 이런 반응을 일으킨 것이 처음은 아니었던 것 같습니다. 한편, $200 플랜은 재판매되었지만 사용량이 절반으로 줄었습니다. 다행히도 돈이 부족하다면, OpenAI는 가격의 5분의 1로 Astra 지능에 근접한 GPT 6.1 soul을 발표했습니다. 입력 1백만 토큰당 $2, 출력 토큰당 $10를 받을 수 있는데, 이는 일주일 전에 출시된 GPT 6 soul과 정확히 같은 가격입니다.
샘은 새로운 decisions API를 발표했는데, 이 아이디어는 큰 모델에게 단락을 작성하도록 요청한 다음 재시도 루프(retry loop)로 그 안에서 JSON을 파싱하는 대신, 작은 Luna 모델에 고정된 답변 목록을 전달하면 그것이 순식간에 하나를 선택한다는 것입니다. 예를 들어, 게이 당나귀들을 위한 데이팅 앱을 구축한다고 상상해 보세요. 이 벤처를 자금 조달하기 위해 모든 메시지는 협박에 얼마나 유용할지 기준으로 분류되어야 합니다. 역사적으로는 각 메시지를 전체 언어 모델(full language model)에 보내고, 그것이 윤리적인 척하는 동안 몇 초 동안 기다린 다음, JSON이 올바른 형태로 돌아오기를 기대해야 했습니다.
하지만 decision model을 사용하면 미리 유한한 답변 세트를 제공합니다. 그리고 그것은 수백 밀리초 만에 그중 하나를 반환하며, 물리적으로 목록 외의 어떤 것도 대답할 수 없기 때문에 파싱하거나 재시도할 것이 없습니다. 그리고 이 모든 것이 익숙하게 들린다면 당연한 일일 것입니다. 왜냐하면 불과 2주 전, 우리는 Type-Safe AI라는 회사에 대한 비디오를 공개했기 때문입니다. 그들은 OpenAI 연구원이 설립했으며, 방금 같은 일을 하는 Jev를 출시했습니다. 하지만 거기서 멈추지 않았습니다. 나중에 행사에서 Pages라는 Google Docs 클론, Space라는 Notion 클론, 그리고 Claude Tag와 매우 유사하게 작동하는 Slack 봇을 발표하며 무한 토큰(infinite tokens)일 때 어떤 모습인지 보여주었습니다.
하지만 기조연설에서 실제로 돈을 벌게 해줄 수 있는 한 가지는 ChatGPT로 로그인하기 기능입니다. 이 기능을 사용하면 사용자가 자신의 ChatGPT 계정으로 앱에 로그인하여 당신의 토큰 대신 자신의 토큰을 소모하게 합니다. 이는 Devin, Notion, Vercel, OpenClaw를 포함한 16개 파트너와 함께 출시되었으며, 너무 인기를 얻으면 그들 역시 당신의 앱을 복제할 것이라는 암묵적인 이해가 수반됩니다. 이것이 바로 만약 자신의 앱에 decision model을 구축해야 한다면, 가중치(weights) 자체를 소유하는 것을 고려해 볼 수도 있는 이유입니다. 그리고 오늘 비디오의 스폰서인 Fastly Labs와 함께 그렇게 할 수 있습니다.
Jev는 개발자들에게 빠른 유형 결정(type decisions)을 제공하며 입소문을 탔지만, 이는 폐쇄형 가중치(closed weight) 모델이며 회사 클라우드에서만 실행됩니다. 하지만 Fastly의 Gliner 2.5 Decide는 동일한 호출을 로컬에서 수행하는 오픈 가중치(open weight) 모델이며 속도는 최대 8배 빠릅니다. 이를 통해 사용자는 자신만의 Jev와 유사한 모델을 학습시키고 가중치를 소유할 수 있습니다. 이 모델은 2024년부터 5천만 회 이상의 다운로드와 함께 오픈 소스였던 Gliner 제품군에서 나왔습니다. 저는 약 5분 만에 OpenCode에 이 기능을 추가하여 제 에이전트가 각 개발자 요청을 코딩 모델이나 내부 도구로 라우팅하고, 레포지토리 파일 경로 및 함수 이름을 추출할 수 있도록 했습니다.
다른 개발자들은 이를 사용하여 Jev보다 36배 저렴하게 브라우저 에이전트를 실행했습니다. 그리고 Fastly는 방금 의도 라우팅(intent routing), 사실 확인(fact checking), 환각 검사(hallucination checks) 전반에 걸쳐 Jev를 크게 능가하는 새로운 모델인 Glide를 출시했습니다. 사용자는 이 모델들을 어디서든 호스팅할 수 있지만, Fastly의 추론 API(inference API)는 기존 프론티어 모델을 대체하는 가장 빠른 방법입니다. 아래 링크에서 무료로 사용해 보세요. 이것은 Code Report였습니다. 시청해 주셔서 감사합니다. 다음 영상에서 뵙겠습니다.
