
975B임에도 '최강은 지향하지 않는다' 선언, Mira Murati의 Inkling이 프론티어 경쟁을 내려놓은 이유
요약
Mira Murati가 설립한 Thinking Machines Lab이 975B 규모의 MoE 모델 'Inkling'을 Apache 2.0 라이선스로 공개했습니다. 최강의 성능보다는 효율성과 커스터마이징에 집중한 이 모델은 멀티모달 학습과 비동기 RL을 특징으로 합니다.
핵심 포인트
- 975B 파라미터 및 45조 토큰 학습된 네이티브 멀티모달 MoE 모델
- Apache 2.0 라이선스로 가중치 및 상업적 이용 자유 제공
- 효율적 추론을 위해 NVIDIA Nemotron 3 Ultra 대비 토큰 사용량 대폭 절감
- 인코더 프리(Encoder-free) 구성 및 상대적 위치 임베딩 채택
- 단일 범용 모델보다 조직 맞춤형 파인튜닝 전략 지향
2026년 7월 15일, 전 OpenAI CTO인 Mira Murati가 이끄는 Thinking Machines Lab이 창립 이래 첫 자체 개발 모델인 「Inkling」을 Apache 2.0 라이선스로 공개했다. 총 파라미터(Parameter) 975B, 학습 토큰(Token) 45조 개, 컨텍스트(Context) 최대 1M라는 당당한 스펙을 갖추었음에도 불구하고, 공식 블로그는 스스로 「Inkling은 오늘 이용 가능한 최강의 모델이 아니다」라고 명시하고 있다.
거액을 조달한 프론티어 랩(Frontier Lab)이 리더보드(Leaderboard)의 정점을 처음부터 포기한다. GPT-5.6이나 Claude Fable 5가 「최강」을 다투던 같은 달에, 정반대의 메시지를 내건 이 출시는 모델 개발의 승리 공식이 하나가 아님을 보여주는 시험대가 될 것이다.
이 기사에서는 공식 발표와 각사의 보도를 바탕으로, Inkling의 아키텍처(Architecture)와 포스트 트레이닝(Post-training)의 내용, 벤치마크(Benchmark)의 실측치, 그리고 「커스터마이징이 프론티어에 승리한다」는 동사의 도박을 정리한다.
- Inkling은 **975B 총 파라미터, 액티브(Active) 41B의 MoE(Mixture of Experts)**로, 텍스트·이미지·음성·동영상의 45조 토큰으로 사전 학습된 네이티브 멀티모달(Native Multimodal) 모델이다. 소형 버전인 Inkling-Small(총 276B, 액티브 12B)도 동시에 공개되었다. - 라이선스는 Apache 2.0으로 상업적 이용 및 개정도 자유롭다. Hugging Face에서 가중치(Weights)가 공개되었으며, Together AI, Fireworks, Modal, Databricks, Baseten이 당일 즉시 API를 제공한다. - 공식 측이 「최강이 아니다」라고 인정하는 대신 내세우는 것은 효율성으로, 사고 노력(Thinking effort)을 연속적으로 제어할 수 있으며, Terminal Bench 2.1에서는 NVIDIA의 Nemotron 3 Ultra의 약 3분의 1 토큰 수로 동등한 성능에 도달한다고 주장한다. - 포스트 트레이닝은 이색적인데, Kimi K2.5 등의 오픈 모델(Open model)의 합성 데이터(Synthetic data)로 부트스트랩(Bootstrap)한 후, **3,000만 롤아웃(Rollout) 초과의 비동기 RL(Reinforcement Learning)**에 계산 자원의 대부분을 투입했다. 보상 설계에는 「모른다」라고 답하는 것을 권장하는 기권 허용형 보상까지 포함된다. - 수익은 모델이 아닌 파인튜닝(Fine-tuning) 기반인 Tinker에서 얻는 설계로, 「만능인 단일 모델보다 조직이 스스로 적응시킨 모델이 승리한다」는 안티 원 사이즈(Anti-one-size) 전략의 실증 실험이기도 하다.
| 항목 | Inkling | Inkling-Small |
|---|---|---|
| 총 파라미터 | 975B | 276B |
| ... |
입력은 4가지 모달리티(Modality)를 다루지만, 출력은 현재 시점에서 텍스트뿐이다. 음성은 dMel 스펙트로그램(Spectrogram), 이미지는 40×40 픽셀 패치(Patch)를 4층 hMLP로 인코딩(Encoding)한다. CLIP과 같은 외장 인코더를 갖지 않는 인코더 프리(Encoder-free) 구성을 채택하여, 모달리티 간의 추론을 단일 Transformer로 완결시킨 것이 설계상의 특징이다.
어텐션(Attention)은 슬라이딩 윈도우(Sliding window) 층과 글로벌(Global) 층을 5:1 비율로 교차 배치하며, KV 헤드(Head)는 8이다. 위치 표현에는 RoPE가 아닌 상대적 위치 임베딩(Relative position embedding)을 채택하고 있으며, 공식 측은 장문 외삽(Extrapolation)의 안정성을 이유로 든다. 옵티마이저(Optimizer)는 대행렬에는 Muon을, 그 외에는 Adam을 사용하는 하이브리드 방식이며, 가중치 감쇠(Weight decay)를 학습률(Learning rate)의 제곱에 연동시키는 세부 사항까지 공개되었다.
Inkling의 학습 파이프라인에서 가장 눈에 띄는 것은 포스트 트레이닝의 시작 방식이다. 공식 블로그에 따르면, SFT(Supervised Fine-tuning)의 초기 데이터는 Moonshot AI의 Kimi K2.5를 포함한 오픈 웨이트 모델(Open-weight model)로부터의 합성 데이터로 구축되었다. 사전 학습은 스크래치(Scratch)부터 시작하지만, 지시 추종(Instruction following)의 기동에는 경쟁 관계인 오픈 모델을 당당하게 사용한다. 오픈 웨이트 경제권의 순환을 이토록 솔직하게 인정한 프론티어 랩은 드물다.
그 후의 계산 자원 대부분은 대규모 RL에 할애되었다. 합성 환경과 수작업 구축 환경을 혼합한 비동기 RL은 3,000만 롤아웃 초과까지 스케일(Scale)되었으며, 추론 성능은 롤아웃 수에 대해 로그 선형(Log-linear)으로 계속 개선되었다고 한다.
보상 설계는 3층 구조로 되어 있다.
- 루브릭 채점기(Rubric scorer): 체크리스트 기반으로 지시 추종을 채점
- 클레임 채점기(Claim scorer): 에이전트적 웹 검색으로 출력 중인 사실 주장을 검증
- 기권 허용형 보상(Abstention-allowed reward): 사실 관계 질의응답(QA)에서 불확실할 때 「모른다」라고 답하는 선택에 보상을 주어, 환각(Hallucination)보다 기권을 선택하게 함
이 결과로 관측된 창발적 행동(Emergent behavior) 또한 흥미롭다. 강화학습 (RL)이 진행됨에 따라 사고의 사슬 (Chain-of-thought)이 점점 전보식으로 변하며, 관사나 접속사를 생략하면서도 가독성을 유지하는 방향으로 자연스럽게 압축되었다. 토큰 효율성을 명시적으로 목표로 한 것이 아니라, 비용 조정된 보상의 부산물이었다고 공식 측은 설명한다.
Inkling에는 OpenAI의 reasoning effort와 유사한 「thinking effort」가 있지만, 이산적인 단계가 아닌 0에서 1 사이의 연속값으로 제어한다. 메커니즘은 시스템 메시지의 변경과 토큰당 비용의 보상 측 조정이며, 이 설계를 통해 Terminal Bench 2.1에서는 Nemotron 3 Ultra 대비 약 3분의 1의 토큰 수로 동등한 점수에 도달한다고 주장한다. 에이전트를 장시간 구동하는 용도에서는 정밀도 그 자체보다 「정밀도당 토큰 단가」가 중요하다는 실무자의 감각에 맞춘 설계다.
공식 공개값(effort=0.99, temperature=1.0)에서 주요 항목을 발췌한다.
| 카테고리 | 벤치마크 | Inkling | Inkling-Small |
|---|---|---|---|
| 수학 | AIME 2026 | 97.1% | 95.1% |
| ... |
숫자를 살펴보면 두 가지 사실을 알 수 있다.
첫째, Inkling-Small이 Inkling에 육박하고 있다. GPQA Diamond나 MCP Atlas에서는 소형 버전이 본체를 앞지르기도 한다. 액티브 12B에서 이 정도 수준이 나온다면, 많은 유스케이스에서 975B 버전을 구동할 이유는 희박하다. 이는 동사의 「커스터마이징을 전제로 한 기반」이라는 포지셔닝과 일치하며, Small 버전을 Tinker로 미세 조정 (Fine-tuning)하여 사용하는 방식이 본래 목적일 것이다.
둘째, 장기 에이전트 태스크에는 명확한 약점이 있다. Tau 3 Banking의 23.7%는 여러 턴에 걸친 업무 흐름 수행이 아직 미숙함을 나타낸다. SWE-bench 77.6%라는 보기 좋은 숫자와 나란히 놓고 보면, 단발적인 코드 수정과 장기적인 업무 수행 사이에 존재하는 벽이 그대로 가시화되어 있다.
공식 블로그의 입장은 솔직하다.
Inkling is not the strongest overall model available today, open or closed. Instead, a combination of qualities makes it a good open-weights base for customization: multimodal capabilities, efficient thinking, and availability on Tinker for fine-tuning.
(Inkling은 오픈 소스든 폐쇄형이든 오늘 이용 가능한 가장 강력한 모델은 아니다. 대신 멀티모달 능력, 효율적인 사고, 그리고 Tinker에서의 미세 조정 가능성이라는 조합이 커스터마이징을 위한 훌륭한 오픈 웨이트 (Open-weights) 기반이 되게 한다.)
Thinking Machines의 수익원은 모델 그 자체가 아니라 미세 조정 플랫폼인 Tinker다. 가중치(Weights)를 Apache 2.0 라이선스로 배포하고, 적응 (Adaptation: 미세 조정, RL, 증류) 실행 기반을 통해 과금한다. 공개에 맞춰 Tinker는 Inkling을 네이티브로 지원하며, 64K와 256K의 컨텍스트 길이(Context length)로 학습할 수 있고, 기간 한정 50% 할인도 설정되었다.
이 구조는 동사 연구 블로그의 계보와 맞닿아 있다. 2025년의 「LoRA Without Regret」은 LoRA가 풀 미세 조정 (Full fine-tuning)에 뒤처지지 않는 조건을 제시했고, 「On-Policy Distillation」은 대형 모델의 능력을 소형 모델로 효율적으로 이전하는 방법을 제시했다. 즉, 적응(Adaptation)이야말로 주전장이라는 이론적 포석을 1년 가까이 깔아온 끝에 나온 첫 번째 자사 모델이 바로 Inkling인 셈이다.
TechCrunch는 이 전략을 「모두에게 맞는 단 하나의 AI (One-size-fits-all AI)에 대한 역발상」이라고 표현하며, 도메인 특화 전문 지식은 중앙 집중식 학습이 아니라 각 조직의 적응을 통해 포착하는 것이 최선이라는 동사의 주장을 전하고 있다.
Inkling의 체크포인트(Checkpoint)는 Hugging Face의 thinkingmachines/inkling에 공개되어 있으며, Blackwell용 NVFP4 양자화(Quantization) 버전도 동시에 제공된다. 추론(Inference)은 SGLang, vLLM, llama.cpp, Hugging Face transformers 등이 이미 대응 완료했으며, 무료 Inkling Playground를 통해 에이전트적 웹 검색 기능이 포함된 채팅도 시험해 볼 수 있다.
출시에 대한 반응이 모두 호의적인 것만은 아니다. 실제 제약 사항을 정리하면 다음과 같다.
하드웨어 요구 사양이 높음: BF16 체크포인트를 실행하려면 총 약 2TB의 VRAM(B300 8기 또는 H200 16기)이 필요하며, NVFP4 양자화 버전에서도 600GB 이상을 요구한다. '오픈' 모델이긴 하지만, 개인이나 소규모 팀이 셀프 호스팅(Self-hosting)할 수 있는 수준은 아니다 -
중국계 오픈 모델과의 비교: 여러 논평가는 성능 면에서 Kimi나 GLM 계열 등 중국에서 나온 탑 티어 오픈 웨이트(Open-weights) 모델에는 여전히 미치지 못한다고 지적한다. "미국산 Apache 2.0 모델로서는 최상"이라는 단서가 붙은 평가가 실상에 가깝다 -
증류(Distillation)를 둘러싼 순수성 논란: 포스트 트레이닝(Post-training)에 Kimi K2.5 유래의 합성 데이터(Synthetic data)를 사용한 점과, '스크래치 학습(Scratch learning)'이라는 홍보 문구 사이의 정합성에 대한 비판이 있다. 사전 학습(Pre-training)과 사후 학습(Post-training)을 구분한다면 허위는 아니지만, 비증류(Non-distilled)의 순수성을 강조하는 담론에는 과장이 있다는 지적이다 -
안전성에 대한 책임 전가: 커스텀(Customized)된 모델의 안전성은 이용 조직의 책임으로 간주된다. Apache 2.0 라이선스로 무제한 배포하면서 안전성에 대한 책임은 하류(Downstream)로 넘기는 구조는 규제 당국과의 마찰을 일으킬 수 있다 -
출력은 텍스트만 가능: 4개 모달리티(Modality) 입력을 표방하지만, 생성은 현시점에서 텍스트에 국한되어 이미지·음성 생성을 갖춘 경쟁 모델과는 경기장이 다르다 -
조직의 불안정성: TechCrunch에 따르면 해당 회사는 현재 약 200명 규모이며, 지난 1월에는 공동 창업자 2명이 OpenAI로 복귀했다. 기가와트급의 계산 계약을 안고 있으면서 Tinker 수익으로 운영되는 지속 가능성은 아직 증명되지 않았다.
Inkling이 제시하는 질문은 모델의 우열이 아니라 산업 구조의 분기점이다.
프론티어(Frontier) 노선은 최강의 단일 모델이 모든 태스크를 흡수하게 한다. Thinking Machines의 노선은 적당히 강력한 오픈 기반 위에, 각 조직의 사유 데이터와 환경에 적응시킨 무수한 파생 모델을 꽃피우는 것이다. 공식 블로그가 효율성과 적응 가능성만을 내세우는 이유는, 후자의 세계에서는 정확도 대비 비용과 학습 용이성이 모델 선정의 제1 기준이 될 것이라고 판단했기 때문이다.
이 도박이 성립할지는 두 가지 실증에 달려 있다. 하나는 파인튜닝(Fine-tuning)된 Inkling 파생 모델이 특정 도메인에서 프론티어 모델을 실제로 능가하는 사례가 쌓이는가이다. 다른 하나는 3,000만 롤아웃(Rollout)급의 RL 인프라나 기권 허용형 보상(Abstention-allowed reward) 같은 학습 기술이 Tinker를 통해 고객에게도 재현 가능한 형태로 제공되는가이다. 전자가 실현된다면 OS에서의 Android처럼 "가중치는 공유 재산이며, 가치는 적응에 깃든다"라는 레이어 구조가 정착될 것이다. 실현되지 않는다면, Inkling은 거액의 계산 자원으로 만들어진 잘 만들어진 교재로 끝날 것이다.
판단 재료는 향후 1년 내에 갖춰지기 시작할 것이다. 적어도 리더보드(Leaderboard) 1위 다툼과는 별개의 승부가 시작되었다는 점만은 확실하다.
- Thinking Machines의 첫 모델 Inkling은 975B/41B 액티브(Active) MoE 모델로, Apache 2.0 오픈 웨이트로서 2026년 7월 15일에 공개되었다.
- "최강은 아니다"라고 자인하며, 사고 노력의 연속 제어를 통한 토큰 효율성과 Tinker를 통한 적응 가능성을 강점으로 내세운다.
- 포스트 트레이닝은 Kimi K2.5 등의 합성 데이터를 통한 부트스트랩(Bootstrap)과 3,000만 롤아웃 이상의 비동기 RL로 구성되며, 기권 허용형 보상 등 사실성 중시 설계를 포함한다.
- 약점은 장기 에이전트 태스크(Tau 3 Banking 23.7%)와 2TB VRAM이라는 무거운 셀프 호스팅 요구 사양이다.
- 수익을 모델이 아닌 적응 기반인 Tinker에서 얻는 '반(反) 원 사이즈(One-size)' 전략으로, 적응 레이어가 독립적인 산업이 될 수 있을지에 대한 실증 실험이 시작되었다.
Inkling: Our open-weights model (Thinking Machines Lab 공식 발표)
Thinking Machines amps up its bet against one-size-fits-all AI with its first open model (TechCrunch)
Mira Murati의 Thinking Machines가 선보이는 첫 번째 AI 모델, Inkling이란 무엇인가 (Fortune)
AINews: Thinky의 Inkling: 975B-A41B 멀티모달 (multimodal), 새로운 최고의 미국산 Apache 2.0 오픈 모델 (Latent Space)
온-폴리시 증류 (On-Policy Distillation) (Thinking Machines Lab 연구 블로그)
후회 없는 LoRA (LoRA Without Regret) (Thinking Machines Lab 연구 블로그)
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기