요약
- Microsoft-Decision-1은 사용자가 제공한 목록의 각 옵션에 대해 확률 점수를 반환하는 소규모 언어 모델(small language model)입니다. 따라서 프로그램이 요청을 라우팅하거나, 응답을 채점하거나, 에이전트가 다음에 무엇을 할지 결정할 수 있습니다.
- Microsoft는 2026년 10월 9일에 Microsoft Foundry에 이 모델을 게시했으며, OpenRouter를 통해 접근할 계획입니다.
- 이 모델은 단일 패스(single-pass) 의사결정 점수화를 위해 Qwen3.5-9B를 포스트 트레이닝(post-training)하여 구축되었으며, Microsoft는 이 모델을 Microsoft AI 및 OpenAI 모델을 포함한 다른 시스템에 기반을 재설계할 것이라고 밝히고 있습니다.
- Microsoft는 거의 150,000개의 질문을 다루는 36개 벤치마크 비교에서 최고 정확도를 보고했으며, P50 지연 시간(latency)은 GPT-6 Sol보다 약 35배 빠하다고 보고했습니다.
- Microsoft는 해결해야 했던 다섯 가지 엔지니어링 문제로 속도, 일반화되는 품질, 패러프레이즈된 입력에 대한 견고성(robustness), 확률 보정(probability calibration), 그리고 안전성을 언급했습니다.
- Microsoft의 내부 테스트에는 Xbox Research가 10,000개 이상의 피드백을 분류하는 것, Copilot 팀이 응답 품질을 측정하는 것, Microsoft Discovery가 실험을 채점하기 위해 이 모델을 사용하는 것이 포함됩니다.
- 가격은 입력 토큰당 백만 개에 $0.042부터 시작하며 출력 토큰은 무료입니다. 이는 높은 볼륨의 라우팅 및 채점이 경제적으로 가능한지 결정하는 수치입니다.
- 이 모델을 도입하려는 팀은 자체 레이블링된 티켓 세트, 비교할 기준선(baseline), 그리고 어떤 오류가 비용을 발생시키는지에 대한 검토가 필요합니다. 왜냐하면 잘못된 '진행(proceed)'과 잘못된 '에스컬레이션(escalate)'이 서로 다른 가격을 지니기 때문입니다.
Foundry에서 Microsoft가 공개한 내용
Microsoft의 Command Line 출판 게시물은 좁은 작업(narrow job)을 위해 구축된 모델을 설명합니다. Achint Srivastava는 Microsoft CTO 사무실의 부사장으로서,
Microsoft's official hero card from the Command Line launch post introducing Microsoft-Decision-1.
Microsoft가 commandline.microsoft.com에 게시한 벤더 자체 출시 포스트(Command Line, 2026년 10월 9일 발행, 2026년 10월 9일 검색)를 기반으로 한 Microsoft-Decision-1 공식 히어로 카드입니다. 이 카드는 모델을 위해 Microsoft가 발표한 브랜드 제품 카드입니다.
이것의 형태 자체가 사용 사례를 설명해 줍니다. 고정된 답변 옵션 세트가 주어지면, Microsoft-Decision-1은 각 옵션에 대해 보정된 확률 점수(calibrated probability score)를 제공합니다. 이는 애플리케이션이 임계값(threshold)을 소유하고 모델이 점수를 소유한다는 것을 의미합니다. 지원 티켓 라우팅, 루브릭과 비교하는 제안된 도구 호출 검사, AI 응답 채점 등 모든 것이 동일한 호출로 축소됩니다: 상황(a situation), 닫힌 목록(a closed list), 그리고 그 옵션 각각에 대해 반환되는 숫자입니다.
이 작업은 채팅 모델이 수행하는 작업보다 작으며, Microsoft는 가격도 그렇게 책정했습니다. Windows Report에는 입력 토큰당 $0.042의 비율로 기록되어 있으며 출력 토큰은 무료이고, 같은 보고서에서는 이 가격 및 속도 수치가 Microsoft 자체 벤치마킹에서 나온 것임을 언급합니다. 이렇게 낮은 요금률은 일반적인 계산 방식을 바꿉니다. 한 달에 20만 건의 인바운드 메시지를 채점하는 지원 데스크는 그 요율로 입력 토큰에 대해 9달러 미만을 지출하며, 이는 비용 문제로 팀들이 생략하던 검사 카테고리를 모든 메시지에 실행할 수 있는 것으로 바꿉니다.
점수 매기기 모델이 생성형 모델 옆에 배치되는 방법
아키텍처적 관점이 유용한 부분이며, 이는 Microsoft의 것이라기보다는 제 의견입니다. 프로덕션 에이전트에서 이미 흔한 패턴은 저렴한 심사위원(judge)을 비싼 작가(writer) 옆에 두는 것입니다: 대규모 모델(large model)이 초안을 작성하고, 소규모 모델(small model)이 다음에 무슨 일이 일어날지에 대한 하나의 제한된 질문에 답합니다.
Microsoft는 자체 게시물에서 두 번째 좌석에 대한 논거를 제시하며, 벤치마크가 필요 없는 지연 시간(latency) 예시를 들었습니다. 해당 게시물에는 “예를 들어, 20개의 순차적 결정 각각에 단지 100밀리초만 추가해도 전체 워크플로우에 2초가 더해집니다”라고 명시되어 있습니다. 에이전트는 지원 또는 재무 워크플로우에서 정확히 그만큼의 종속적인 결정을 내리며, 각 결정은 그 앞에 있는 모델의 지연 시간을 상속받습니다.
그 산술 계산에는 게시물이 독자에게 남겨둔 두 번째 이점이 있습니다. 고정된 목록에 점수를 매기도록 요청받은 범용 모델(general-purpose model)은 여전히 과정에서 생성되는 추론(reasoning)에 대한 비용을 지불하는데, 이는 전용 스코어링 모델(scoring model)이 제거하는 비용입니다. 결정 모델의 엔지니어링 가치는 아무도 출력을 읽지 않는 단계에서 생성된 텍스트를 제거하는 것입니다.
Microsoft가 그 단계를 둘러싼 하니스(harness)에 접근하는 방식은 저희 작업이 위치한 곳입니다. 저희는 스왑 준비가 가능한 모델 레이어의 AI 에이전트 하니스와 구조화된 API를 사용하는 스코어링 모델을 구축했으며, 이는 도구(tools), 검색(retrieval), 또는 주변 승인 규칙을 건드리지 않고도 해당 레이어에 적합하게 들어맞습니다.
Netics editorial four-step card listing the constraints Microsoft names for a decision model: speed, quality that generalises, robustness under paraphrasing and calibrated probabilities.
Microsoft의 Command Line 출시 게시물에서 만든 Netics 편집 카드: 지연 시간 주장 옆에 언급된 네 가지 엔지니어링 제약 조건으로, 100밀리초 지연 시간 예시부터 1.3% 변화량 결과, 그리고 보정 목표(calibration target)까지 포함합니다.
Microsoft가 명명한 다섯 가지 엔지니어링 문제
해당 게시물은 팀이 직면할 순서대로 어려움을 나열하며, 이 목록은 동일한 것을 구축하는 누구에게나 사양서처럼 읽힙니다. 속도가 가장 먼저 오고, 그다음 일반화되는 품질(quality that generalises), 그 다음 견고성(robustness), 그리고 보정(calibration)이 오며, 마지막으로 안전성(safety)입니다.
보지 못한 작업 전반의 품질을 확보하는 것이 다섯 가지 중 가장 어렵다고 하며, Microsoft는 이 주장을 뒷받침하기 위해 사용한 방법을 설명합니다: 라우팅(routing), 랭킹(ranking), 긴 컨텍스트(long context), 다국어(multilingual), 그리고 분포 외(out-of-distribution) 작업에 걸친 수십 개의 벤치마크가 학습 과정에서 제외되었으며, 여기에 JevBench 리더보드의 상위 공개 모델들을 36개의 추가 벤치마크에 걸쳐 테스트했습니다. 이어지는 주장은 일반화 주장(generalisation claim)이며, 이는 작은 모델이 얻어야 하는 주장입니다.
강건성(Robustness)은 팀이 재현할 수 있는 수치로 나타납니다. 게시물에는 "Microsoft-Decision-1은 옵션 설명이 의역되거나(paraphrased), 옵션 순서가 역전되거나(reversed) 섞일 때(shuffled) 평균적으로 1.3%의 교란에서 결정을 변경하며, 플립(flips)은 없습니다"라고 명시되어 있으며, 동일한 요청을 재작성하는 여덟 가지 방법을 설명합니다. 에스컬레이션 임계값(escalation threshold)을 설정하려는 누구에게나 이 비율이 흥미로운 부분이며, 게시물은 보정 목표를 운영적 용어(operational terms)로 제시합니다: "애플리케이션은 행동할지(act), 연기할지(defer), 또는 검토를 요청할지를 결정하기 위해 신뢰도(confidence)를 사용하므로, 90%의 예측은 대표적인 사례 중 10번 중 약 9번 정도 맞아야 합니다."
Microsoft가 공개한 내부 테스트
벤더 벤치마크는 리더보드 상에서 모델을 설명합니다. 내부 배포(Internal deployment)는 워크플로우 내부에 있는 모델을 설명하며, 이는 다른 종류의 증거입니다. 그리고 Microsoft는 두 번째 종류에 대한 네 가지 예시를 공개했습니다.
"XBOX Research는 Microsoft-Decision-1을 사용하여 설문조사, STEAM, Twitter/X에서 얻은 10,000개 이상의 개방형 피드백 및 리뷰를 처리하고 연구원들이 설정한 고정된 주제 세트로 분류했습니다." 이 게시물에 따르면, 해당 팀은 이 모델이 "GPT-6 Sol과 품질 면에서 경쟁력이 있으면서도 실행 속도는 14배 이상 빠르고 비용은 200배 적게 든다"는 것을 발견했다고 전합니다. Copilot 팀은 채팅 및 에이전트 응답 품질을 측정하며, 이 모델이 "GPT5.6 Luna와 경쟁적이며 속도는 100배 빠르다"고 밝혔습니다. 또한, 온콜 엔지니어들은 이를 라이브 인시던트 중 지식 검색에 사용합니다. Microsoft Discovery는 적응형 재계획 루프(adaptive replanning loop) 내에서 실험을 평가하는 데 이 모델을 사용하며, 게시물에 따르면 이 모델은 "LLM 기반 점수보다 46배 더 일관적이며 속도는 3배 빠르다"고 보고되었습니다."
Netics editorial statistic card showing the 35x P50 latency claim Microsoft published for Microsoft-Decision-1 against GPT-6 Sol.
Microsoft의 Command Line 출시 게시물에서 가져온 Netics 편집 카드: 구조화된 의사 결정 작업에 대한 공급업체 자체 P50 지연 시간 주장으로, 모델이 고정된 세트의 모든 옵션에 대해 점수를 반환합니다.
이 네 가지를 함께 읽어보면 복사할 가치가 있는 패턴이 나타납니다. 모든 내부 예시는 모델 이전에 존재하는 고정된 레이블 세트를 가지고 있습니다: 연구원들이 선택한 주제, 품질 평가 기준(quality rubric), 관련성 판단(relevance judgment) 등입니다. 그리고 모델이 분류 작업을 수행합니다. 누가 카테고리가 무엇을 의미하는지 결정했는지 말이죠.
자체 티켓에 대한 테스트 계획
Microsoft는 배포 절차를 공개하지 않았기 때문에, 평가 작업은 구매자에게 남아 있습니다. 이 계획은 일주일 안에 실행할 만큼 짧습니다.
실제 비용이 수반되는 좁은 과제를 하나 선택하세요. 지원 대기열의 분류(triage), 고객 피드백 카테고리화, 또는 루브릭에 따른 AI 초안의 합격/불합격 등입니다. 공급업체의 벤치마크는 그들의 엣지 케이스를 설명하지만, 여러분의 티켓은 고유한 사례들을 담고 있으므로, 직접 몇 백 개의 레이블링된 사례 세트를 구축해야 합니다. 새로운 모델을 오늘 이 사례들에 돌려보고, 동일한 세트에서 정확도(accuracy), 지연 시간(latency), 비용을 비교하세요.
그런 다음 평균값으로 오류를 읽기보다는 방향별로 읽으세요. 잘못된 '진행(proceed)'과 잘못된 '에스컬레이션(escalate)'은 서로 다른 이벤트이며 각기 다른 가격이 책정되어 있고, 헤드라인 정확도 수치에 설정된 임계값(threshold)은 이러한 비대칭성을 숨깁니다. 동일한 입력을 재구성하여 결정이 얼마나 자주 바뀌는지 지켜보세요. 왜냐하면 공급업체의 1.3%라는 수치는 가정할 사실이라기보다는 재현해야 할 목표이기 때문입니다. 자체적인 수치가 나올 때까지는 중요한 행동에 사람이 개입하도록 하고, 예측된 결과 옆에 모든 점수를 기록하세요. 왜냐하면 그 로그가 다음 결정이 의존하는 보정 데이터(calibration data)가 되기 때문입니다.
가격 책정 및 리베이스 경로
출시에는 계획을 세우는 데 영향을 미치는 두 가지 세부 사항이 있습니다. 첫 번째는 $0.042/백만 입력 토큰이며 출력 토큰은 무료라는 가격으로, 모든 메시지 또는 모든 도구 호출에서 실행되는 검사에 제한된 비용을 부과합니다. 두 번째는 기본 모델입니다. Microsoft는 이 작업을 위해 Qwen3.5-9B를 사후 훈련(post-trained)했으며 곧 Microsoft AI 및 OpenAI 모델을 포함한 다른 시스템으로 모델을 리베이스할 것이라고 밝히고 있습니다.
리베이스란 버전 번호를 입은 행동 변화입니다. 임계값이 조정된 점수는 기본 모델이 변경되면 움직일 수 있으므로, 임계값을 기록하는 팀은 해당 임계값이 속하는 모델 버전도 함께 기록해야 합니다. 이 습관은 비용이 들지 않으며 결정 모델이 유지해야 하는 유일한 것, 즉 릴리스 전반에 걸친 점수의 의미를 보호합니다.
Capture of Microsoft's Command Line post introducing Microsoft-Decision-1, showing the headline and the opening paragraphs on commandline.microsoft.com.
Microsoft가 직접 발표한 게시물인 'Introducing Microsoft-Decision-1, our model for fast decision-making' (Microsoft Command Line, 2026년 10월 9일 게재, 2026년 10월 9일 검색): 여기서 인용된 벤치마크, 가격 책정 및 내부 테스트 주장은 해당 공급업체의 발표 자료입니다.
