Hugging Face와 OpenRouter가 협력하여 오픈 웨이트(open-weight) 모델 사용을 간편하게 만듭니다. 모든 주요 오픈 웨이트 릴리스는 이미 Hugging Face Hub에 게시되고 있으며, OpenRouter는 이러한 모델들을 대규모로 제공하며, 각 요청을 개별적인 라이브 측정값을 기반으로 80개 이상의 프로바이더(provider)를 거쳐 라우팅합니다. 함께, 프로바이더가 서비스를 제공하는 Hub의 모든 오픈 웨이트 모델은 사용자의 Hugging Face 토큰과 동일한 API를 통해 호출될 수 있으며, 각 요청에 가장 적합한 프로바이더가 선택됩니다.
오늘부로 저희는 추론(Inference) 프로바이더를 자체 커스텀 라우터에서 OpenRouter로 전환합니다. 이제 언어 모델로 보내는 요청은 OpenRouter를 거치게 되며, OpenRouter는 라이브 가격, 속도 및 신뢰도를 기반으로 각 호출에 가장 적합한 프로바이더를 선택하고, 첫 번째 프로바이더가 실패할 경우 다른 프로바이더에서 재시도합니다. 사용자의 코드는 변경되지 않습니다.
이 라우터는 어떤 프로바이더의 백엔드에 있든 상관없이 OpenAI의 Chat Completions 및 Responses API와 Anthropic의 Messages API를 지원합니다. 원하는 코딩 에이전트 또는 SDK와 모델을 선택한 다음, 단계를 복사하거나 전체 설정을 프롬프트로 에이전트에 붙여넣으세요:
Claude Code, Codex, OpenCode, Pi 및 Hermes Agent에 대한 설정 가이드
동일한 Hugging Face 토큰은 Storage Buckets를 통한 스토리지, Jobs를 통한 컴퓨팅, 그리고 Inference Endpoints를 통한 전용 추론 기능을 제공합니다. PRO, Team 및 Enterprise 플랜에는 컴퓨팅 및 추론을 위한 월간 크레딧이 포함됩니다.
OpenRouter에서 오픈 웨이트 모델의 비중은 2025년 10월에 서비스된 토큰 중 26.8%에서 2026년 9월 말에는 71.7%로 증가했으며, 7월에 77.5%로 정점을 찍었습니다 (OpenRouter, 2026년 10월). 같은 기간 동안 주간 오픈 웨이트 볼륨은 폐쇄형 모델(closed models)의 거의 10배 성장에 비해 60배 이상 성장했습니다. 이번 주 가장 많이 사용된 OpenRouter 모델은 오픈 웨이트 모델인 DeepSeek V4.1 Flash 1017로, 59.2조 개의 토큰을 기록했습니다 (순위).
Open-weight models' share of tokens on OpenRouter, from 26.8% in October 2025 to 71.7% in September 2026
Open-weight models' share of tokens on OpenRouter, from 26.8% in October 2025 to 71.7% in September 2026
오픈 웨이트 모델의 평균 비용은 약 4배 저렴합니다. 입력 토큰당 백만 개에 $0.28, 출력 토큰당 백만 개에 $1.62인 반면, 폐쇄형 모델은 각각 $1.27과 $6.36입니다.
가장 우수한 오픈 웨이트 모델조차도 여전히 가장 어려운 벤치마크에서는 최고의 독점(proprietary) 모델에 미치지 못합니다. Artificial Analysis Intelligence Index에서 최고의 오픈 웨이트 모델인 Kimi K3.1 Pro는 Claude Fable 5.2 대비 46점을 기록하며, 작업당 비용은 약 7분의 1($3.68 대 $26.54) 수준입니다. 많은 워크로드의 경우, 이러한 트레이드오프는 가치가 있습니다.
Artificial Analysis Intelligence Index against cost per task, for the top proprietary and open-weight models
Artificial Analysis Intelligence Index against cost per task, for the top proprietary and open-weight models
OpenRouter는 80개 이상의 제공업체(provider)로부터 600개 이상의 모델을 통해 1천만 명 이상의 사용자에게 매월 800조 토큰 이상을 서비스합니다. 이 라우팅은 해당 트래픽 전반에 걸친 모든 제공업체의 실시간 측정값을 기반으로 합니다.
OpenRouter는 최근 제공업체 라우팅을 재구축했습니다. 단순히 가장 낮은 목록 가격만 보는 것이 아니라, 요청마다 가격, 속도, 신뢰성의 최적 조합을 가진 제공업체로 전송합니다.
제공업체가 느려지거나 작동 오류가 발생하면, 트래픽은 해당 제공업체를 피해 회복될 때까지 이동하며, 실패한 시도는 동일 호출 내에서 다음으로 좋은 제공업체에서 재시도됩니다. OpenRouter의 측정에 따르면, 새로운 라우팅은 용량 오류(capacity errors)를 46% 감소시키고, 첫 토큰 시간(time to first token)을 16.9% 개선했으며, 처리량(throughput)을 16.3% 향상시켰습니다.
Default routing retries on another provider when the first one is rate limited, :cheapest picks the lowest price and :fastest the highest throughput
Default routing retries on another provider when the first one is rate limited, :cheapest picks the lowest price and :fastest the highest throughput
이전에는 추론 제공업체(Inference Providers)가 요청에 대해 단일 제공업체를 선택하고 실패 시 해당 오류를 반환했습니다. 이제는 요청이 다른 제공업체에서 재시도됩니다. 여전히 모델 ID에 접미사(suffix)를 사용하여 정책이나 제공업체를 선택할 수 있습니다:
zai-org/GLM-5.3 # default: best mix of price, speed and reliability
zai-org/GLM-5.3:fastest # highest throughput
zai-org/GLM-5.3:cheapest # lowest price
...
라우팅은 캐시 인식적(cache-aware)입니다. 대화는 프롬프트 캐시를 보유한 제공업체에 유지됩니다. 명시적으로 하려면, X-HF-Session-Id 헤더에 대화별 안정적인 UUID를 전송하십시오 (프롬프트 캐싱 가이드 참조).
가격 책정은 변경되지 않습니다: 사용자는 Hugging Face 청구서에서 제공업체의 가격을 지불하며, Hugging Face는 추가 마크업을 붙이지 않습니다. PRO 사용자에게는 매월 $2 크레딧이 지급되며, 팀(Team) 및 엔터프라이즈(Enterprise) 조직에는 좌석당 $2가 지급됩니다. 자세한 내용은 가격 책정 및 청구(Pricing and Billing)를 참조하십시오.
이미지, 비디오 및 오디오 생성은 OpenRouter를 거치지 않고 Hugging Face Inference Providers를 통해 이전과 완전히 동일하게 작동합니다. 기존 토큰과 API를 계속 사용할 수 있으며, 수만 개의 LoRA에 접근할 수 있습니다.
모델 페이지에서는 위젯에서 바로 모델과의 대화를 시작할 수 있습니다. 이 기능을 뒷받침하는 두 가지 새로운 탭이 추가되었습니다: 'Providers'는 OpenRouter가 해당 모델을 라우팅할 수 있는 모든 제공업체를 나열하며, 각 제공업체의 지난 24시간 동안의 입력 및 출력 가격, 속도, 가동 시간을 보여주고, 'Metrics'는 이들 중 최고의 가격, 처리량(throughput), 첫 토큰까지 걸리는 시간(time to first token), 컨텍스트 길이(context length) 및 가동 시간을 보여줍니다:
Chatting with Inkling-2-Small in the model page widget, opening its code snippets, then its Metrics tab
Chatting with Inkling-2-Small in the model page widget, opening its code snippets, then its Metrics tab
사용량 개요에서는 요청이 전송된 제공업체별로 지출 내역을 세분화하여 보여줍니다:
Daily Inference Providers spend, broken down by provider
Daily Inference Providers spend, broken down by provider
설정에서 원하지 않는 제공업체를 비활성화할 수 있습니다. 그러면 라우터가 해당 제공업체로는 요청을 보내지 않습니다. 조직(Organizations)도 동일한 설정을 가지며, 이는 조직에 청구되는 모든 요청에 적용됩니다.
Inference Providers settings, with a toggle for each provider
Inference Providers settings, with a toggle for each provider
이제 언어 모델로의 요청은 OpenRouter를 통해 전송되며 Hugging Face 계정 또는 조직에 비용이 청구되므로, 이러한 모델을 사용하는 제공업체에 대해 자체 API 키를 더 이상 사용할 수 없습니다. 여전히 모델 ID에 접미사(model:provider)가 붙은 제공업체를 선택하거나 설정에서 제공업체를 비활성화할 수 있으며, 코드는 변경되지 않습니다. 이미지 및 비디오 제공업체의 사용자 지정 키는 계속 작동합니다.
이것이 OpenRouter와의 파트너십의 첫 단계입니다. 다음으로는:
- OpenRouter 계정을 Hugging Face에 연결하기.
- 더 많은 작업들을 OpenRouter를 통해 라우팅하기.
모델을 사용해 보거나 Inference Providers 문서를 읽어 시작하세요.