우리는 Hugging Face Hub 에서 DeepInfra 가 이제 지원되는 Inference Provider 로 추가되었다는 사실을 기쁘게 공유합니다.
DeepInfra 는 Hub 의 모델 페이지에서 직접 서버리스 inference 를 확장하여 생태계의 폭과 기능을 향상시켰습니다. Inference Providers 는 또한 JS 와 Python 을 위한 클라이언트 SDK 에 원활하게 통합되어, 선호하는 제공업체와 다양한 모델을 사용하도록 매우 쉽게 만들었습니다.
DeepInfra 는 산업계에서 가장 비용 효율적인 토큰 단가 중 하나를 제공하는 서버리스 AI inference 플랫폼입니다. 100 개 이상의 모델 카탈로그를 통해 개발자가 최소한의 설정으로 다양한 AI 기능을 애플리케이션에 통합할 수 있습니다.
DeepInfra 는 LLM 에서 텍스트 생성, 텍스트-이미지, 텍스트-비디오, 임베딩 및 더 많은 광범위한 모델 유형을 지원합니다. 이 초기 통합의 일환으로 DeepInfra 는 Hugging Face 에서 대화형 및 텍스트 생성 작업 을 지원하여 DeepSeek V4, Kimi-K2.6, GLM-5.1 등 인기 있는 오픈 웨이트 LLM 에 대한 액세스를 가능하게 합니다. 추가 작업 지원(텍스트-이미지, 텍스트-비디오, 임베딩 및 더 많은)은 곧 출시될 예정입니다!
DeepInfra 를 Inference Provider 로 사용하는 방법을 자세히 읽으려면 전용 문서 페이지를 참조하세요.
DeepInfra 가 지원하는 모델의 전체 목록을 확인하세요.
Hugging Face 에서 DeepInfra 를 팔로우하세요: https://huggingface.co/DeepInfra.
-
사용자 계정 설정에서 다음을 할 수 있습니다:
-
등록한 제공업체에 대한 자체 API 키를 설정할 수 있습니다. 커스텀 키가 설정되지 않은 경우 요청은 HF 로 라우팅됩니다.
-
선호도에 따라 제공업체를 정렬합니다. 이는 모델 페이지의 위젯 및 코드 스니펫에도 적용됩니다.
-
Inference Provider 를 호출할 때 두 가지 모드가 있습니다:
-
커스텀 키 (요청이 해당 inference provider 의 자체 API 키를 사용하여 직접 인프라이션 제공업체로 이동합니다)
-
HF 로 라우팅 (이 경우 제공업체에서 토큰을 필요로 하지 않으며, 비용은 제공업체의 계정이 아닌 HF 계정에서 직접 적용됩니다)
-
모델 페이지는 세 번째-party inference provider 를 소개합니다 (현재 모델과 호환되는 것들, 사용자 선호도에 따라 정렬됨)
DeepInfra 는 Hugging Face SDK 를 통해 사용 가능합니다 - huggingface_hub (Python) 및 @huggingface/inference (JavaScript).
다음 예제는 DeepSeek V4 Pro 를 DeepInfra 를 통해 사용하는 방법을 보여줍니다. 인증을 위해 Hugging Face 토큰을 사용하며, 요청은 자동으로 DeepInfra 로 라우팅됩니다.
Hugging Face Inference Providers 는 대부분의 Agent Harness 에 통합되어 있습니다 - Pi, OpenCode, Hermes Agents, OpenClaw 등 포함. 이는 추가 글루 코드 없이 DeepInfra 호스팅 모델을 좋아하는 도구로 바로 플러그할 수 있음을 의미합니다. 전체 통합 목록을 확인하세요.
import os
from openai import OpenAI
client = OpenAI(
...
import { OpenAI } from "openai";
const client = new OpenAI({
baseURL: "https://router.huggingface.co/v1",
...
직접 요청의 경우, 즉 inference provider 의 키를 사용할 때, 해당 제공업체에 의해 청구됩니다. 예를 들어, DeepInfra API 키를 사용하면 DeepInfra 계정에 청구됩니다.
라우팅된 요청의 경우, 즉 Hugging Face Hub 를 통해 인증할 때, 표준 제공업체 API 요금만 지불합니다. 우리는 추가 마진을 부과하지 않습니다; 우리는 단순히 제공업체 비용을 직접 전달합니다. (미래에는 파트너 제공업체와 수익 공유 계약을 체결할 수 있습니다.)
중요한 참고사항 ‼️ PRO 사용자는 매월 $2 분량의 추론 크레딧을 제공합니다. 이를 다양한 제공자에서 사용할 수 있습니다. 🔥
우리는 로그인된 무료 사용자들에게 소량 할당량을 제공하여 무료로 추론 서비스를 제공하지만, 가능하다면 PRO로 업그레이드해 주세요!
귀하의 피드백을 듣고 싶습니다! 의견과/또는 댓글을 여기에서 공유해 주세요: https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49
