Featherless AI가 Hugging Face 인퍼런스 제공자로 추가됨

Featherless AI 는 이제 Hugging Face Hub 의 지원되는 인퍼런스 제공자로 등록되었습니다.

Featherless AI 는 Hub 의 모델 페이지에서 직접 서버리스 인퍼런스의 범위를 확대하고 기능을 강화하며, 우리의 생태계에 합류했습니다. 인퍼런스 제공자는 또한 JS 와 Python 양쪽 모두의 클라이언트 SDK 에 완벽하게 통합되어 있어, 선호하는 제공자와 다양한 모델을 사용하는 것이 매우 쉬워졌습니다.

Featherless AI 는 DeepSeek, Meta, Google, Qwen 의 최신 오픈소스 모델뿐만 아니라 다양한 텍스트 및 대화형 모델을 지원합니다.

Featherless AI 는 사용자들에게 exceptionally large(매우 큰) 모델 카탈로그를 제공하며, 서버리스 가격과 함께 무한대 모델 범위와 다양성을 제공하는 서버리스 AI 인퍼런스 제공자입니다. 제공자는 일반적으로 제한된 모델 집합에 대한 낮은 접근 비용 또는 사용자에게 서버 및 운영 비용을 관리하는 무제한 모델 범위를 제공합니다. Featherless 는 서버리스 가격으로 인해 unmatched(비교할 수 없는) 모델 범위와 다양성을 제공합니다. 지원되는 모델의 전체 목록은 models 페이지에서 확인하세요.

이 새로운 제공자를 사용하여 무엇을 구축해 보실지 매우 기대합니다!

Featherless 를 인퍼런스 제공자로 사용하는 방법에 대해 자세히 알아보기 위해 전용 문서 페이지를 참조하세요.

• 사용자 계정 설정에서는 다음을 할 수 있습니다:

• 등록한 제공자의 자체 API 키를 설정할 수 있습니다. 커스텀 키가 설정되지 않은 경우 요청은 HF 를 통해 라우팅됩니다. 요청 유형에 대해 자세히 알아보기 위해 docs 를 참조하세요.

• 선호도를 기준으로 제공자를 정렬할 수 있습니다. 이는 모델 페이지의 위젯 및 코드 스니펫에도 적용됩니다.

• 인퍼런스 제공자를 호출할 때 두 가지 모드가 있습니다:

• 커스텀 키 (인퍼런스 제공자의 자체 API 키를 사용하여 요청이 직접 해당 인퍼런스 제공자로 이동합니다)

• HF 로 라우팅 (이 경우 제공자에서 토큰을 필요로 하지 않으며, 비용은 제공자의 계정이 아닌 HF 계정에서 직접 적용됩니다)

• 모델 페이지는 세 번째_party(타사) 인퍼런스 제공자를 소개합니다 (현재 모델과 호환되는 제공자이며, 사용자 선호도를 기준으로 정렬됨)

다음 예제는 Featherless AI 를 인퍼런스 제공자로 사용하여 DeepSeek-R1 을 사용하는 방법을 보여줍니다. Hugging Face 토큰을 사용하여 Hugging Face 를 통한 자동 라우팅을 사용할 수 있거나, 자체 Featherless AI API 키를 사용할 수 있습니다.

huggingface_hub 를 설치하거나 업그레이드하세요:

버전 v0.33.0 또는 더 높은 버전이 있는지 확인: pip install --upgrade huggingface-hub

import os
from huggingface_hub import InferenceClient
client = InferenceClient(
...

import { InferenceClient } from "@huggingface/inference";
const client = new InferenceClient(process.env.HF_TOKEN);
const chatCompletion = await client.chatCompletion({
...

직접 요청의 경우 (즉, 인퍼런스 제공자의 키를 사용할 때), 해당 제공자에 의해 청구됩니다. 예를 들어, Featherless AI API 키를 사용하면 Featherless AI 계정에 청구됩니다.

라우팅된 요청의 경우 (즉, Hugging Face Hub 를 통해 인증할 때), 표준 제공자 API 요금만 지불합니다. 우리는 추가 마진을 부과하지 않으며, 제공자 비용을 직접 전달합니다. (미래에는 파트너 제공자와 수익 공유 계약을 체결할 수 있습니다.)

중요한 참고 사항 ‼️ PRO 사용자는 매월 $2 worth(가치 $2) 의 인퍼런스 크레딧을 받습니다. 모든 제공자에 걸쳐 사용할 수 있습니다. 🔥

우리는 로그인한 무료 사용자에게 소량 할당량을 제공하여 무료로 추론 (inference) 을 지원하지만, 가능하시면 PRO 로 업그레이드 해주시길 바랍니다!

귀하의 피드백을 얻고 싶습니다! 의견 및/또는 코멘트를 여기 공유해주세요: https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49