FastRTC 와 Cloudflare 로 구축할 수 있는 애플리케이션의 미리보기로, Meta 의 새로운 Llama 4 모델로 구축된 이 음성 채팅 앱을 확인해보세요!
대화형 AI 가 도구, 제품 및 서비스의 핵심 인터페이스가 되면서 실시간 통신 인프라는 자연스러운 다중 모달 (multimodal) 상호작용을 지원하기 위해 점점 더 필수적인 요소가 되고 있습니다. Hugging Face 는 WebRTC 의 복잡성을 추상화하여 최소한의 Python 코드만으로 저지연 AI 기반 오디오 및 비디오 스트림을 구축할 수 있도록 FastRTC 를 개발했습니다. WebRTC 는 실시간 통신의 금표준 기술입니다.
WebRTC 기반 애플리케이션은 신뢰할 수 있는 연결을 지원하기 위해 특수한 TURN 서버가 필요하므로 다양한 네트워크 환경에서 배포 시 도전 과제를 겪습니다. 이 문제를 해결하기 위해 Cloudflare 는 전 세계 335 개 이상의 위치를 아우르는 이러한 서버의 글로벌 네트워크를 구축했습니다.
이 파트너십은 FastRTC 의 쉬운 개발 접근 방식과 Cloudflare 의 글로벌 TURN 네트워크를 결합하여 전 세계 연결성을 갖춘 빠르고 신뢰할 수 있는 WebRTC 애플리케이션을 구축할 수 있도록 보장합니다.
유효한 Hugging Face Access Token 을 가진 FastRTC 개발자는 신용카드 없이 매월 10GB 의 데이터를 무료로 스트리밍할 수 있습니다. 월별 제한에 도달하면 Cloudflare 계정으로 전환하여 더 높은 용량을 사용할 수 있습니다 (지침).
이 파트너십은 다음을 구축하는 AI 개발자에게 특히 유용합니다:
- 신뢰할 수 있는 저지연 오디오 스트리밍이 필요한 음성 어시스턴트
- 실시간으로 카메라 피드를 처리하는 비디오 분석 애플리케이션
- 오디오, 비디오 및 텍스트를 결합하는 다중 모달 AI 애플리케이션
이 파트너십은 FastRTC 로 개발자가 핵심 애플리케이션 로직에 집중할 수 있도록 하며, TURN 인프라 구축 및 유지보수를 필요로 하지 않습니다. Cloudflare 의 관리 서비스는 글로벌 확장성과 신뢰성을 처리하여 인프라 유지의 과외 없이 AI 개발자가 탁월한 경험을 제공할 수 있게 합니다.
이 통합은 FastRTC 버전 0.0.20
및 이상에서 사용할 수 있습니다. 시작하려면:
-
Hugging Face 토큰을 읽기 권한으로 가져오세요 (여기에 하나를 생성하세요)
-
FastRTC 를 설치하거나 업그레이드하세요:
pip install --upgrade 'fastrtc[vad]'
-
아래와 같이 Cloudflare TURN 네트워크를 사용하는 Stream 을 구성하세요:
from fastrtc import ReplyOnPause, Stream, get_cloudflare_turn_credentials
import os
os.environ["HF_TOKEN"] = "<your-hf-token>"
...
스크립트를 python 로 실행하세요, python <name of your script>.py
더 많은 예제는 Hugging Face 의 이 컬렉션과 FastRTC Cookbook 을 확인해보세요.