Transformers.js v4 출시: WebGPU 가속 및 Node/Bun 환경 지원 강화

요약

huggingface에서 대규모 언어 모델(LLM)을 브라우저나 서버 환경에서 구동하는 JavaScript 라이브러리인 Transformers.js의 메이저 업데이트 버전 4가 출시되었습니다. 핵심 변화는 C++로 재작성된 WebGPU Runtime 채택으로, 성능과 호환성이 크게 향상되었습니다. 이제 Node.js, Bun, Deno 같은 서버 측 환경에서도 GPU 가속 모델을 사용할 수 있으며, BERT 기반 임베딩 모델의 경우 최대 4배의 속도 향상을 경험할 수 있습니다. 또한, 빌드 시스템이 Webpack에서 esbuild로

핵심 포인트

• WebGPU Runtime 채택: C++로 재작성된 새로운 WebGPU Runtime을 통해 브라우저와 서버(Node, Bun, Deno) 전반에 걸쳐 GPU 가속 모델 사용이 가능해졌습니다.
• 최대 4배 성능 향상: ONNX Runtime의 커스텀 연산자(예: com.microsoft.MultiHeadAttention) 활용을 통해 BERT 기반 임베딩 모델에서 약 4배의 속도 개선을 달성했습니다.
• 개발 환경 최적화: 빌드 시스템이 Webpack에서 esbuild로 전환되면서, 빌드 시간이 2초에서 200ms로 10배 단축되었고, 기본 번들 크기(transformers.web.js)는 평균 10% 감소했습니다.
• 프로덕션 API 개선: 새로운 ModelRegistry API가 도입되어 `get_pipeline_files`, `get_file_metadata` 등의 기능을 제공하며, 로딩 진행 상황 추적 및 캐시 관리가 용이해졌습니다.