Hugging Face Transformers v5.3.0: 최신 모델 및 아키텍처 업데이트 정리

요약

Hugging Face Transformers 라이브러리가 v5.3.0 버전을 출시하며 다양한 분야의 최신 모델들을 추가하고 아키텍처 개선 사항을 발표했습니다. 주요 업데이트로는 다국어 지원이 강화된 EuroBERT, 60분 분량의 오디오 입력을 처리하는 VibeVoice ASR 등 음성 인식(ASR) 기능의 대폭 향상이 눈에 띕니다. 또한 시계열 예측을 위한 TimesFM 2.5와 문서 레이아웃 분석 전용 PP-DocLayoutV2 같은 전문 모델들이 추가되어, AI 기반 애플리케이션 개발자들이 다양한 도메인에서 최신 성능을 확보

핵심 포인트

• **EuroBERT:** Llama과 유사한 트랜스포머 구조를 가지며 양방향 어텐션(bidirectional attention)을 사용하여 유럽 및 주요 언어의 다국어 인코딩 기능을 제공합니다.
• **VibeVoice ASR:** 24kHz 오디오 처리와 Qwen2 기반 디코더를 결합하여 최대 60분 분량의 연속 음성 입력을 지원하며, 다이아리제이션(diarization) 및 코드 스위칭을 포함한 고급 기능을 제공합니다.
• **TimesFM 2.5:** 회전 어텐션(rotary attention), QK 정규화 등을 개선하여 데이터셋별 학습 없이도 다양한 도메인에서 정확한 제로샷 시계열 예측이 가능합니다.
• **PP-DocLayoutV2:** 문서 레이아웃 분석에 특화된 경량 모델로, RT-DETR 기반 탐지 및 포인터 네트워크를 결합하여 요소 식별과 읽기 순서 예측을 수행합니다.
• **Higgs Audio V2:** 1천만 시간 이상의 오디오 데이터로 사전 학습되었으며, 제로샷 음성 복제(zero-shot voice cloning) 등 표현력이 뛰어난 다양한 오디오 생성 작업을 지원하는 강력한 기반 모델입니다.