Transformers v5.6.0 릴리즈: PII 필터, 문서 지능 모델 및 서빙 기능 강화

Transformers v5.6.0 릴리즈는 모델 생태계 확장, 엔터프라이즈급 배포 기능 강화, 그리고 비전(Vision) 및 분산 학습 안정성 개선에 초점을 맞춘 대규모 업데이트입니다.

1. 새로운 핵심 모델 추가 (Model Additions)
이번 버전에서 가장 주목할 만한 변화는 산업별 특화된 최신 모델들의 통합입니다.

• OpenAI Privacy Filter: 텍스트 내 개인 식별 정보(PII) 탐지 및 마스킹을 위한 양방향 토큰 분류기(bidirectional token-classification model)가 추가되었습니다. 이 모델은 고처리량 데이터 정제 워크플로우에 최적화되어 있으며, 온프레미스 환경에서 빠르고 컨텍스트를 고려하여 작동합니다.
• Qianfan-OCR: Baidu가 개발한 4B 파라미터의 종단 간(end-to-end) 문서 지능 모델입니다. 전통적인 다단계 OCR 파이프라인 없이 이미지에서 텍스트로 직접 변환하며, 구조화된 문서 파싱, 테이블 추출, 차트 이해, 질의응답 등 다양한 프롬프트 기반 작업을 단일 통합 모델 내에서 처리할 수 있습니다.
• SAM3-LiteText: SAM3의 경량 버전으로, 무거운 텍스트 인코더(353M 파라미터)를 MobileCLIP 기반의 컴팩트한 텍스트 인코더로 대체했습니다. 이를 통해 텍스트 인코더 파라미터를 최대 88%까지 줄이면서도 원래 모델과 유사한 분할 성능을 유지하여 효율적인 비전-언어 분할(vision-language segmentation)이 가능해졌습니다.
• SLANet: 테이블 구조 인식에 초점을 맞춘 경량 모델로, CPU 친화적인 백본 네트워크와 고급 특징 융합 모듈을 채택하여 정확도와 추론 속도를 개선했습니다. 이는 문서 내의 복잡한 표 구조를 인식하는 데 특화되어 있습니다.

2. 배포 및 서빙 기능 강화 (Serving & Deployment)
transformers serve 명령어에 대대적인 기능 향상이 이루어졌습니다.

• 멀티모달 지원: 오디오 및 비디오 입력을 처리할 수 있는 멀티모달(multimodal) 지원이 추가되었습니다.
• 호환성 개선: 레거시 OpenAI 텍스트 완성 API를 위한 /v1/completions 엔드포인트가 추가되어 기존 시스템과의 호환성이 높아졌습니다. 또한, tool_calls 및 tool_call_id 필드의 전송 처리가 개선되었습니다.
• 안정성: 모델 불일치 시 400 에러를 발생시키도록 하여 서버의 안정성을 높였습니다.

3. 비전 및 분산 학습 최적화 (Vision & Parallelization)

• 이미지 로딩 성능 개선: torchvision 백엔드에서 네이티브 디코딩(decode_image)을 활용함으로써 이미지 로딩 속도가 최대 17% 향상되었습니다.
• 비전 버그 수정: Qwen2.5-VL의 시간적 RoPE 스케일링(temporal RoPE scaling) 문제 해결, Emu3 및 BLIP 등의 누락된/불일치한 이미지 프로세서 백엔드 수정 등 여러 비전 관련 버그가 수정되었습니다.
• 분산 학습 안정화: Expert Parallelism (EP)과 FSDP(Fully Sharded Data Parallel) 과정에서 발생할 수 있는 NaN 손실 및 가중치 문제를 해결하고, Tensor Parallelism (TP)을 이용한 어댑터 로딩 지원 등 분산 훈련의 견고성이 크게 향상되었습니다.