• [2026/07/03] 🤝 지원해 주신 Baidu Cloud 팀에 감사드립니다. 저희 모델을 이제 Baidu Cloud에서 사용할 수 있습니다.
• [2026/06/28] 🤝 지원해 주신 vLLM 커뮤니티와 Tianyu Guo 님께 감사드립니다. 이제 저희 모델은 vLLM 추론 (inference)을 지원합니다.
• [2026/06/24] 🤝 데모를 제작해 주신 AK 님께 감사드립니다. 현재 Hugging Face Spaces에서 이용 가능합니다.
• [2026/06/23] 📄 저희 논문이 이제 arXiv에 공개되었습니다.
• [2026/06/23] 🤝 지원해 주신 ModelScope 커뮤니티에 감사드립니다. 저희 모델을 이제 ModelScope에서 사용할 수 있습니다.
• [2026/06/22] 🚀 Deepseek-OCR을 한 단계 더 발전시키는 것을 목표로 하는 Unlimited-OCR을 선보입니다.

NVIDIA GPU에서 Huggingface transformers를 사용한 추론 (Inference). 요구 사항은 python 3.12.3 + CUDA12.9에서 테스트되었습니다:

torch==2.10.0
torchvision==0.25.0
transformers==4.57.1
...

import os
import torch
from transformers import AutoModel, AutoTokenizer
...

배포 세부 사항은 공식 vLLM 레시피 (recipe)를 참조하십시오:

레시피 (Recipe): https://recipes.vllm.ai/baidu/Unlimited-OCR

GPU 플랫폼에 따라 다음 Docker 이미지를 사용하십시오:

기본 (CUDA 13.0):

docker pull vllm/vllm-openai:unlimited-ocr

Hopper GPU용 (CUDA 12.9)

docker pull vllm/vllm-openai:unlimited-ocr-cu129

환경을 설정합니다 (uv로 관리되는 가상 환경 (virtualenv)). 먼저 로컬 SGLang wheel을 설치한 다음,
kernels==0.9.0을 고정하고

PDF를 이미지로 변환하기 위해 PyMuPDF를 설치합니다:

uv venv --python 3.12
source .venv/bin/activate
uv pip install wheel/sglang-0.0.0.dev11416+g92e8bb79e-py3-none-any.whl
...

SGLang 서버를 시작합니다:

python -m sglang.launch_server \
--model baidu/Unlimited-OCR \
--served-model-name Unlimited-OCR \
...

OpenAI 호환 API로 스트리밍 요청 (streaming requests)을 보냅니다:

import base64
import json
import os
...

배치 추론 (batch inference)의 경우, infer.py가
SGLang 서버를 자동으로 시작하고 이미지 디렉토리 또는 PDF에 대해 동시 요청을 보냅니다:

# 이미지 디렉토리
python infer.py \
--image_dir ./examples/images \
...

유용한 옵션들:

---

유용한 옵션들:

--model_dir baidu/Unlimited-OCR # 로컬 경로 또는 Hugging Face 모델 ID
--gpu 0 # CUDA_VISIBLE_DEVICES 값
--server_log ./log/sglang_server.log

Deepseek-OCR, Deepseek-OCR-2, PaddleOCR의 귀중한 모델과 아이디어에 감사드립니다.

@misc{yin2026unlimitedocrworks,
title={Unlimited OCR Works},
author={Youyang Yin and Huanhuan Liu and YY and Qunyi Xie and Chaorun Liu and Shiqi Yang and Shaohua Wang and Zhanlong Liu and Hao Zou and Jinyue Chen and Shu Wei and Jingjing Wu and Mingxin Huang and Zhen Wu and Guibin Wang and Tengyu Du and Lei Jia},
...}