Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Baidu가 문서 길이 증가에 따른 속도 저하 문제를 해결한 새로운 AI OCR 모델 'Unlimited OCR 2'를 공개했습니다. 이 모델은 SR-SWA와 같은 기술을 활용하여 수백 페이지의 장문에서도 일정한 처리 속도를 유지합니다. 30억 파라미터 규모로, 코드와 가중치가 오픈소스로 배포되어 연구 및 개발에 활용 가능합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 새 AI 모델의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기문서가 길어질수록 느려지던 AI OCR,
수백 쪽짜리 문서를 한 번에 읽혀도 글자를 하나씩 뽑아내는 속도가 거의 안 떨어짐. 바이두가 10월 27일 오픈소스로 푼 Unlimited OCR 2 얘기임.
100쪽 문서 기준 · 전체 어텐션보다 7.0배 · 1세대 방식보다 5.6배 빠름 (한 단계 디코딩 기준).
핵심:
① 앞 페이지를 전부 다시 훑지 않고, 지금 필요한 참조만 고정 크기(예: 512토큰)로 골라 봄. 이름은 SR-SWA
② 그래서 문서가 길어져도 한 단계당 지연 시간과 메모리가 거의 일정함
③ 페이지 이미지를 순서대로 넣으면 요청 한 번에 전체를 읽고, 앞뒤 페이지 맥락을 같이 씀
④ 수십 쪽짜리(MPDocBench)와 수백 쪽짜리(MarathonDocBench) 문서 벤치마크에서 최고 성능을 냈다고 함
30억 파라미터(3B) 모델이고, MIT 라이선스로 코드와 가중치가 깃허브·허깅페이스에 올라옴. 6월 1세대 때부터 쓰던 저장소는 스타가 약 2.9만 개임. Transformers와 SGLang으로 돌릴 수 있음.
한 가지 주의할 점은 속도와 벤치마크 수치가 전부 바이두 자체 측정이라는 것. 정확도를 유지했다고 밝힌 범위도 최대 300쪽까지임. 서버로 돌릴 땐 문서를 페이지 창(예시 설정 10쪽)으로 나눠 메모리를 아끼는데, 창을 줄이면 창 경계에 걸친 내용 연결이 약해진다고 README에 적혀 있음.