Baidu выпустила Unlimited-OCR 2: OCR ускорился до 7 раз на 100 страницах

Baidu опубликовала Unlimited-OCR 2, модель для распознавания документов с примерно 3 млрд параметров, которая должна справляться с текстами практически любой длины. По собственным замерам компании, на документах около 100 страниц новый механизм внимания ускоряет отдельные шаги декодирования до 7 раз относительно полного внимания и до 5,6 раза относительно механизма первой версии. Код и веса вышли под лицензией MIT, в том числе для коммерческого использования.

Модель извлекает текст из сканов и PDF, обрабатывает таблицы, формулы и многостраничные материалы. Но качество распознавания здесь не главная тема. Авторы занимались другой проблемой: что происходит с OCR на базе LLM, когда документ превращается в сотни страниц.

Почему длинный документ ломает OCR на LLM

У OCR-моделей на языковой основе есть неприятное свойство. Чем больше страниц они прочитали и чем длиннее становится сгенерированный текст, тем больше вычислений и памяти нужно для следующего шага. Модель вынуждена постоянно обращаться к растущему объёму предыдущего контекста, и стоимость каждого нового токена ползёт вверх.

Первая Unlimited-OCR уже частично закрывала эту дыру: она ограничивала объём сохраняемой истории генерации. Остался второй источник роста. Визуальные данные всех страниц по-прежнему копились и создавали растущую нагрузку, так что на очень длинных файлах выигрыш упирался в потолок.

Как SR-SWA держит стоимость шага почти постоянной

В Unlimited-OCR 2 Baidu предложила механизм Sparse Reference Sliding Window Attention, сокращённо SR-SWA. Идея простая. При распознавании очередного фрагмента модель концентрируется на текущей странице и обращается лишь к небольшому набору самых полезных фрагментов из остального документа. Вместо бесконечного просмотра накопленной информации она работает с ограниченной рабочей памятью, например из 512 опорных токенов.

В результате вычислительная стоимость каждого следующего шага остаётся приблизительно постоянной, даже когда документ вырастает в разы. Аналогия понятна любому, кто переписывал длинную книгу: смотришь прежде всего на текущую страницу, а не перечитываешь все предыдущие после каждого предложения.

Дополнительно модель обрабатывает страницы перекрывающимися блоками. Когда очередной участок документа закончен, занятую им память можно освободить. Это второй рычаг экономии, и он работает вместе с разреженным вниманием.

Ключевые параметры релиза

• Разработчик: Baidu.
• Размер модели: около 3 млрд параметров.
• Задачи: текст из сканов и PDF, таблицы, формулы, многостраничные документы.
• Новый механизм: Sparse Reference Sliding Window Attention (SR-SWA).
• Рабочая память: ограниченный набор опорных токенов, например 512.
• Ускорение на документах около 100 страниц: до 7 раз относительно полного внимания.
• Ускорение относительно предыдущего механизма: до 5,6 раза.
• Обработка страниц: перекрывающимися блоками с освобождением памяти.
• Лицензия: MIT, коммерческое использование разрешено.
• Материалы: репозиторий github.com/baidu/Unlimited-OCR, веса baidu/Unlimited-OCR-2 на Hugging Face, статья про первую версию на arXiv (2606.23050).

Отдельная оговорка: цифры ускорения относятся к отдельным шагам декодирования и получены самой Baidu. Независимых сравнений пока нет, и честную картину на реальных корпусах покажет только практика.

Кому пригодится уже сейчас

Модель на 3 млрд параметров с MIT-лицензией можно запустить у себя и встроить в продукт без юридических танцев. Это хороший кандидат для оцифровки архивов, договоров, научных сборников, финансовой отчётности и технических руководств, то есть там, где файлы в сотни страниц обычное дело, а таблицы и формулы нельзя терять.

Для команд, которые строят RAG-пайплайны и агентов поверх корпоративных документов, важна предсказуемость стоимости. Если цена шага не растёт с длиной файла, проще планировать железо и сроки пакетной обработки. Разумный план такой: взять веса с Hugging Face, прогнать на своих самых тяжёлых документах и сравнить скорость и точность с текущим OCR-стеком, особенно на таблицах и формулах.