Microsoft представила Decision-1 на базе Qwen3.5-9B: 83,5% точности за 85 мс

Microsoft представила Decision-1, компактную модель для быстрой классификации и маршрутизации запросов. В основе лежит Qwen3.5-9B. По данным самой компании, на 36 бенчмарках модель набирает 83,5% точности при задержке 85 мс. Независимых проверок пока нет.

Зачем нужны модели-решатели

Decision-модель не пишет длинные тексты и не рассуждает вслух. Её задача — быстро принять решение: к какой категории отнести обращение, какому инструменту передать задачу, какой модели отдать запрос, нужно ли пропустить его через фильтр. В агентных системах такие развилки возникают на каждом шаге. Если на каждую из них тратить вызов флагманской LLM, счёт и задержка растут пропорционально числу шагов.

Поэтому в маршрутизаторах и диспетчерах хорошо подходят модели на несколько миллиардов параметров. Девять миллиардов — как раз такой масштаб: модель помещается на одну видеокарту и отвечает за доли секунды. Microsoft приходит в сегмент, где уже конкурируют другие решения, и привносит в него собственную оптимизацию под задачу.

Выбор базы тоже говорит о многом. Компания дообучила Qwen3.5-9B, открытую модель из семейства Alibaba, а не взяла собственную архитектуру. Для узкой прикладной задачи это рациональный путь: ценность создаётся на слое данных, дообучения и оптимизации, а не в предобучении с нуля.

Что известно о цифрах

• База: Qwen3.5-9B.
• Назначение: быстрая классификация и маршрутизация.
• Точность: 83,5% по 36 бенчмаркам.
• Задержка: 85 мс.
• Источник данных: собственные тесты Microsoft.

Цифры стоит читать с оговорками. 85 мс укладывается в бюджет интерактивного сценария, где решение принимается до основного ответа, но задержка сильно зависит от железа, длины входа и размера батча. Условия замера в сообщении не раскрыты. Не указано и то, какие именно 36 бенчмарков вошли в набор и с какими моделями Decision-1 сравнивали.

С точностью та же история. 83,5% означает, что примерно каждое шестое решение в среднем неверное. Для сортировки обращений по темам это может быть приемлемо. Для маршрутизации, где ошибка отправляет запрос не туда или пропускает опасный контент, нужны данные по конкретным классам ошибок, а не одно усреднённое число.

Что проверить перед внедрением

Если вы строите агентную систему или маршрутизатор запросов, Decision-1 стоит рассматривать как кандидата на пилот, а не как готовое решение. Порядок проверки такой:

• Прогнать модель на собственном трафике. Средний результат по 36 бенчмаркам почти ничего не скажет о ваших категориях и вашем языке запросов.
• Измерить задержку на своём железе, смотреть на p95 и p99, а не на среднее.
• Посчитать цену ошибки для каждого типа решений и решить, где допустим автоматический выбор, а где нужна проверка человеком.
• Добавить запасной путь: при низкой уверенности модели отправлять запрос на более сильную LLM.
• Сравнить с базовыми вариантами: неспециализированной моделью того же размера и классическим классификатором. Часто простые подходы дают сопоставимое качество за меньшие деньги.
• Уточнить лицензию, условия доступа и способ развёртывания. В исходном сообщении этих деталей нет.

Само появление Decision-1 показывает, что крупные игроки всерьёз занялись «диспетчерским» слоем ИИ-систем. Пока у модели нет независимых замеров, это заявка на нишу, но не доказанное преимущество.