Microsoft запустила Microsoft-Decision-1 — модель, быстрее GPT-6 Sol в 35 раз

Microsoft представила Microsoft-Decision-1, узкоспециализированную модель, которая не генерирует текст, а оценивает заранее заданные варианты ответа или действия. По данным компании, в тестах на принятие структурированных решений её задержка в 35 раз меньше, чем у OpenAI GPT-6 Sol. Модель рассчитана на классификацию информации, проверку результатов и управление рабочими процессами. Цифры пока опубликованы самой Microsoft, независимых замеров нет. • Задача: выбор из закрытого набора вариантов, без диалога • Заявленный выигрыш: задержка в 35 раз ниже, чем у GPT-6 Sol • Сценарии: классификация, проверка, оркестрация процессов

AI-обработка оригинала 3DNews AI; редакция Hamidun News
Microsoft запустила Microsoft-Decision-1 — модель, быстрее GPT-6 Sol в 35 раз
Источник: 3DNews AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
Первоисточник3DNews AI ↗
Главный редактор
Задачавыбор из закрытого набора вариантов, без диалога
Заявленный выигрышзадержка в 35 раз ниже, чем у GPT-6 Sol
Сценарииклассификация, проверка, оркестрация процессов

Microsoft представила Microsoft-Decision-1, специализированную модель, которая не поддерживает беседу и не пишет текст. Её работа — оценить заранее заданные варианты ответа или действия и выбрать подходящий. По данным компании, в тестах на принятие структурированных решений задержка ответа у неё в 35 раз меньше, чем у OpenAI GPT-6 Sol. Назначение: классификация информации, проверка результатов и управление рабочими процессами.

Что именно делает модель

Привычная языковая модель получает запрос и генерирует ответ токен за токеном. Microsoft-Decision-1 устроена под другую задачу: ей на вход подают контекст и список допустимых исходов, а на выходе нужен выбор. Например, к какой категории отнести обращение, пропускать ли результат дальше по цепочке или отправить на доработку, какой шаг выполнить следующим.

Такие операции в корпоративных системах встречаются на каждом углу. Раньше их часто поручали большой универсальной модели, хотя ответ там умещается в одно слово или номер варианта. Decision-1 отвечает именно на этот сценарий.

Что известно по цифрам

В опубликованных данных названо немного параметров:

  • класс модели: специализированная, оценивает заданные варианты, диалог не ведёт;
  • главная метрика: задержка ответа ниже в 35 раз относительно OpenAI GPT-6 Sol;
  • условия сравнения: тесты на принятие структурированных решений;
  • задачи: классификация информации, проверка результатов, управление рабочими процессами;
  • источник цифр: данные самой Microsoft.

Чего в сообщении нет: числа параметров, цены, формата доступа, показателей точности. Для решения о внедрении как раз они важнее всего. Скорость без качества выбора ничего не гарантирует.

Откуда берётся 35-кратный разрыв и как его читать

Правдоподобное объяснение лежит в самой постановке задачи. Если модели не нужно формировать развёрнутый текст, а достаточно оценить конечное число вариантов, расчёт получается короче. Большой генеративной модели приходится тратить вычисления на универсальность, которая в таком сценарии не нужна. Это вывод из логики задачи, а не раскрытая Microsoft архитектура.

Поэтому сравнение стоит читать с оговорками. Узкую модель проверяют на задаче, под которую она создана, а универсальную флагманскую модель берут как эталон. Разрыв в задержке при этом ожидаем. Остаются вопросы: насколько совпадают решения двух моделей, как Decision-1 ведёт себя на данных вне тестового набора и что происходит, когда подходящего варианта в списке нет. Независимых замеров пока нет.

Показательно и само направление. Рынок движется от одной большой модели «на всё» к связке: крупная модель планирует и рассуждает, а компактные специалисты быстро выполняют рутинные развилки. Для агентных систем это критично, потому что агент делает десятки мелких проверок на каждый запуск, и задержка каждой из них суммируется.

Где это пригодится на практике

Первые кандидаты на применение очевидны:

  • маршрутизация обращений и документов по категориям;
  • проверка выходов другой модели перед отправкой пользователю: соответствует ли ответ формату и правилам;
  • выбор следующего шага в автоматизированном процессе, где набор действий заранее известен.

Командам, которые строят агентные цепочки, стоит посмотреть на свои логи и найти вызовы большой модели, где ответ сводится к выбору из нескольких вариантов. Именно их есть смысл тестировать на специализированной модели. Сравнивать нужно три параметра: задержку, долю совпадений с эталонной разметкой и стоимость вызова. Пока Microsoft не опубликовала цену и условия доступа, считать выгоду рано. Но заявка понятна: быстрые решения в больших системах не обязаны стоить как полноценный диалог с флагманом.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что именно делает модель?

Привычная языковая модель получает запрос и генерирует ответ токен за токеном. Microsoft-Decision-1 устроена под другую задачу: ей на вход подают контекст и список допустимых исходов, а на выходе нужен выбор. Например, к какой категории отнести обращение, пропускать ли результат дальше по цепочке или отправить на доработку, какой шаг выполнить следующим. Такие операции в корпоративных системах встречаются на каждом углу. Раньше их часто поручали большой универсальной модели, хотя ответ там умещается в одно слово или номер варианта. Decision-1 отвечает именно на этот сценари

Что известно по теме: что известно по цифрам?

В опубликованных данных названо немного параметров: класс модели: специализированная, оценивает заданные варианты, диалог не ведёт; главная метрика: задержка ответа ниже в 35 раз относительно OpenAI GPT-6 Sol; условия сравнения: тесты на принятие структурированных решений; задачи: классификация информации, проверка результатов, управление рабочими процессами; источник цифр: данные самой Microsoft. Чего в сообщении нет: числа параметров, цены, формата доступа, показателей точности. Для решения о внедрении как раз они важнее всего. Скорость без качества выбора ничего не гаран

Что известно по теме: откуда берётся 35-кратный разрыв и как его читать?

Правдоподобное объяснение лежит в самой постановке задачи. Если модели не нужно формировать развёрнутый текст, а достаточно оценить конечное число вариантов, расчёт получается короче. Большой генеративной модели приходится тратить вычисления на универсальность, которая в таком сценарии не нужна. Это вывод из логики задачи, а не раскрытая Microsoft архитектура. Поэтому сравнение стоит читать с оговорками. Узкую модель проверяют на задаче, под которую она создана, а универсальную флагманскую модель берут как эталон. Разрыв в задержке при этом ожидаем. Остаются вопросы: наскол

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…