ИнфраструктураTechCrunch→ оригинал

Ускорение ИИ без NVIDIA: бесплатный инструмент для любых чипов

Французский стартап ZML, поддержанный лауреатом премии Тьюринга Янном ЛеКуном, выпустил бесплатный инструмент ZML/LLMD для ускорения инференса языковых моделей на широком спектре AI-чипов. Программа снижает операционные затраты на запуск AI в продакшне и уводит от привязки к конкретному производителю — прежде всего NVIDIA. Актуально для команд на AMD, Intel и других ускорителях.

AI-обработка оригинала TechCrunch; редакция Hamidun News
Ускорение ИИ без NVIDIA: бесплатный инструмент для любых чипов
Источник: TechCrunch. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникTechCrunch ↗
Главный редактор
ПродуктZML/LLMD — оптимизационный слой для инференса LLM
Лицензиябесплатная (free to use)
Охватширокий спектр AI-чипов от разных производителей

8 июля 2026 года французский стартап ZML выпустил бесплатный инструмент для ускорения ИИ на любых чипах — ZML/LLMD, программный слой для ускорения инференса AI-моделей на широком спектре аппаратных ускорителей. Проект поддержал Янн ЛеКун — лауреат премии Тьюринга и главный AI-учёный Meta.

Что умеет ZML/LLMD

ZML/LLMD — программный слой, позволяющий запускать языковые модели быстрее и дешевле вне зависимости от производителя чипов. Кросс-платформенность здесь — ключевое преимущество: сегодняшний рынок инструментов для инференса сильно перекошен в сторону NVIDIA. Популярные библиотеки — TensorRT-LLM, CUDA-ориентированные сборки vLLM — по умолчанию оптимизированы под GPU «зелёного» производителя. Команды на AMD, Intel Gaudi, AWS Trainium и других ускорителях вынуждены либо мириться с меньшей производительностью, либо тратить инженерные ресурсы на собственную адаптацию стека.

ZML/LLMD позиционирует себя как единый инструмент, работающий одинаково хорошо на разном железе и снижающий стоимость запуска AI-продуктов в продакшне.

  • Продукт: ZML/LLMD — оптимизационный слой для инференса LLM
  • Лицензия: бесплатная (free to use)
  • Охват: широкий спектр AI-чипов от разных производителей
  • Цель: снизить операционные затраты на инференс в продакшне

Почему имя ЛеКуна меняет восприятие стартапа

Янн ЛеКун — один из трёх лауреатов премии Тьюринга 2018 года (вместе с Джеффри Хинтоном и Йошуа Бенджио) и главный AI-учёный Meta с 2018 года. Его работы в области свёрточных нейронных сетей стали фундаментом современного компьютерного зрения и заложили базу для нынешней волны глубокого обучения.

Публичная поддержка ЛеКуна — сигнал для рынка и инвесторов: ZML как минимум привлёк внимание исследователей верхнего уровня. Для разработчиков, которые ещё не слышали о стартапе, такое имя в числе сторонников заметно снижает барьер недоверия к новому инструменту.

Контекст: почему инференс стоит дороже обучения

Для большинства AI-продуктов в зрелом продакшне расходы на инференс — буквально на ответы модели миллионам запросов — давно превышают расходы на тренировку. По отраслевым оценкам, соотношение затрат смещается к 10 к 90 в пользу инференса. Именно поэтому оптимизация скорости и стоимости запуска моделей — одна из наиболее конкурентных ниш AI-инфраструктуры в 2026 году.

Кросс-чиповая совместимость ZML/LLMD потенциально даёт компаниям рычаг в переговорах с вендорами и снижает риски привязки к одному поставщику.

Что это значит

ZML/LLMD попадает в реальную боль рынка: операционные затраты на инференс растут вместе с масштабом AI-продуктов. Бесплатная модель распространения снижает порог входа и может привлечь широкое инженерное сообщество. Насколько инструмент выигрывает у специализированных решений на конкретном железе — покажут независимые бенчмарки по мере роста числа пользователей.

*Meta признана экстремистской организацией и запрещена в РФ.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что умеет ZML/LLMD?

ZML/LLMD — программный слой, позволяющий запускать языковые модели быстрее и дешевле вне зависимости от производителя чипов. Кросс-платформенность здесь — ключевое преимущество: сегодняшний рынок инструментов для инференса сильно перекошен в сторону NVIDIA. Популярные библиотеки — TensorRT-LLM, CUDA-ориентированные сборки vLLM — по умолчанию оптимизированы под GPU «зелёного» производителя. Команды на AMD, Intel Gaudi, AWS Trainium и других ускорителях вынуждены либо мириться с меньшей производительностью, либо тратить инженерные ресурсы на собственную адаптацию стека. ZML/L

Что известно по теме: почему имя ЛеКуна меняет восприятие стартапа?

Янн ЛеКун — один из трёх лауреатов премии Тьюринга 2018 года (вместе с Джеффри Хинтоном и Йошуа Бенджио) и главный AI-учёный Meta с 2018 года. Его работы в области свёрточных нейронных сетей стали фундаментом современного компьютерного зрения и заложили базу для нынешней волны глубокого обучения. Публичная поддержка ЛеКуна — сигнал для рынка и инвесторов: ZML как минимум привлёк внимание исследователей верхнего уровня. Для разработчиков, которые ещё не слышали о стартапе, такое имя в числе сторонников заметно снижает барьер недоверия к новому инструменту.

Что известно по теме: контекст: почему инференс стоит дороже обучения?

Для большинства AI-продуктов в зрелом продакшне расходы на инференс — буквально на ответы модели миллионам запросов — давно превышают расходы на тренировку. По отраслевым оценкам, соотношение затрат смещается к 10 к 90 в пользу инференса. Именно поэтому оптимизация скорости и стоимости запуска моделей — одна из наиболее конкурентных ниш AI-инфраструктуры в 2026 году. Кросс-чиповая совместимость ZML/LLMD потенциально даёт компаниям рычаг в переговорах с вендорами и снижает риски привязки к одному поставщику.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…