Modal выросла выше $1 млрд ARR и оценена в $16 млрд на спросе на песочницы

Modal, платформа для запуска ИИ-нагрузок, за пять месяцев после раунда C с оценкой $5 млрд пересекла отметку $1 млрд годовой выручки (annualized run rate) и закрыла раунд D на $750 млн при оценке $16 млрд. Параллельно компания запустила почти три миллиарда sandboxes. В большом интервью Latent Space CEO Erik Bernhardsson объяснил, откуда взялся рост и почему спрос на вычисления плохо стыкуется с контрактами, по которым их покупают.

Почему мощности на GPU продают прямоугольниками

Типовой контракт на ёмкость выглядит так: клиент получает фиксированное число GPU на фиксированный срок. Если отложить мощность по оси времени, получится прямоугольник. Реальная нагрузка устроена иначе: она растёт, прыгает и проседает в течение суток. Купишь под пик, будешь платить за простаивающее железо. Купишь меньше, потеряешь спрос.

Bernhardsson описывает ставку Modal как преобразование сроков (duration transformation). Компания обеспечивает мощности внизу долгосрочными контрактами, объединяет спрос тысяч клиентов и отдаёт каждому столько, сколько нужно, когда нужно. Чем ровнее суммарный спрос, тем полезнее такой пул. Это дополняет подход SF Compute и Evan Conrad: тот делает ёмкость торгуемой, Modal делает её пригодной для мелких эластичных порций.

У модели есть обратная сторона. Если провайдер зафиксировал мощности по сегодняшним ценам, а GPU потом подешевеют, на балансе останется дорогое предложение. Bernhardsson не ждёт скорого обвала, но считает, что такой сценарий нужно закладывать в бизнес-модель.

Песочница, которую чуть не закрыли

Sandboxes появились после того, как Bernhardsson и сооснователь Akshat Bubna заметили: языковые модели пишут код, и его кому-то нужно исполнять. Поначалу интерес был настолько скромным, что команда обсуждала закрытие продукта. Затем подоспели кодинг-агенты, фоновые агенты и обучение с подкреплением. Сейчас песочницы приносят примерно треть выручки Modal. Такого результата Bernhardsson при запуске не предсказывал.

Нагрузка тоже изменилась. Агент создаёт среду, запускает код, смотрит результат и пробует снова, и так много раз. Задержка старта и восстановления окружения становится частью пользовательского опыта. Отсюда сдвиг от developer experience к agent experience.

Эластичность работает, только если ёмкость появляется достаточно быстро. По описанию самой Modal, быстрый старт держится на нескольких слоях:

• буфер свободных GPU, из которого берутся новые реплики модели;
• собственная файловая система;
• чекпойнтинг процессов;
• снапшоты памяти GPU;
• resource solver, который выбирает мощности с учётом меняющихся цен и доступности.

Инженерный предел компания показала в материале о масштабировании до миллиона одновременных sandboxes.

Путь от Spotify к инфраструктуре

Bernhardsson семь лет работал в Spotify, где с нуля построил систему музыкальных рекомендаций: related artists, Discover Weekly и другие функции. Там было много матричной факторизации и ресурсоёмких вычислений, и там же он решил, что инфраструктура для ИИ-приложений неудобна. Modal он называет инструментом, который хотел бы иметь сам. Затем пять лет он был CTO Better.com и вырастил техкоманду примерно с двух человек до нескольких сотен.

Modal он начал в 2021 году, до выхода ChatGPT. Первоначальная идея была общей: упростить запуск кода в облаке, будь то GPU, ML или обработка данных. Из-за этого пришлось уйти глубоко в стек и написать собственные файловую систему и контейнерный рантайм. Первым настоящим драйвером стал не ChatGPT, а Stable Diffusion: когда в команде было четыре-пять человек, к ним пошли желающие запускать модель. Так выяснилось, что инференс генеративных моделей подходит платформе лучше всего. Сегодня клиенты Modal включают Suno, Runway и Cognition, а выручка, по словам Bernhardsson, выросла минимум в 50 раз за два года.

В беседе затронуты и другие темы: закупка мощностей, аренда против владения, альтернативы NVIDIA, уроки неооблаков, безопасность песочниц, работа forward-deployed инженеров и необязательное код-ревью внутри Modal.

Для команд, которые строят ИИ-продукты, вывод практический. Прежде чем подписывать контракт на резерв GPU, стоит построить график реальной нагрузки по часам и оценить, сколько вы заплатите за простой между пиками. Для агентных систем в метрики инфраструктуры нужно включать время старта и восстановления окружения, потому что агент делает десятки итераций, и каждая задержка копится. А рынок мощностей, судя по оценке в $16 млрд, всё больше награждает тех, кто умеет превращать жёсткие долгосрочные контракты в гибкие посекундные услуги.