Retell выросла до 100 млн звонков в месяц на моделях OpenAI и Codex

Retell AI, стартап из Северной Америки, делает голосовых агентов для контакт-центров. Теперь он обслуживает более 4000 компаний, а месячный трафик вырос с 30 млн звонков в начале 2026 года до более чем 100 млн к сентябрю. Модели OpenAI формируют ответы в 80% звонков, суммарное потребление превысило 1 трлн токенов, а доля решённых обращений у клиентов выше 80%. При этом выручка на сотрудника — $1,6 млн в годовом выражении. OpenAI опубликовала этот кейс 27 октября 2026 года.

Как выбирают модель для живого звонка

Голосовой агент в корпоративной среде должен соблюдать политики компании, не выходить за свою роль и не терять нить, когда разговор уходит в сторону. Для сравнения моделей Retell построила внутренний бенчмарк vCX: десятки моделей прогоняют через сложные многоходовые диалоги, взятые из реальных production-сценариев. Проверяют следование инструкциям, привязку к выданной информации, корректность вызова инструментов и естественность речи.

В прогоне от 13 октября 2026 года GPT-6 Astra стал первым по следованию инструкциям с результатом 89,7%. Более ранние замеры, сделанные до выхода Astra, показали другое: GPT-5.5 лидировал по доле ответов без галлюцинаций (88,0%) и корректности вызова инструментов (88,3%) при включённом рассуждении, опередив Gemini-3.1-Pro и Claude-4.6. Без рассуждения он тоже остался первым по доле ответов без галлюцинаций. Новые модели Retell подключает в день релиза и перезапускает бенчмарк.

Что происходит внутри звонка

Обвязка Retell запускает аудиомодели, отслеживает ход разговора и решает, когда агенту говорить, слушать или реагировать на перебивание. Тексты ответов и запросы на вызов инструментов генерируют модели OpenAI. Затем Retell выполняет вызовы через интеграции с системами клиента и может записать результат в карточку клиента. Если нужен человек, агент вводит оператора в контекст, отвечает на его уточнения и только после подтверждения готовности переключает абонента. После звонка расшифровку разбирает GPT-5.6 Terra: извлекает исходы и структурированные данные.

В задержках картина такая. Дневной трафик превышает ночной минимум более чем в 50 раз, поэтому Retell использует выделенные серверы OpenAI, общие для всех её клиентов. Региональные API-эндпоинты сокращают сетевой путь и помогают соблюдать требования к резидентности данных в здравоохранении и финансах. Ещё Retell держит собственный телефонный стек с резервным, а также запасные контуры для голосовых и модельных сервисов.

• GPT-6 Astra — первое место по следованию инструкциям (89,7%), медианная задержка первой фразы 883 мс, также используется для автотестов интерфейса
• GPT-6 Sol — медианная задержка 883 мс
• GPT-6.1 Sol — генерация ответов и вызовы инструментов в звонках
• GPT-5.6 Luna — лучшая задержка в бенчмарке, 497 мс
• GPT-5.5 — 88,0% без галлюцинаций, 88,3% корректных вызовов инструментов
• GPT-5.6 Terra — анализ расшифровок после звонков
• Realtime API и text-to-speech OpenAI — доступны клиентам как голосовой движок
• Anker — 80,4% решённых обращений, NPS 63, поддержка первой линии в США и Великобритании
• Pine Park Health — 55,7% записей на приём при контакте с пациентом, 2,1 ставки высвобожденного времени медассистентов

Codex как виртуальный коллега

Экономика Retell держится не только на моделях в звонках. Инженеры дают Codex общее требование, и он изучает код, сверяет его с реальными данными и объясняет, что менять. Один из инженеров сказал, что Codex делает такой разбор лучше и заметно быстрее него. При реализации Codex часто замечает детали, которые разработчик не учёл, а при отладке сопоставляет логи и записи в базе с кодом. Его же используют при работе с клиентами, например чтобы быстрее писать инструкции для моделей в их приложениях.

Отдельная история — тестирование фронтенда. Когда инженер открывает pull request, GPT-6 Astra через computer use открывает интерфейс, кликает по нему, проходит сценарии, пытается их сломать и сообщает о найденных проблемах. По словам Retell, прежние модели делали это ненадёжно. Команда продолжает нанимать, но инженеров ей нужно меньше, чем растёт бизнес.

Что можно взять из кейса

Для тех, кто строит голосовых агентов, из кейса следует несколько практических вещей. Нужен собственный бенчмарк на реальных диалогах: именно он у Retell решает, какая модель идёт в продакшен. Разные модели стоит ставить на разные задачи: быстрая Luna для задержки, Astra для дисциплины инструкций, Terra для постобработки. Нужны региональные эндпоинты и резерв на каждом слое. Наконец, нагрузка с пиком в 50 раз выше минимума делает выделенную мощность не роскошью, а условием стабильного ответа.

Стоит помнить, что все цифры приведены самой Retell и опубликованы OpenAI в формате клиентской истории. Бенчмарк vCX внутренний, независимой проверки у него нет. Планы компании: расширить контроль качества и симуляции, добавить языки и автообучение по базе знаний.