Anthropic связала новую открытую модель Z.ai с риском масштабных кибератак

Anthropic опубликовала отчёт, в котором утверждает, что мощная новая модель китайской компании Z.ai создаёт серьёзную угрозу в сфере кибербезопасности. Поводом для разговора стала утренняя рассылка MIT Technology Review The Download от 13 октября 2026 года. Издание использует отчёт, чтобы задать более общий вопрос: перевешивают ли реальные преимущества открытых моделей их риски?

Что известно на данный момент

• Источник тревоги: отчёт Anthropic, одного из ведущих разработчиков закрытых frontier-моделей.
• Объект претензий: новая мощная модель Z.ai, международного бренда китайской компании Zhipu AI, которая и раньше выкладывала веса своих моделей семейства GLM.
• Суть тезиса: модель, по мнению Anthropic, может серьёзно упростить кибератаки.
• Рамка обсуждения: MIT Technology Review сопоставляет пользу открытых моделей с рисками их распространения.
• Не раскрыто во фрагменте: размер модели, лицензия, результаты тестов на offensive-задачах, методология Anthropic.

Почему открытость усложняет контроль

У закрытой модели есть вход, через который проходят запросы. Провайдер видит, что с ней делают, блокирует аккаунты, обновляет фильтры и публикует отчёты о злоупотреблениях. Anthropic регулярно рассказывает о таких случаях со своей моделью Claude.

С открытыми весами всё иначе. После публикации файлы скачивают, копируют и запускают на собственных серверах. Защитные настройки можно ослабить дообучением, а следов использования у разработчика не остаётся. Если модель действительно сильна в поиске уязвимостей или написании эксплойтов, отозвать её невозможно.

Аргументы другой стороны

У открытых моделей есть весомые плюсы. Университеты и небольшие команды получают возможность изучать устройство систем, а не только пользоваться ими через API. Компании запускают модели внутри периметра и не отправляют чувствительные данные внешнему провайдеру. Специалисты по защите получают инструмент для тестирования собственной инфраструктуры. Те же способности, которые нужны атакующему, нужны и защитнику.

Отдельно стоит учитывать, что отчёт пишет конкурент. Anthropic продаёт закрытые модели с акцентом на безопасность, и у неё есть коммерческий интерес в том, чтобы разговор шёл именно в такой плоскости. Это не отменяет обоснованности выводов, но повод запросить данные: на каких задачах модель сравнивали, насколько она превосходит уже доступные открытые аналоги и какой прирост даёт злоумышленнику по сравнению с обычными инструментами.

Что делать командам

Службам безопасности стоит исходить из того, что модели уровня frontier с открытыми весами будут появляться и дальше, и закладывать это в модель угроз: ускоренный поиск уязвимостей, автоматизированный фишинг, более быстрая адаптация вредоносного кода. Приоритеты понятны: оперативный патчинг, мониторинг аномалий и сокращение окна между публикацией уязвимости и её закрытием.

Командам, которые выбирают модель для продукта, полезно прочитать сам отчёт Anthropic и сверить выводы с независимыми оценками, а не опираться на пересказ. Если модель Z.ai планируется к внедрению, нужно проверить лицензию, провести собственный red-teaming и решить, где она работает внутри контура, а где доступна пользователям.