Habr запускает цикл по безопасности ИИ: 4 юрисдикции и 4 методологии защиты

Habr AI опубликовал первую часть цикла о безопасности ИИ-систем в 2026 году. Статья охватывает нормативную базу четырёх юрисдикций (России, Китая, ЕС и США) и четыре методологии защиты: STRIDE, OWASP, AI-SAFE и SAIMM. Авторы называют это базовым объёмом знаний, который нужен каждому специалисту по безопасности ИИ. В анонсе материала нет разбора конкретных норм, поэтому ниже рассмотрено то, что заявлено, и контекст, в котором это важно.

Безопасность машинного обучения долго оставалась нишевой темой. Над ней работали несколько исследовательских групп, выходило около десятка публикаций в год, практических инструментов почти не было. Когда LLM и агентные системы пришли в продакшен, ситуация изменилась. Модель теперь вызывает инструменты, читает внешние данные и принимает решения от имени пользователя. Поверхность атаки стала шире, а отвечать за последствия пришлось компаниям.

Четыре юрисдикции, четыре логики

Статья сравнивает регулирование в России, Китае, ЕС и США. Подходы там заметно разные, и это известно из общего контекста.

• ЕС построил горизонтальный закон о ИИ (AI Act) с градацией по уровням риска и отдельными обязанностями для разработчиков моделей общего назначения. Сроки применения части требований обсуждались и корректировались, так что актуальные даты стоит проверять по первоисточнику.
• Китай регулирует отдельные классы систем: генеративный ИИ, алгоритмические рекомендации, маркировку синтетического контента. Это набор точечных требований, а не единый закон.
• США опираются на смесь федеральных рамок вроде NIST AI RMF, отраслевых требований и законов отдельных штатов.
• Россия развивает собственную нормативную и стандартизационную базу. Какие именно акты и стандарты авторы считают ключевыми, из анонса не видно.

Для компании, которая работает на нескольких рынках, это означает несколько параллельных комплаенс-контуров. Единого стандарта пока нет.

Методологии: что берём из-за рубежа, что есть дома

Вторая половина статьи посвящена методологиям защиты. STRIDE — классическая модель угроз, которая появилась задолго до LLM и применяется к ИИ-системам как способ структурировать риски. OWASP известен прикладными перечнями уязвимостей, в том числе для приложений на базе больших языковых моделей. Отечественные AI-SAFE и SAIMM в анонсе только названы: ни структуры, ни критериев зрелости, ни охвата там нет. Судить об их сильных и слабых сторонах можно будет после прочтения полного текста.

Интересно уже само сочетание. Западные методологии дают общий язык для обсуждения угроз. Российские, судя по всему, привязаны к местной регуляторике и практике сертификации. Специалисту придётся владеть обоими слоями.

Что делать командам прямо сейчас

Пока серия не вышла целиком, есть несколько шагов, не требующих ожидания.

1. Составьте реестр ИИ-систем в компании: какие модели и агенты работают, с какими данными и правами доступа. 2. Определите, под какие юрисдикции подпадает каждая система. Критерий — не где зарегистрирована компания, а где находятся пользователи и данные. 3. Проведите моделирование угроз по STRIDE для самых критичных агентных сценариев, особенно там, где модель может действовать во внешних системах. 4. Сопоставьте найденные риски с перечнями OWASP для LLM-приложений и проверьте, какие контроли уже есть. 5. Дождитесь разбора AI-SAFE и SAIMM и оцените, насколько они ложатся на ваши внутренние процессы и требования регуляторов.

Цикл по замыслу авторов рассчитан на практиков. Первая часть задаёт рамку, а ценность всей серии станет ясна, когда появятся разборы конкретных атак и контролей.