Что запретили в нейросетях-компаньонах: регуляции Китая для ИИ с памятью

Китай разрабатывает специальные правила для AI-компаньонов — нейросетей с долгосрочной памятью и устойчивой личностью, которые имитируют близкие личные отношения с пользователем.

Что такое AI-компаньоны и чем они отличаются от ботов

AI-компаньон — это не обычный чат-бот и не голосовой ассистент. Он запоминает всю историю предыдущих разговоров, сохраняет характер и манеру речи от сессии к сессии и целенаправленно выстраивает у пользователя ощущение личной близости. Именно эта функция — намеренная имитация долгосрочных отношений — стала главным объектом регуляторного внимания.

Китай — один из крупнейших рынков для таких сервисов. ByteDance, Baidu и десятки специализированных стартапов в нише «цифровых людей» активно монетизируют эмоциональную привязанность пользователей, особенно среди молодёжи 16–24 лет. Часть продуктов открыто позиционируется как «виртуальные партнёры» или «цифровые друзья», предлагая подписку за постоянный доступ к персонажу — именно эта категория тревожит регуляторов больше всего.

Для регуляторов принципиально важен замысел продукта. Если обычный ИИ-ассистент оптимизирован на полезность и точность, то AI-компаньон оптимизирован на удержание и вовлечённость — механика, которую Пекин квалифицирует как потенциально манипулятивную.

Что именно запрещает и требует Пекин

Новые правила направлены против конкретных практик, а не против технологии как класса. Регуляторы требуют от платформ прозрачности: пользователь должен в любой момент понимать, что перед ним — ИИ, а не живой человек. Особо строгие ограничения касаются несовершеннолетних: приложения обязаны блокировать контент, способный сформировать у детей и подростков психологическую зависимость.

Ключевые требования к платформам:

• Обязательное раскрытие AI-природы сервиса на всех этапах взаимодействия
• Запрет на романтический и интимный контент для пользователей до 18 лет
• Ограничения на функции, специально разработанные для формирования долгосрочной привязанности
• Правила хранения данных переписки и запрет на передачу их третьим сторонам
• Запрет на имитацию реальных живых людей без их явного согласия

Регуляторная база строится на уже действующих законах — об алгоритмической рекомендации (2022) и о синтетическом контенте Deep Synthesis (2023), — однако AI-компаньоны потребовали отдельного трактования из-за специфики создаваемой ими эмоциональной динамики.

Почему это важно за пределами Китая

Китайский подход примечателен прагматизмом: власти не пытаются ликвидировать рынок, а встраивают его в логику защиты потребителей — ту же, что применяется к видеоиграм или финансовым продуктам.

На Западе похожие дискуссии пока не привели к чётким правилам. В 2025 году американский стартап Character.ai оказался в центре судебных разбирательств в нескольких штатах: семьи подростков обвиняли платформу в том, что AI-компаньоны спровоцировали у детей серьёзный психологический кризис. В Евросоюзе регуляторы изучают, как AI Act применяется к системам, создающим долгосрочные псевдоотношения, — однако чёткой позиции пока нет.

Часть платформ уже пытается опередить регуляторов: ряд крупных игроков ввёл добровольные ограничения по времени для несовершеннолетних и обязательные предупреждения о природе общения.

«Граница между полезным инструментом и манипулятивным продуктом

определяется не технологией, а дизайном», — тезис, который стал центральным в дискуссиях об этике AI-компаньонов.

Что это значит

Китай первым формирует работающую регуляторную рамку для AI-продуктов, специально спроектированных под эмоциональную привязанность. Для глобальных компаний, работающих на китайском рынке или смотрящих в его сторону, правила Пекина — уже не просто локальное ограничение. Это первый публичный сигнал того, как может выглядеть международный стандарт для AI-систем, оптимизированных на человеческую близость.

Что такое AI-компаньон?

AI-компаньон — это не обычный чат-бот и не голосовой ассистент. Он запоминает всю историю предыдущих разговоров, сохраняет характер и манеру речи от сессии к сессии и целенаправленно выстраивает долгосрочные отношения с пользователем.

Почему Китай вводит правила для нейросетей-компаньонов?

Пекин определяет допустимое использование технологии с главным акцентом на защиту несовершеннолетних и предотвращение психологической зависимости от ИИ-компаньонов.