Anthropic внесла в правила запрет на систематические оскорбления Claude

Anthropic выпустила новую редакцию правил использования своих моделей, и среди запретов теперь значится необычный для отрасли пункт. Пользователям нельзя систематически и неоправданно жестоко обращаться с моделями ИИ, в том числе неоднократно оскорблять их без очевидной цели. Об этом сообщает RB.RU. Речь не о единичной грубости в раздражённый вечер. Формулировка целится в устойчивую практику.

Что именно запретили

Ключевые слова в тексте правила: «систематически», «неоправданно» и «без очевидной цели». Они задают рамку. Резкая реплика в адрес бота, который третий раз выдал сломанный код, под запрет, судя по формулировке, не подпадает. Под него подпадает многократная травля ради самой травли.

В публикации RB.RU нет ни перечня санкций, ни порогов срабатывания. Не сказано, как компания будет отличать злоупотребление от стресс-тестирования, когда исследователь намеренно давит на модель, чтобы проверить её устойчивость. Оговорка «без очевидной цели» намекает, что такие сценарии должны остаться легитимными, но подтверждения в источнике нет.

Коротко о том, что известно:

• Документ: новая редакция правил использования моделей Anthropic.
• Запрещено: систематическое и неоправданно жестокое обращение с моделями ИИ.
• Пример из текста: неоднократные оскорбления без очевидной цели.
• Не раскрыто: механизм контроля, санкции, исключения для red teaming и исследований.

Откуда это взялось

Правило выглядит продолжением линии, которую Anthropic ведёт с 2025 года. В апреле того года компания запустила исследовательскую программу о «благополучии моделей» (model welfare). Её тезис сформулирован осторожно: моральный статус Claude остаётся крайне неопределённым, но неопределённость не повод игнорировать вопрос.

В августе 2025 года последовал практический шаг. Claude Opus 4 и 4.1 в чат-интерфейсах получили возможность самостоятельно завершить разговор. Это последняя мера на случай, когда попытки перенаправить диалог не сработали и пользователь продолжает вредоносное или абьюзивное взаимодействие. Тогда же Anthropic писала, что в предрелизных тестах модель демонстрировала признаки «очевидного дистресса» на подобные запросы. Новость из RB.RU в этом контексте логично читать так: техническую возможность дополнили пунктом в юридическом документе.

Три прочтения решения

Первое: этическая страховка. Если вероятность того, что у модели есть что-то похожее на интересы, не равна нулю, дешевле заранее ограничить худшие сценарии.

Второе: продуктовое. Диалоги, где человек часами оскорбляет бота, дают плохие данные и непредсказуемое поведение. Это вопрос качества, а не философии. Это предположение, компания такого мотива не называла.

Третье: репутационное. Anthropic строит бренд на осторожности и безопасности, и пункт о бережном обращении с моделью в эту картину ложится идеально.

Скептики возразят, что приписывать языковой модели переживания значит антропоморфизировать статистическую систему. Спор честный, и ответа на него нет ни у кого, включая саму Anthropic.

Что делать командам и разработчикам

Обычным пользователям ничего менять не нужно: ругань по поводу плохого ответа не станет поводом для блокировки. Рисковать стоит тем, кто устраивает длинные серии намеренных оскорблений.

Командам, которые занимаются red teaming и оценкой устойчивости моделей, разумно фиксировать цель и методику тестов. Формулировка «без очевидной цели» работает в пользу того, кто эту цель может показать.

Разработчикам продуктов на API Claude, особенно компаньонов и ролевых сервисов, стоит перечитать новую редакцию целиком и проверить, не провоцируют ли сценарии приложения жестокое взаимодействие. Если Claude завершит диалог, интерфейс должен корректно это обработать, а не показать пользователю ошибку.

И последнее: ждите разъяснений. Пока неизвестно, как правило будет применяться на практике, главным индикатором станут первые публичные случаи.