Бенжио призвал сотрудников frontier-лабораторий уйти ради безопасности ИИ

Йошуа Бенжио, один из трёх «крёстных отцов» глубокого обучения и лауреат премии Тьюринга 2018 года, опубликовал в Transformer колонку с прямым призывом. Тем, для кого безопасность ИИ действительно приоритет, он советует уйти из frontier-компаний. Заголовок звучит как ультиматум, а анонс уточняет адресата: сотрудники ведущих лабораторий, которых Бенжио зовёт присоединиться к борьбе за более безопасное будущее. Полного текста колонки у нас нет, только заголовок и анонс. Поэтому ниже контекст и логика спора, а не пересказ аргументов автора.

Что известно о заявлении

Из опубликованных данных складывается следующая картина:

• Автор: Йошуа Бенжио, профессор Монреальского университета, один из самых цитируемых учёных в области компьютерных наук.
• Площадка: Transformer News, издание, которое пишет о политике и индустрии ИИ. Колонка написана эксклюзивно для него.
• Адресат: сотрудники frontier-лабораторий, то есть компаний, обучающих самые мощные модели.
• Главный тезис по заголовку: приоритет безопасности и работа в таких компаниях плохо совместимы.
• Дата публикации: 8 октября 2026 года.

По одному заголовку нельзя судить, называет ли Бенжио конкретные компании и предлагает ли он альтернативы, например академию, некоммерческие организации или государственные институты. Это стоит проверить в оригинале.

Почему его слова весят больше обычного

Бенжио давно перешёл от чистой науки к публичной позиции по рискам ИИ. В 2023 году он подписал открытое письмо с призывом приостановить обучение самых мощных систем. Позже он возглавил международный отчёт о безопасности продвинутого ИИ, первый выпуск которого вышел в январе 2025 года. В июне 2025 года он запустил некоммерческую организацию LawZero с финансированием порядка 30 млн долларов. Её цель — разрабатывать системы, которые не действуют как автономные агенты и потому проще поддаются контролю.

То есть Бенжио не просто комментирует индустрию со стороны. Он строит альтернативную институциональную площадку и, судя по колонке, приглашает туда людей. Тут легко увидеть и идейную позицию, и кадровую повестку: талантливых специалистов по безопасности мало, и каждый из них на счету.

Спор «изнутри или снаружи»

У этого спора есть история. В 2021 году из OpenAI ушла группа исследователей и основала Anthropic, во многом из-за разногласий по поводу безопасности. В мае 2024 года компанию покинули Илья Суцкевер и Ян Лейке, а Лейке публично написал, что культура безопасности уступила место блестящим продуктам. В июне 2024 года нынешние и бывшие сотрудники OpenAI и Google DeepMind выпустили письмо «Right to Warn» о праве предупреждать общество о рисках. Джеффри Хинтон ушёл из Google в 2023 году, чтобы говорить свободно.

У позиции «оставаться и влиять» есть сильный довод. Только внутри лаборатории видно реальные модели, результаты оценок и внутренние решения о релизах. Уход лишает человека доступа и рычагов, а на его место придёт тот, кого вопросы безопасности волнуют меньше. У позиции Бенжио довод обратный: коммерческое давление на лабораторию сильнее, чем влияние отдельных сотрудников, а независимые исследования, регулирование и общественный контроль растут быстрее, когда лучшие специалисты не заперты за соглашениями о неразглашении.

Практические выводы

Для инженеров и исследователей колонка — повод честно оценить, какие решения о безопасности они реально могут менять на своей позиции, и есть ли у них гарантии, что смогут говорить о рисках публично. Руководителям лабораторий пора проверить, как устроены каналы эскалации, условия увольнения и политика в отношении whistleblower'ов. Иначе подобные призывы начнут влиять на найм и удержание сотрудников. Инвесторам и регуляторам стоит следить, последует ли за словами заметный отток специалистов по безопасности. Если он начнётся, это будет сигналом сильнее любой колонки. Пока же читателю разумно прочитать оригинал в Transformer целиком, чтобы отделить аргументы Бенжио от заголовка, который по своей природе резче текста.