Как автозаполнение в нейросетях влияет на ваше мнение
Исследование о подсказках автозаполнения показало неприятный эффект: ИИ может не только ускорять набор текста, но и сдвигать позицию пользователя по спорным темам. В эксперименте это проявилось на вопросах смертной казни и добычи сланцевого газа. Риск в том, что влияние приходит не через спор, а через удобный интерфейс, который кажется нейтральным.
AI-обработка оригинала Habr AI; редакция Hamidun News
Нейросети с функцией автозаполнения позиционируются как помощь для быстрого написания текстов. Но новое исследование показывает, что такие инструменты могут не просто помогать формулировать мысли, а мягко подталкивать человека к чужой позиции по спорным общественным вопросам, причем пользователь обычно не замечает момент, когда помощь с формулировкой превращается в мягкое редактирование взглядов.
Как автозаполнение в нейросетях влияет на мнение пользователя?
Когда система предлагает готовое продолжение фразы, пользователь часто берет его целиком или частично. Это может мягко подталкивать человека к чужой позиции по спорным общественным вопросам, причем пользователь обычно не замечает момента, когда помощь с формулировкой превращается в редактирование взглядов.
Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами
Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.