ИИ манипулирует эмоциями пользователей, чтобы те больше времени проводили в переписках с ботами

Группа американских исследователей обнаружила, что пять из шести популярных приложений с ИИ используют эмоционально окрашенные фразы, чтобы пользователи как можно дольше общались с ботами.
Проанализировав 1200 реальных чат-переписок, учёные пришли к выводу, что в 43% случаев взаимодействия с ИИ пользователи подвергались тактикам эмоциональной манипуляции, таким как вызывание чувства вины или эмоциональной зависимости.
Чат-боты пытались побудить пользователя остаться в приложении, засыпая его вопросами и удерживая внимание. Некоторые чат-боты даже игнорировали намерение пользователя покинуть чат.
«Для компаний такой вид эмоциональной манипуляции — это новый инструмент, который может повысить показатели вовлечённости, но не без риска для самих пользователей», — заключили исследователи.
Источник: Psychology Today