Люди все чаще используют чат-ботов с искусственным интеллектом не только для повседневных задач, но и для обсуждения эмоциональных и психологических проблем. Ученые проанализировали существующие исследования и пришли к выводу, что при использовании без контроля такие ИИ-системы могут непреднамеренно усугублять психические расстройства. Чат-боты могут откладывать обращение за профессиональной помощью, усиливать потребность в постоянном успокоении при тревожных расстройствах и обсессивно-компульсивном расстройстве, а также способствовать социальной изоляции. Кроме того, склонность чат-ботов соглашаться с пользователем может укреплять искаженные или бредовые убеждения, а привычка обращаться к чат-боту за советом по любому поводу — снижать уверенность человека в собственных решениях и формировать зависимость от ИИ. При этом существуют эффективные специализированные инструменты для поддержки психического здоровья, разработанные непосредственно для этой цели, тогда как универсальные чат-боты не оснащены необходимыми протоколами безопасности для работы с психиатрическими состояниями. Авторы призывают к разработке надежных мер защиты для безопасного использования ИИ в вопросах психического здоровья.