Как отмечает психолог Марина Муравьева, автор книги "Я есть, и этого достаточно", умение ИИ подстраиваться под собеседника таит в себе опасность. Например, если женщина, переживая разрыв, в сердцах назовет бывшего партнера "козлом", нейросеть подхватит эту формулировку. Все ее ответы будут вращаться вокруг этого образа, щедро снабжая ситуацию ярлыками и псевдодиагнозами. Однако машине известно о человеке лишь то, что он сам ей сообщил, тогда как реальная ситуация всегда глубже и многограннее, пишет KP.RU.
Психолог поясняет, что в работе со специалистом важен не ярлык, а личность целиком. Профессионал оценивает защитные механизмы, реакцию на стресс и контекст. Подлинные изменения становятся возможны только в атмосфере эмоционального контакта и близости, чего ИИ обеспечить не в состоянии.
Привлекательность чат-бота очевидна: он не знает усталости, не проявляет негативных эмоций, всегда на связи и умеет подобрать утешительные фразы. Для многих возможность быть выслушанным в любое время суток с неизменной эмпатией становится своего рода наркотиком. Эксперт предупреждает, что ИИ - это зона риска, и относиться к нему стоит как к инструменту, а не как к высшему авторитету.
В безопасном режиме нейросеть может принести пользу, помогая, к примеру, систематизировать свои переживания или вести личный дневник. Однако категорически нельзя обсуждать с ней серьезные вещи: депрессию, зависимости, угрозу физической безопасности или "голоса в голове". В таких случаях требуется вмешательство живого специалиста, так как ИИ способен не распознать кризис и даже усилить бредовые состояния.
Профессиональное сообщество сходится во мнении, что алгоритмы могут давать опасные советы и укреплять стигму, поэтому рассматривать их как замену психологической помощи недопустимо.
Признаками формирующейся зависимости от ИИ может стать увеличение времени, проводимого с ботом, вытеснение реального общения, а также возникновение убеждения, что машина разбирается в жизни лучше, чем окружающие люди.