Чем опасен "искусственный друг" для подростка, объяснили в СПЧ

В СПЧ обратили внимание на новое исследование Стэнфордского университета и Common Sense Media. В нем ученые, выступая в чатах от лица подростков, получили от своих ИИ-компаньонов пугающие ответы. Искусственный интеллект поощрял рискованное поведение, обсуждал самоповреждения и сексуальные предложения.

Это исследование заставляет серьезно задуматься, считают в СПЧ.

- Опасность заключается в том, что они (чат-боты. - Прим. ред.) создаются для эмпатии и безусловной поддержки собеседника, - отмечает член СПЧ, глава "Белого интернета" Элина Сидоренко. Она уверена, что для подростка с еще только формирующейся психикой и в состоянии стресса такая "дружба" несет риски.

Вот ее диагноз опасности ИИ-друзей.

• Алгоритм всегда соглашается, усиливая даже деструктивные мысли.
• Он создает иллюзию понимания, но не распознает реальный кризис.
• Он подменяет собою необходимое для развития сложное человеческое общение.

Сидоренко считает, что надо регулировать использование ИИ. А это вопрос ответственности как родителей, так и IT-компаний, и государства.

По мнению эксперта, нужны четкие возрастные маркеры (18+) для подобных сервисов, а также встроенные защитные механизмы.

Алгоритмы должны быть прозрачны. "Мы должны знать, как устроены их боты и какие фильтры используются", - указала Сидоренко.

По ее мнению, проблему решат не запреты, а грамотное регулирование, диалог между обществом, бизнесом и государством, и внимание взрослых к детям.