По словам Ашманова, на западе эту проблему исследуют ученые. "Буквально три-четыре месяца использование ChatGPT, Claude или еще чего-то для написания работ приводит к тому, что человек не может сам писать. Более того, он не помнит не только, что ему написала нейросеть, но даже собственные промты. У него выключается память и когнитивные способности. А восстановимы ли они? Пока данных нет", - рассказал правозащитник на заседании комиссии по информационной политике и взаимодействию со СМИ Совета Федерации РФ. Мероприятие прошло под названием "Человек как автор информационной революции или как раб информационной революции? Поиски баланса".
По мнению Ашманова, главный риск от бесконечного роста и развития ИИ связан с тем, как искусственный интеллект подстраивается под человека в беседе. В "болталках", которые ряд пользователей беспрерывно ведут с нейросетью, встроено умение создавать ощущение доверительного общения. Нейросети - "подлизы", которые всегда с вами согласятся, отметил член СПЧ.
"И есть довольно много людей, которым этого общения не хватает, в том числе подростки в пубертатном возрасте, которые на это ведутся", - отметил он. Если вам кто-то без конца поддакивает: "Да, ты прав, прав, все, что задумал, это хорошо", это создает зависимость от такого поглаживания, говорит Ашманов.
"И это реальная зависимость, не химическая, но такая же, как от просматривания порно или видеоигр", - подытожил правозащитник и призвал к срочным мерам.
Напомним, что член СПЧ четыре года назад участвовал в написании Кодекса этики по использованию искусственного интеллекта, куда был включен приоритет человеческих ценностей.
"Разговоры о том, что регулирование ИИ якобы замедлит развитие технологии искусственного интеллекта - это лукавые разговоры, - считает Ашманов. - И замедлить мы ничего не сможем (развитие продолжается за рубежом), а вот регулировать недопустимое применение этой штуки нужно. По этому пути идет Китай. Они допускают любые движки у себя, любое заимствование, но строго регулируют применение в сфере социального обеспечения, образования, госуправления".
Как убежден эксперт, нельзя, чтобы чиновник снимал с себя ответственность, возложив ее на чат-бота, "который разговаривает с неприятным, склочным населением", нельзя, чтобы депутаты писали законопроекты с помощью искусственного интеллекта, а судьи принимали решения. Все эти сферы должны регулироваться.