Помимо явных плюсов (эффективность управления, военные успехи, совершенствование работы крупных организаций и банков) есть угроза дегуманизации. Человек попадает в зависимость от новых технологий, что может исковеркать его суть.
Доклад представил глава СПЧ Валерий Фадеев на заседании комиссии по информационной политике и взаимодействию со СМИ под названием "Человек как автор информационной революции или как раб информационной революции? Поиски баланса". Он напомнил: президент России не раз подчеркивал, что нельзя допустить глубокого разделения общества на цифровую элиту и тех, кого обучат бездумно нажимать на кнопки айфона.
Авторы пишут в докладе: "Главная угроза эпохи - не фантастическое восстание машин, а мягкое и никем не объявленное расчеловечивание, превращение человека из субъекта истории здравого смысла в объект профилирования, коррекции и управления". Фадеев комментирует: похоже, Страшный суд начнется с тихого угасания человечества, с превращения людей в объект управления и коррекции.
По его словам, наша победа в Великой Отечественной и во Второй мировой войне была победой гуманистического духа и цивилизации над злом, которое вело к расчеловечиванию. В результате была создана Организация объединенных наций, принята Декларация прав человека, основная идея которой - борьба против тирании и угнетения.
"Угнетение, в том числе и то, с которым мы начинаем сталкиваться сейчас, угнетение со стороны технологий и тех, кто владеет этими технологиями", - подчеркнул Валерий Фадеев.
Он привел пример из жизни СМИ: "Яндекс заработал в прошлом году на рынке рекламы 450 миллиардов рублей. Процесс, который начался в нулевые годы, привел к тому, что почти все деньги с рекламного рынка ушли на платформы и агрегаторы".
Как подчеркивается в докладе, алгоритмические среды работают теперь и с ядром личности: с вниманием, памятью, эмоциональными реакциями, способностью к суждению, волей, с привычками общения. Рекомендательные системы решают, что человек видит и слышит, какой путь развития будет у ребенка. "Искусственный интеллект будет учить детей. Сомнительная история! Будет задавать траекторию жизни ребенка? Раньше это называлось судьба", - иронизирует глава СПЧ.
Вопрос ИИ, считают эксперты, не технологический, а социальный и политический. Но в стране в моде книги по футурологии. Самые популярные авторы - Рэй Курцвейл и Юваль Ной Харари. Первый считал, что искусственный интеллект превзойдет человеческий и станет самосовершенствующимся, а второй говорит о потере контроля над ИИ.
"Курцвейл - лоббист, работает в Google, все это знают. Харари, на мой взгляд, просто шарлатан. Его идеи должна обсуждать комиссия по лженауке. Миллионными тиражами издают его книги, а мы что молчим? Мы в конце концов великая интеллектуальная нация. Надо свою позицию в отношении ИИ вырабатывать и миру ее предлагать", - очень эмоционально заявил Фадеев.
Как глава Совета по правам человека, он отметил те статьи Конституции, которые "размываются" компаниями, использующими искусственный интеллект.
Например, в статье 19 государство гарантирует равенство прав и свобод гражданина независимо от пола, расы, национальности и также других обстоятельств. Однако дискриминация, по словам Фадеева, происходит, когда часть российских граждан, пожилые и живущие в отдаленных населенных пунктах, не находясь в цифровой среде, лишаются своих прав. Или статья 23: каждый имеет право на неприкосновенность частной жизни, личную и семейную тайну. И 24-я статья: сбор и хранение, использование и распространение информации о частной жизни лица без его согласия не допускаются.
"Где у нас тайна частной жизни? Про каждого из нас очень быстро за очень небольшие деньги можно собрать столько информации, сколько КГБ не снилось, - комментирует Фадеев. - Мне скажут, здесь в статье 24.1 уточнение - "без согласия не допускается", а вы все согласились! Но мы были поставлены в такие условия, что мы не могли не согласиться. Либо человека удаляют из этой новой цифровой жизни, либо надо соглашаться".
Глава СПЧ напомнил, что Цукерберг 15 лет назад заявил: "Тайны частной жизни больше нет", и это позиция ИТ-гигантов Силиконовой долины. Но почему в России должны безропотно с этим соглашаться? "Все произошло, зачем городить огород? А я не согласен! Если молодой человек на выпускном вечере напился, это еще не означает, что он станет алкоголиком", - привел забавную аналогию правозащитник.
Сегодня человек в информационных системах - это данные, профиль, рейтинг, прогноз, цифровой след. И какие-то действия над профилем пользователя могут изменить биографию человека, ведь это доступ к работе, к кредиту, к образованию, а значит, и к репутации.
"Алгоритм, опирающийся на прошлое, не должен стать приговором. Человек - не решение, человек - это поступок", - пишут авторы доклада и предлагают свои "красные линии".
Первая: фундаментальные решения о жизни, теле и природе человека не должны быть прерогативой цифровых систем.
Вторая: правосудие, законотворчество, приговоры не могут возникать без человеческого авторства.
Третья: культурное производство в его смыслообразующем ядре нельзя передавать машине.
Четвертая: когнитивная сфера развивающейся личности - ребенок не должен становиться объектом автономного воспитателя.
Пятая: абсолютная линия недопущения автономных систем к управлению ядерным оружием и другими средствами необратимого ущерба.
"Нам необходимо свое видение развития мира в этой сфере. Государство-цивилизация со своей историей, со своими ценностями не должно плестись в хвосте Силиконовой долиной. К этому призывают авторы этого доклада. Наглее надо быть, в хорошем смысле слова, увереннее в себе. Мы войну ведем с целым Западом. И нам нужно вырабатывать жесткие, ясные позиции. Как в 1945-м мы победили, так и сейчас мы должны победить. И это вопрос не только военный, но и гуманитарный, ценностный", - подвел итоги Валерий Фадеев.