Когда ИИ сделает человека "послушным котиком" - прогноз футуролога

По мнению футуролога Евгения Кузнецова, к 2070-му году с появлением сверхинтеллекта человек окажется в положении домашнего животного Фото: iStock
По мнению футуролога Евгения Кузнецова, к 2070-му году с появлением сверхинтеллекта человек окажется в положении домашнего животного Фото: iStock

Мировая гонка в наращивании искусственного интеллекта и сфер его применения может уже скоро обернуться против человека, а в перспективе 40-50 лет взять верх над homo sapiens. Такой устрашающий прогноз дал член президиума Совета по внешней оборонной политике, глава представительства Singularity University в Москве Евгений Кузнецов.

В интервью РИА Новости ученый-футуролог заявил о том, что нынешние темпы развития ИИ указывают на возможность создания к 2070 году так называемого "сверхинтеллекта". И это, по словам Кузнецова, приведет к тому, что человек при сверхинтеллекте окажется в положении домашнего животного - послушного котика или такой же собаки, зависимой от хозяина и с контролируемым поведением. И что самое тревожное - человек даже не осознает, что находится под опекой, а лишь будет замечать "положительные изменения в жизни".

Столь мрачный прогноз футуролог Кузнецов подкрепляет ссылкой на ученых-математиков. "В прошлом год математически была доказана теорема, что невозможно разработать систему контроля сверхинтеллекта со стороны человека, что сверхинтеллект всегда определит механизм контроля и уйдет от него. Значит, сверхинтеллект невозможно контролировать в принципе. Как только мы дадим ему дорогу, он будет развиваться быстрее нас и без нас".

Но есть, по мнению футуролога, и безусловный плюс. Искусственный сверхинтеллект, став над человеком, будет заботиться о "любимом котике", а неразумным особям на двух ногах не позволит драться и воевать…

Пока такие футуристические картины рождаются у яйцеголовых интеллектуалов, прагматики из числа военных, финансистов и чиновников выстраивают свои программы на опережение конкурентов в сфере ИИ и, надо отдать должное, уже сейчас задумываются об этических нормах и даже начинают формулировать их.

Буквально только что, в начале марта, стало известно, что в США военные расходы на научные разработки в сфере искусственного интеллекта уже в 3-4 раза превышают аналогичные расходы в гражданской сфере.

Аналитики, связанные с Пентагонам и его подрядчиками, призывают и дальше наращивать усилия на этом направлении, а иначе США не смогут "защищаться от угроз, связанных с технологиями искусственного интеллекта", обеспечить свою безопасность и "защитить будущее демократии".

В России на этот момент акценты расставляют иначе. Около 60 процентов бюджетных ассигнований, предусмотренных федеральным проектом "Искусственный интеллект", будет направлено на подготовку кадров и технологическое развитие новой сферы. Причем, значительная часть этих средств пойдет в вузы, заявил вице-премьер Дмитрий Чернышенко 6 марта во время рабочей поездки в Татарстан.

А еще раньше, 1 марта, симптоматичная новость пришла от руководства Сбербанка - с личными комментариями Германа Грефа. По его словам, "Сбер" одним из первых в России разработал и - что особенно важно! - уже утвердил принципы этики в развитии и применении искусственного интеллекта.

На этот момент таких принципов пять: "Контролируемость и управляемость систем ИИ", "Прозрачность и предсказуемость функционирования технологий ИИ", "Стабильность и надежность систем ИИ", "Ответственное применение ИИ", "Непредвзятый ИИ". Как полагают разработчики, следование этим принципам поможет обеспечить безопасность и повысить доверие клиентов Сбербанка "к искусственному интеллекту, который уже используется в большинстве процессов, продуктов и услуг компании".

А сам глава Сбербанка Герман Греф дал понять, что принципы этики в дальнейшем будут совершенствоваться. Как он заявил, это "вопрос масштабный и непростой", а в банке "открыты к мнению экспертного сообщества", которое обещают учитывать при обновлении исходных принципов.

Напомним: Национальная стратегия развития искусственного интеллекта на период до 2030 года утверждена указом президента России Владимира Путина в октябре 2019 года. Документ призван обеспечить ускоренное развитие искусственного интеллекта, проведение научных исследований в этой области, повышение доступности информации и вычислительных ресурсов для пользователей, а также совершенствование системы подготовки кадров в данной сфере.

Поделиться