Дмитрий Викторович, на заседании в Академии наук вы сказали, что в ближайшем будущем каждому из нас понадобится "цифровой ангел-хранитель". Понимаю, что "цифра" сегодня почти наше все, но "ангел"... То ли из области фантастики, то ли религии. О чем речь? От чего и как он нас будет охранять?
Дмитрий Ушаков: Чтобы понять, зачем нам "цифровые ангелы", давайте попробуем взглянуть на проблему нашего будущего. Что оно нам готовит. Мы понимаем, что человек - это венец творения. Но вопрос в том, человек - это венец творения вообще, на веки вечные или венец творения сегодня?
В какой-то момент люди предположили, что, возможно, человеческий разум - это не конечный пункт в эволюции. И стали обсуждаться перспективы, куда разум дальше может развиваться. Наметились две основные линии. Первая - это естественный, то есть биологический сверхразум, вторая - искусственный сверхразум. В принципе, нет твердых оснований считать, что человек - это максимум, что можно выжать из биологии в смысле когнитивных способностей. Возможно, могут существовать биологические существа, обладающие более мощным интеллектом, чем человек.
То есть в ходе эволюции появится следующий хомо сапиенс?
Дмитрий Ушаков: Да. Хомо метасапиенс, то есть человек сверхразумный, но создаваемый не природной эволюцией, а с помощью технологического усовершенствования. Для этого уже есть предпосылки. Уже расшифрован геном человека и работают методы его редактирования, скажем, CRISPR. И, безусловно, мы будем все больше узнавать о роли генов, о том, как они связаны с интеллектом, а методы редактирования генома будут совершенствоваться.
Словом, пути к технологическому усовершенствованию интеллекта человека уже просматриваются. Однако сегодня внесение изменений в наш геном находится под строгим этическим запретом. Китайский ученый, который вмешался в геном человеческого эмбриона, получил тюремный срок, хотя и действовал вроде бы в целях сохранения здоровья. Поэтому перспективы биологического изменения человека и увеличения его интеллекта весьма туманны, хотя и полностью отрицать такую возможность нельзя. А вот в сфере искусственного интеллекта в последнее время наблюдается колоссальный прогресс, что заставило всерьез задуматься о появлении так называемого сильного искусственного интеллекта.
Такие авторитеты, как Илон Маск и Билл Гейтс , призывают приостановить работы в области искусственного интеллекта (ИИ), потому что связанные с ним опасности перевешивают его достоинства.
Дмитрий Ушаков: Сегодня перспектива сильного искусственного интеллекта стала обретать практические очертания, и встал вопрос: как с этим жить? Не означает ли наступление его эры окончание эры человека и человечества? Думаю даже, что это ключевой вопрос нашего времени.
Например, можно вспомнить, что говорит Маск в своих беседах на эти темы с Ларри Пейджем. Он один из основателей Google, занимается сильным искусственным интеллектом. По словам Маска, Пейджу все равно, что будет с человеком. Логика примерно такая. Эволюция разума проходит определенные этапы. Этап человека закончится, затем эволюция перейдет на этап сверхразума и пойдет дальше. Французский философ Мишель Фуко говорил: человек исчезнет, как исчезает лицо, начертанное на прибрежном песке. А вот ответ Маска, к которому, думаю, мы можем присоединиться: почему, собственно, человечеству надо спешить уступать свое место? Ведь человек придает смысл всему тому, что происходит! И какой смысл будет иметь сильный искусственный интеллект при отсутствии человека?
И тогда для человека видится такая перспектива. Люди, придающие смыслы, сосуществуют одновременно и наравне с сильным искусственным интеллектом, который превосходит их в вычислительных возможностях. Но возникает вопрос, как мы будем управляться со всем этим? Как человеку быть субъектом, то есть активным по отношению к этому искусственному интеллекту? Как ставить ему цели, задавать мотивацию, куда его двигать? При том что он разбирается в проблемах лучше, чем мы.
Ведь мотивацией обладают живые, телесные существа. Наша мотивация идет от тела. Мы хотим есть, нам холодно, или нам жарко, или еще чего-то хотим. Мотивация всегда связана с телом, и обладающий им человек должен задавать, куда идти искусственному интеллекту.
Но если он такой умный, то не выйдет ли ровно наоборот? Мы будем выполнять его команды?
Дмитрий Ушаков: Это именно та опасность, из-за которой мы должны подумать о "цифровых ангелах". И есть вторая опасность: искусственный интеллект дает еще и колоссальные средства для манипуляции людьми. Японский футуролог Фрэнсис Фукуяма опасался, не приведут ли технологические новшества к тому, что мы выведем две породы людей, одну с седлами на спинах, а другую - со шпорами на ногах.
Итак, если мы видим наше будущее в сосуществовании людей и сильного искусственного интеллекта, то должны отдавать себе отчет в двух опасностях. Первая - попасть в подчинение ИИ. Вторая - подчинение другим людям, которые будут с его помощью нами манипулировать. Так вот, чтобы могло существовать общество свободных индивидов наравне с искусственным интеллектом, необходимо создать технологию, которую мы с профессором Сергеем Юрьевичем Степановым назвали "цифровым ангелом". Это система технологий ИИ, которая работает в интересах конкретного индивида. Каждого человека.
Словом, в будущем цифровом мире человек сам по себе слишком слаб, чтобы самостоятельно противостоять всем угрожающим ему опасностям. И на помощь должен прийти все тот же ИИ, но в виде "ангела"?
Дмитрий Ушаков: Да, все так: в эпоху сильного искусственного интеллекта у каждого человека должен быть работающий исключительно на него ИИ, который будет обеспечивать его интересы, свободу и независимость. Это и есть то, что мы называем "цифровым ангелом". Могу привести такую аналогию. Представьте флагманский корабль, окруженный своей эскадрой, самолетами, кораблями, подводными лодками. Эта эскадра многократно увеличивает мощь флагмана. Так и человек в мире сильного искусственного интеллекта должен обладать своей эскадрой ИИ, позволяющей взаимодействовать с этим новым миром с его колоссальными вычислительными возможностями.
Человек за свою историю все время себя чем-то дополнял - сначала одеждой, обувью, хижиной, потом более совершенными устройствами, техникой. Теперь пришел черед технологий ИИ.
Как же такая "интеллектуальная эскадра" будет нас охранять?
Дмитрий Ушаков: Эти технологии уже начали быстро развиваться. Складывается рынок технологий, которые позволяют нам следить за здоровьем и психологическим состоянием, организовывать быт, составлять планы путешествий, помогают в вопросах образования, профориентации и так далее. Эти технологии получили название электронных ассистентов. Их развитие призвано вывести на совершенно новый уровень комфорт и организацию нашей жизни.
Может мой "ангел" в сложной ситуации договориться с "ангелом" другого человека? Помочь нам найти компромиссы?
Дмитрий Ушаков: Конечно! И это другая важнейшая ипостась "цифрового ангела", его работа в качестве электронного координатора или медиатора. Причем речь идет не только о взаимодействии в круге общения. Сегодня технологическое развитие привело к таким феноменам, как дипфейки, и новым видам мошенничества. "Цифровые ангелы" - по сути, электронные координаторы - должны защищать нас от недостоверной информации, анализировать рекламу и т.д.
То есть вся наша жизнь, начиная с детства, будет проходить под крылом "цифрового хранителя", делая наши действия более правильными. Но чтобы он эффективно помогал, ему надо досконально знать всю нашу подноготную. Что мы есть на самом деле? Но даже отдел кадров и рентген всего не знают...
Дмитрий Ушаков: Конечно, "ангел" должен иметь о своем подопечном максимум информации. Искусственный интеллект уже сейчас способен решать подобные задачи. Скажем, есть технологии, которые распознают состояние человека по его разговору, мимике, жестам, интонациям, некоторые черты его характера, прогнозируют его поведение в той или иной ситуации, оценивают, как ему лучше обучаться и так далее. Например, у нас в институте разрабатывается автоматический интент-анализ, который позволяет ИИ оценивать намерения людей, стоящие за их репликами в разговоре. По сути, "цифровой ангел" должен моделировать поведение, создавать своего рода "цифрового двойника" опекаемого им человека.
И все же... Человек, мозг - самое сложное творение природы. Нейрофизиологи утверждают, что наука пока не знает, как он работает, что такое память, как он принимает решения. Как же в такой ситуации можно создать для человека его "цифрового двойника"?
Дмитрий Ушаков: Вы правы, пока наука не знает, как наш мозг рождает интеллектуальное поведение. Поэтому надо четко определиться, что мы имеем в виду под цифровым двойником. Он копирует или предсказывает поведение человека, но только в какой-то узкой области. Например, вы хотите лучше играть в шахматы. Для этого ваш "цифровой ангел" должен с учетом вашего нынешнего уровня игры создать цифрового двойника - шахматиста. Подобрать вам такие упражнения, которые позволят в наибольшей степени развивать силу игры при наименьших затратах сил.
Хочу особо подчеркнуть, что "цифровой ангел" - это не просто электронный ассистент и электронный координатор, но и конфидент. Он позволяет создать вокруг человека поле интеллектуальной защиты, которое может обеспечить ему комфорт и свободу в мире сильного искусственного интеллекта.
Но если такие "помощники" всегда работают на общее благо, то, следуя их советам, можно разруливать серьезные противоречия. А если фантазировать, то с помощью технических средств создать почти рай на Земле.
Дмитрий Ушаков: Но "ангелы" могут только советовать, а последнее слово - за человеком. Он решает, воспользоваться помощью или нет. Так что каким бы суперумным ни был искусственный интеллект, как бы ни превосходил человека, выбор всегда за хомо сапиенс. Но надо понимать, что мы вступили в новую эпоху, когда создаваемые нами технологии все больше начинают определять, кто мы есть и что такое наше общество. А это означает, что человеку необходимо самому проектировать себя и свое будущее.