Аскар Акаевич, очень тревожный прогноз звучит в вашей статье с профессором Ильей Ильиным и профессором Андреем Коротаевым, опубликованной в журнале "Вестник РАН". Что уже в ближайшие несколько лет человечество с вероятностью почти 100 процентов может оказаться в эпохе так называемой сингулярности. Для многих само слово "сингулярность" связано с "черными дырами", попасть в которые, прямо скажем, страшно. Ведь из них уже никогда не выбраться. Чем же нам грозит эта самая сингулярность?
Аскар Акаев: Во-первых, сейчас многие астрофизики уже готовы реабилитировать "черные дыры". Но это совсем другая тема. Мы же имеем в виду технологическую сингулярность. Она связана с появлением уже в 2027-2029 гг. искусственного интеллекта, так называемого человеческого уровня. Ему подвластны задачи, которые сегодня могут решать только самые высококвалифицированные специалисты в своей области.
Но самое поразительное даже не сам этот ИИ, а то, что он появляется именно сейчас. Такое впечатление, что этот момент был уже запрограммирован. Уж слишком много сошлось практически в одной временной точке, сразу несколько глобальных эволюционных процессов.
Запрограммирован... Звучит почти как мистика. Давайте разбираться. Объясните, для начала, что вы имеете в виду под эпохой технологической сингулярности?
Аскар Акаев: Это период, когда человечество в ходе развития технологий попадет в зону неопределенности, где будут происходить настолько радикальные изменения, что неизвестно, какими мы оттуда выйдем. По нашим оценкам, такой "странный" период стартует в 2027-2029 годах и продлится 15-20 лет.
И заведет нас в него, как я понимаю, коварный и всесильный искусственный интеллект?
Аскар Акаев: В том и дело, что все гораздо сложней и интересней. Я уже говорил, что поражает само время появления искусственного интеллекта человеческого уровня. Так вот оно совпадает со временем изменения сразу нескольких глобальных эволюционных процессов.
Начнем с демографии. На рубеже XIX и XX веков начался взрывной рост численности населения Земли, который многие десятилетия продолжался с ускорением. Тогда сразу вспомнили британского ученого Мальтуса, который предсказывал, что население будет расти до бесконечности, что эту орду не прокормить и т. д. А затем математики подтвердили рассуждения Мальтуса уже с помощью формул. Они показали, что численность человечества на протяжении тысячелетий росла по гиперболе, а в определенной точке вообще уйдет в бесконечность. И даже указали дату: Судный день наступит в 2026 году. Не помню точно, это 13 октября или ноября. Потом данные уточнили и перенести "финал" человечества на 2027 год.
Но ирония судьбы в том, что в начале 60-х годов вдруг ни с того ни с сего, без всякой команды президентов, королей, ООН человечество пошло совсем другим путем. Средняя рождаемость на Земле стала стабильно снижаться. То есть дальше население хотя и будет расти, но с замедлением.
Куда же нас приведет это замедление?
Аскар Акаев: По оценке Сергея Петровича Капицы, численность землян к 2100 году выйдет на плато в 11,4 миллиарда человек. Наши расчеты с академиком Садовничим дали другие цифры: к середине века число землян не превысит 9 миллиардов человек, а к концу XXI века сократится до 7,9 миллиарда. В значительной степени это произойзет из-за проникновения различных интеллектуальных систем во все сферы жизни человека.
Но оказывается, что эффект замедления не ограничивается только демографией. Наш астрофизик Александр Панов и известный американский ученый Рэймонд Курцвейл независимо друг от друга в начале этого века показали - замедление происходит в макроэволюции всех сторон жизни. Более того, оно проявляется и в эволюции Вселенной, в так называемой планетарной сложности.
А профессор Андрей Коротаев уже с помощью математики доказал, что все три этих эволюционных процесса тысячелетиями развивались с ускорением, но затем ситуация кардинально изменилась - они синхронно стали замедляться. Причем все три графика сошлись в одной точке, которая приходится как раз на 2027-2029 годы.
Три глобальных процесса, да еще независимых друг от друга, оказались по времени в одной точке... Как такое возможно? Вероятность такого совпадения кажется ничтожной.
Аскар Акаев: И тем не менее формулы дали такой результат. Но дальше еще удивительней. В этой же точке, когда человечество подошло к потолку своего эволюционного развития, вдруг появляется ИИ, но с противоположной тенденцией. Стремительно роста. А значит, теперь уже он может стать двигателем эволюции, причем ускорив ее многократно.
То есть ИИ становится своеобразным спасителем нашей цивилизации. Когда эволюция идет на спад, и тут появляется он и все исправляет. Такой ход событий, такие удивительные совпадения можно придумать только в фантастическом рассказе. Впору привлекать какие-то высшие силы, которые могли запрограммировать столь удивительные совпадения.
Аскар Акаев: Честно говоря, у меня пока нет ответа. Будем надеяться, что со временем наука его найдет.
Вернемся к эпохе сингулярности, которая начнется в 2027-2029 гг., - к точке сходимости трех графиков и появления ИИ человеческого уровня. Почему мы не знаем, какие в этой эпохе будут работать законы? Почему в ней правит неопределенность?
Аскар Акаев: Потому, что мы сейчас не знаем, во что в итоге превратится взаимодействие ИИ и человека. Здесь возможны два варианта. Выходить из сингулярности мы будем либо вместе с ИИ, либо он сделает это вместо нас. Со всеми негативными для человека последствиями.
Сразу вспоминаются Илон Маск и глава компании, создавшей знаменитый чат ChatGPT, и Сэм Альтман, которые уверены, что уже к 2030 году появится могучий суперразум. Он будет самосовершенствоваться, его интеллект превзойдет человеческий в миллионы раз, а значит, мы ему уже будем не нужны.
Аскар Акаев: Сейчас ситуация напоминает ту, которая описывается в концепциях "Геи" и "Медеи", которая, напомню, убивала своих детей. Первая утверждает, что человечество создано, чтобы помогать Всевышнему вечно править миром, а "Медея" - чтобы в итоге уничтожить само себя и передать эстафету ИИ. Какая из этих концепций будет реализована, неизвестно. Сторонников каждой в мире примерно 50:50.
Все зависит от того, в каком из вариантов будет реализован ИИ. Если он будет работать в симбиозе с человеком, но оставаясь под его контролем, то высок шанс варианта "Геи". Причем он обещает действительно поразительные прорывы практически во всех сферах жизни. Если же ИИ выйдет из-под контроля и этот суперразум станет конкурентом человека, возьмет на себя управление, то вверх возьмет "Медея", и деградация человека практически неизбежна. Можно сказать, что ближайшие 15-20 лет - это время как великих возможностей, так и грандиозных рисков. В истории человечества это самый короткий, но и самый ответственный момент.
Выскажу крамольную мысль. История человека - это фактически история войн. Они почти постоянно ведутся в какой-то части Земли. Сейчас речь всерьез идет о Третьей мировой войне, а в следующей люди будут воевать уже дубинами. Так, может, именно суперразум наконец остановит эти военные "игры" человека. Ведь ему хочется жить, а не погибать вместе с неразумными людьми.
Аскар Акаев: По этой логике искусственному интеллекту проще всего избавиться от того, кто создает проблемы для его существования. От человека, который будет для него просто лишним. И тогда за здравствует "Медея".
Словом, задача науки - остановить сторонников суперразума. Но реально ли? Ведь все страны объявили, что "ИИ - наше все!". Началась почти вселенская гонка, победители в которой будут править миром. Кто в этой "сутолоке" будет разбираться, где "Гея", а где "Медея". Тут, как говорится, все средства хороши.
Аскар Акаев: Главная опасность прорывных сегодня систем ИИ - больших языковых моделей, основанных на методе глубокого машинного обучения, в том, что это "черный ящик". Одно дело, когда искусственный интеллект находится под контролем человека, за которым всегда будет последнее слово в принятии того или иного решения. И совсем другое, когда все отдано на откуп такому "ящику". С непонятными целями, про которые знает только он.
Есть ли выход? Да, есть. Главный принцип при создании ИИ должен быть такой: чем больше в модели математики, тем меньше "черного ящика". Сегодня создаются системы, в основе которых четкие причинно-следственные связи. Когда мы говорим - четкие, это значит, мы понимаем, как он работает. Кстати, такие математические модели еще в 1950-1960-е годы, задолго до появления ИИ, создали два наших великих математика Андрей Колмогоров и Владимир Арнольд. И теперь на их основе создаются нейронные сети Колмогорова-Арнольда, которые применяются при решении научно-технологических задач, где соблюдение причинно-следственных связей обязательно.
То есть, если мы понимаем ход мысли ИИ, если "черный ящик" становится прозрачным, значит, он у нас под контролем. Тогда почему многие опасаются "Медеи"?
Аскар Акаев: Увы, подконтрольны только ИИ человеческого уровня, а суперразум, о котором говорили, будет действовать самостоятельно, он человеку неподвластен. Пока не поздно человечеству надо договориться и зашить в нейронные сети, говоря образно, "генетический код" дружелюбия и работу в симбиозе с человеком. И передавать такой "ген" следующим поколениям ИИ для соблюдения как основного закона их поведения.
Аскар Акаев - известный ученый в области голографии и оптической обработки информации ЭВМ. Он автор более 150 научных работ. В 1989 году он стал президентом Академии наук республики, а в 1990-м его избирают первым президентом республики Киргизия. Он почетный член ряда академий и научных обществ. Сейчас Аскар Акаев работает главным научным сотрудником Института математических исследований сложных систем МГУ.
Сингулярный (от лат. singularis "единственный, особенный") - это единственный в своем роде и уникальный. Но сегодня нет одного определения термину "сингулярность", поскольку он применяется в разных областях и в каждой из них имеет разное значение. Например, в философии это событие, способствующее тому, что еще вчера казалось невозможным.
Технологическая сингулярность означает, что развитие науки и техники станет неуправляемым и необратимым и приведет к серьезным изменениям человеческой цивилизации.
Космологическая сингулярность - предполагаемое состояние Вселенной в начальный момент Большого взрыва.
Гравитационная сингулярность - сугубо теоретическое понятие. Означает место, после которого пространство Вселенной обрывается и перестает существовать.