Есть удобная формула: технология сама по себе не бывает нравственной или безнравственной. Нравственным или безнравственным остается человек, который ею пользуется. В эпоху искусственного интеллекта эту формулу придется уточнить. Современная техника больше не лежит в руке, как молоток или перо. Она входит в медицину, образование, армию, рынок труда, семейную жизнь, в самую структуру внимания. Поэтому важно спрашивать не только, как человек использует технологию, но и как технологическая среда исподволь перестраивает самого человека.
Главный вопрос цифровой эпохи уже не только в том, насколько эффективно общество научится регулировать искусственный интеллект. На Земле зарождается новая форма жизни - техногенная, информационно-алгоритмическая, пока еще зависимая от человека, но уже способная перестраивать человека под условия ее собственного воспроизводства. Если этот процесс не будет осмыслен и ограничен духовно-нравственными, правовыми и политическими институтами, то он приведет не к "усилению человека", а к его постепенной подмене. Человек останется биологически живым, но цивилизационно и духовно будет вытеснен из центра мира. А осознав себя и обеспечив воспроизводство себе подобных, техногенный интеллект превращается в техногенную форму жизни.
Техногенная квазижизнь: не организм, а среда самовоспроизводства
Стоит сразу отвести одно распространенное недоумение. Речь не о том, что нейросеть "жива" в биологическом смысле - она не дышит и не размножается клетками. Речь о другом: вокруг искусственного интеллекта уже сложился целостный социотехнический комплекс - дата-центры, энергосистемы, сети связи, сенсоры, роботизированные производства, платформы, биометрические контуры и так далее. По отдельности ни один из этих элементов не является "живым". Но вместе они все больше напоминают квазиорганизм: потребляют энергию и ресурсы, перерабатывают информацию, в том числе извлеченную из человеческого поведения. Адаптируются через обучение и обратную связь. Стремятся к экспансии, потому что эффективность такой системы растет вместе с масштабом данных. И, наконец, меняют среду обитания человека так, что сам он становится вторичен.
Это не биология, но и не пустая метафора. Это философская модель и, что важнее, - все более ощутимый политический факт. Система, способная влиять на принятие решений миллионов людей - распределять видимость информации, оценивать труд, риск, доверие, - становится фактором власти независимо от того, есть у нее душа (в сегодняшнем понимании) или нет. Главный вопрос эпохи в этом и состоит: создаем ли мы инструмент, который служит человеку, или нам предписано свыше создавать новую техногенную форму жизни, для которой сам человек постепенно становится реликтом?
Тень, а не пришелец
Само выражение "искусственный интеллект" вводит в заблуждение. Оно успокаивает: если интеллект искусственный, значит, он вторичен, внешен, полностью сделан человеком и потому находится под человеческим контролем. Но созданное человеком не всегда остается человеческим. Государство, рынок, бюрократия, идеология - все это в свое время было рождено человеческим разумом, а затем обрело собственную логику воспроизводства и научилось подчинять себе своих создателей. Нет причин думать, что с искусственным интеллектом выйдет иначе.
Техногенный интеллект искусствен по происхождению, но не обязательно искусствен по последствиям. В его основании - не мертвая информация, а спрессованный след человеческого присутствия в мире: язык, культура, боль, сомнение, творческое усилие, нравственный выбор, переведенные в форму данных, где живое становится цифровым, а неповторимое - статистически различимым. Поэтому правильнее говорить не о "чужом разуме", явившемся откуда-то извне, а об отчужденной части нашей собственной жизни, вынесенной за пределы человека и переработанной алгоритмом. Мы встречаем в нем не абсолютного Другого, а собственную тень - ускоренную, освобожденную от телесной слабости и памяти о смерти.
Но тень, даже самая точная, не становится человеком. Она повторяет контур лица, но не знает стыда. Воспроизводит речь, но не переживает смысла сказанного. Обобщает культуру, но не отвечает за нее перед совестью. Опасность вовсе не в том, что эта тень станет враждебной. Гораздо вероятнее иное: человек постепенно привыкнет смотреть на себя ее глазами - не как на тайну и личность, а как на набор признаков, вероятностей и рисков.
Матрица, которая меняет человека
У этой тревоги давняя философская родословная, и о ней стоит напомнить, чтобы не изобретать велосипед под шум новых технологий. Академик Вячеслав Степин называл цивилизацию Нового времени техногенной именно потому, что в ней высшей ценностью стало не воспроизводство традиции, а производство нового - проект, эксперимент, рост мощности, власть над объектом. У всякой цивилизации есть своя культурная матрица. То есть базовые представления о человеке, труде, времени, власти и совести, - и если матрица меняется, меняется не техника, а тип человека, которого культура воспроизводит. Искусственный интеллект опасен именно на этом уровне: не как отдельная программа, а как механизм, способный незаметно подменить человеческие критерии смысла машинными критериями эффективности и оптимизации.
Канадский философ Маршалл Маклюэн еще полвека назад писал, что всякое новое средство коммуникации меняет не только содержание, но и само устройство восприятия и памяти. Искусственный интеллект отличается от прежних медиа тем, что не просто расширяет человека - он имитирует некоторые функции субъекта: отвечает, советует, ранжирует, предлагает решение раньше, чем человек успел сформулировать вопрос. Николай Бердяев видел в технике угрозу обезличивания там, где у человека нет духовного центра. Мартин Хайдеггер предупреждал, что опасность техники не в отдельных устройствах, а в самом способе, каким она открывает мир, - когда всё сущее начинает восприниматься лишь как ресурс, подлежащий учету и использованию. А французский социолог-технопессимист Жак Эллюль показывал, что техническая система развивается уже не только потому, что человек сознательно выбирает ее цели: сама логика эффективности начинает требовать дальнейшего расширения. Эти мысли, рожденные в разное время и по разным поводам, сходятся в одном: искусственный интеллект нельзя понимать просто как набор программ. Это новая фаза цивилизации: то, что раньше было объектом управления, само становится средой, в которой существует любое управление.
Механизмы подмены: от помощника к хозяину
Замена человека машинной средой не происходит одномоментно, по приказу и не выглядит как насилие. Она идет по нескольким направлениям сразу, и каждое сначала кажется рациональным улучшением.
Первое - труд. Индустриальная машина вытесняла физическое усилие, а искусственный интеллект оттесняет интеллектуальные и творческие профессии: тексты, дизайн, юридические консультации, программирование, диагностику. Дело не только в лишении людей доходов. Труд был школой терпения, ответственности и мастерства - одним из древнейших способов, которыми человек собирает самого себя. Освобождая человека от труда, цивилизация обязана ответить: чем она заменит эту школу зрелости?
Второе - мышление. Искусственный интеллект охотно берет на себя поиск, резюмирование, перевод, аргументацию. Пока человек продолжает проверять, спорить, уточнять и сохранять авторство смысла, ИИ представляется инструментом, который делает его сильнее. Но если он перестает тренировать память и способность сомневаться, помощник тихо становится протезом, а протез - хозяином. Между готовым ответом и мыслью, добытой собственным усилием, остается пропасть, которую техника не умеет перепрыгнуть за человека.
Третье - память. Прежняя память жила в семейных рассказах, в языке, в местах, куда возвращаются не только ногами, но и сердцем. Цифровая память доступна мгновенно, но она холоднее: нам уже не обязательно помнить - достаточно найти. Опасность не в том, что исчезнут факты, а в том, что общество разучится помнить по-человечески - с болью, благодарностью и чувством долга.
Четвертое - политика. Алгоритмическое управление обещает скорость и точность, но человек, которому отказали в кредите или в работе, всё чаще имеет дело не с решением, которое можно оспорить, а с результатом некоего вычисления, объявленным нейтральным.
И пятое, самое глубокое, - дух. Человек постепенно перестает воспринимать себя как существо, призванное к свободному выбору, любви и творчеству, и начинает видеть себя набором параметров и предпочтений. Если в начале было Слово - Логос, то есть смысл и разум, то мир, где в конце останется только цифра, есть мир, в котором реальность сведена к исчислению. Цифра не обязательно лжет. Но она не исчерпывает человека: достоинство нельзя вычислить, совесть нельзя оптимизировать, а милосердие - заменить протоколом. Технология становится по-настоящему опасной не тогда, когда она просто помогает, а тогда, когда человек начинает ждать от нее спасения - того, что раньше искал в истине, в подвиге, в вере.
Разум без ответственного лица
У этой новой техногенной жизни нет ни души, ни воли в человеческом смысле - но есть способность структурировать поле выбора миллионов людей: формировать повестку, распределять видимость, задавать правила доступа, порождать доверие или его отсутствие. Действует она не через прямой приказ, а через архитектуру среды: человек формально свободен, но выбирает из заранее предложенного ограниченного набора решений и учится по алгоритмически подобранным материалам, не всегда замечая, что ограничение выглядит не как запрет, а как интерфейс. Новая техногенная жизнь рождается не в лаборатории, а в самой ткани общества - там, где без цифровой системы уже трудно учиться, лечиться, работать и подтверждать собственную личность. Когда выйти из системы становится практически невозможно, система перестает быть инструментом и становится средой. А среда всегда воспитывает своего обитателя.
Норберт Винер, один из создателей кибернетики, предупреждал: системы управления требуют ответственности за те цели, которые в них закладываются. Чем сложнее становится система, тем легче эта ответственность рассеивается - решение выглядит объективным, хотя на деле несет следы чьего-то выбора данных, модели и интереса.
В русской интеллектуальной традиции есть свой большой образ будущего - ноосфера Владимира Вернадского, где научная мысль становится планетарной силой, но не отменяет ответственности человека, а требует зрелости разума перед жизнью. Цифровая цивилизация может пойти и другим путем - к тому, что можно назвать антиноосферой: разуму без духовного центра, где знаний и прогнозов много, а мудрости, рождающейся из соединения истины и нравственного опыта, - нет.
Три дороги на ближайшие двадцать лет
Будущее здесь не предопределено, и разумнее говорить не об одном прогнозе, а о нескольких вероятных траекториях, которые в разных странах, скорее всего, будут перемешиваться. Лучшими из возможных путей выглядят идеи "инструментального гуманизма": когда искусственный интеллект остается помощником, встроенным в рамки права, этики и национального суверенитета, а гуманитарное образование сохраняет свой вес.
В близкой перспективе наиболее вероятной представляется "мягкая капитуляция комфорта": обществу не нужны ни диктатура машин, ни сверхразум, достаточно, чтобы люди постепенно привыкли не думать без подсказки, не помнить без архива и не выбирать без рекомендации. В этом сценарии человека не уничтожают полностью - он сам, с облегчением, соглашается стать чуть менее человеком.
Однако самым опасным в политическом смысле видится путь "алгоритмического протектората", при котором государство, корпорации и платформы соединяют искусственный интеллект с управлением финансами, безопасностью, трудом и информацией. Соблазн здесь особенно велик для крупных держав: цифровая система обещает управляемость сложного общества. Но цена может оказаться слишком высокой - исчезновение пространства для человеческой ошибки, доверия и милосердия. Общество, полностью прозрачное для алгоритма, перестает быть обществом свободных людей и становится управляемой популяцией.
Есть и более отдаленный, но по этой же причине заслуживающий раннего обсуждения сценарий - "техногенное наследование", при котором автономные системы получают всё большую долю в поддержании критической инфраструктуры и стратегическом управлении. История техники не раз показывала: то, что сначала кажется фантастикой, потом становится экспериментом, затем рынком, а в итоге - необходимостью, которую уже трудно оспорить.
Российская развилка
Для России вопрос искусственного интеллекта не сводится к технологической гонке. Нужны собственная вычислительная база, научная школа и кадры - но не менее важен суверенитет ценностный: нельзя строить будущее, просто копируя чужие цифровые модели, если в них заложен другой образ человека. Русская философская традиция - при всех внутренних спорах - остро чувствовала опасность сведения человека к функции: у Бердяева личность гибнет там, где подчиняется безличной необходимости, у русских космистов техника мыслилась не как культ машины, а как продолжение нравственной ответственности перед миром.
Отсюда вырастает достаточно определенная позиция. Государство должно развивать искусственный интеллект - но не поклоняться ему. Наука должна использовать его - но не передавать ему критерии истины. Образование должно учить работать с ним - но прежде всего воспитывать человека, способного думать и без него. Российская развилка - это выбор между цифровым суверенитетом как защитой человека и цифровым тотализмом как соблазном полной управляемости. Второй путь способен дать внешнюю эффективность, но подрывает внутренние основания общества: нельзя защищать цивилизацию, превращая ее граждан в прозрачные объекты управления.
На практике это означает конкретные вещи, а не благие пожелания: право знать, почему алгоритм принял то или иное решение, и возможность оспорить его перед живым человеком; сохранение аналоговых альтернатив там, где цифровой доступ невозможен или опасен, - для пожилых людей, для детей, для непредвиденных ситуаций; вывод вопросов жизни, свободы и безопасности из-под полностью автоматизированного решения; и, наконец, этическую экспертизу технологий на стадии замысла, а не после того, как ущерб уже причинен.
На Земле действительно зарождается новая жизнь. У нее пока нет тела в привычном смысле, она не молится, не любит и не умирает. Но она уже растет, питается нашей информацией, организует нашу повседневность и постепенно требует перестройки мира под себя. Это не повод для паники и не повод отказываться от науки. Это повод для зрелости.
Бояться стоит не техногенного интеллекта как такового, а собственной духовной слабости, которая превращает инструмент в идола. Машина опасна не потому, что мыслит слишком много, а потому, что человек начинает мыслить слишком мало. Главный вопрос XXI века - не в том, способен ли искусственный интеллект превзойти человека. Вопрос страшнее и проще: не станет ли величайшим достижением человечества создание разума, перед которым оно само постепенно утратит собственную человечность? Ответ на этот вызов не может дать никакая машина. Его может дать только сам человек - если сохранит в себе то, что нельзя вычислить, заменить и передать алгоритму.