Счастьем он не занимается. Швыдкой, Пиотровский и другие эксперты - о том, заменит ли ИИ человека

Кажется, что искусственный интеллект проник всюду: он пишет музыку, правда, она пока еще слишком похожа на все, что писали до него. Он лечит, выставляет штрафы, регистрирует музейные экспонаты. И если есть сферы, которые не предусматривают наличие творца и там ИИ - реальный помощник, то ИИ в культуре убивает настоящую музыку, подменяет живое общение с картиной в музее знакомством с ее цифровой копией, а в кино губит профессию актера.

И снова Форум объединенных культур не обошелся без дискуссий об искусственном интеллекте. Если сначала ИИ восхищались - Надежда Бабкина пела на форуме дуэтом с роботом Арди, то теперь ИИ начинает пугать. "Он будет таким, как мы его научим", "Искусственный интеллект счастьем не занимается", "ИИ - великий плагиатор" - звучат мнения экспертов.

Впрочем, дадим слово тем, кто участвовал в дискуссии "Новые технологии в культуре и искусстве: благо или вред, преимущества или риск". Это генеральный директор Эрмитажа Михаил Пиотровский, спецпредставитель президента РФ по культурному сотрудничеству Михаил Швыдкой, джазмен Игорь Бутман и другие. Модератором встречи по традиции стал директор Президентского фонда культурных инициатив Роман Карманов.

Роман Карманов: Когда у нас была самая первая сессия, мы говорили о том, что такое искусственный интеллект. Было сомнение в том, а нужен он или нет вообще. Но уже четыре года назад Эрмитаж восстанавливал утраченные шедевры с помощью искусственного интеллекта, выпускал NFT - вообще первый в мире. Дальше был "Великолепный Эрмитаж" - оцифрованная выставка, которая уже побывала на гастролях в Южной Корее, в Нижнем Новгороде. Эрмитаж в общественном представлении консервативное место. Но именно он, так сказать, стал законодателем мод в новом цифровом мире.

Михаил Пиотровский: Активнее всех используют искусственный интеллект бюрократы. В Екатеринбурге у меня была лекция на молодежном форуме об Эрмитаже. Я рассказываю о реставрации картины Рубенса "Вакх". По условиям форума мои картинки форматируются. В какой-то момент мои секретари видят, как на сформатированных ИИ картинках к "Вакху" приписано, что алкоголизм вредит здоровью. Успели вовремя убрать. ИИ учится, и он будет таким, как мы его научим. Его надо редактировать. Редактор - это великая профессия. Поразительно, но ИИ реабилитирует профессии учителя, редактора и комментатора.

Роман Карманов: Михаил Ефимович, на прошлой нашей встрече вы говорили, что вопрос контроля за возможным саморазвитием искусственного интеллекта становится все более актуальным. В какой-то момент он может начать саморазвиваться и научится принимать решения, которые исключат человека из процесса. В этом году в России принят закон об искусственном интеллекте. Там, в частности, регламентируется вопрос обучения модели искусственного интеллекта на данных, защищенных авторским правом.

Михаил Швыдкой: Крупные корпорации уже высказывают свои опасения. Я не буду их перечислять, начиная от OpenAI и так далее. Они серьезно относятся к тому, что в какой-то момент ИИ может выйти из-под контроля.

Искусственный интеллект вообще к ценностям безразличен. Я всегда вспоминаю такую фразу из записной книжки Ильфа, который написал, что люди думали, что, когда они научатся передавать мысли по беспроволочному телеграфу, наступит всеобщее счастье. И вот радио есть, а счастья нет. Искусственный интеллект счастьем не занимается. Он занимается только тем, что мы в него заложим. Поэтому, скажем, сегодня одна из колоссальных проблем - максимально оцифровать российское многонациональное наследие, которое будет базой для его поиска. Потому что сегодня, если вы захотите снять фильм о русских крестьянах, то интернет выдаст вам людей с лицами американских фермеров. Сегодня англоязычная база на порядок больше, будем откровенны.

Нейросети уже сейчас ведут к деградации человеческого сознания. Эта проблема, пожалуй, самая острая. Потому что если сегодня мы еще с нейросетью шутим, то завтра она будет заменять многое. И не только собеседника, но и вообще все остальное. И в этот момент мы получим ситуацию, в которой психофизиологические органы, тот же мозг, начнет трансформироваться. Сегодня мы занимаемся спортом, чтобы сохранить физическую форму. А раньше пошли бы порубили дрова, попахали землю. Нам нужно защищаться не от искусственного интеллекта, а от того, чтобы в какой-то момент деградация сознания не привела к тому, что мы не справимся с вызовами окружающего мира. И здесь нужна культура.

Надежда Бабкина пела с роботом Арди на одном из культурных форумов. Фото: Сергей Фадеичев / ТАСС

Роман Карманов: В чем благо искусственного интеллекта для музея?

Ирина Великанова, генеральный директор Государственного центрального музея современной истории России: Надо признать, мы уже живем в реальности, где без цифровых технологий культуру невозможно представить. Год назад я представляла проект, который поддержал Президентский фонд культурных инициатив - это "Невероятные приключения в Музее современной истории". Гвоздь программы- нейроэкскурсовод Лева. Мы обучили этого нейроэкскурсовода на предметах и данных музейных фондов. Этот проект принес нам 2 миллиона использований. Что это значит для Музея современной истории России? В первую очередь, доступность далеко за пределами столицы. Наш музей при всем желании за год не сможет вместить такое количество посетителей. Если говорить о прогрессе, то когда-то, безусловно, какие-то профессии уйдут в прошлое. Когда-то печатный станок уничтожил профессию переписчика, но подарил эпоху просвещения. А промышленная революция стерла ремесленные цеха, но открыла дорогу современной экономике.

Нейроэкскурсовод Лева в Музее современной истории России. Фото: Пресс-служба Музея современной истории России

Важно, что государство активно сейчас включилось в процесс регулирования ИИ. Во-первых, всех волнует вопрос авторского права, который на сегодняшний день вообще не отрегулирован. Второе, всех волнует вопрос верификации знаний. Очень важно понимать, на чем действительно обучена эта нейросеть. Недавно в Эр-Рияде провели опрос, в котором участвовали 400 музеев из 90 стран. 57% тех музеев используют искусственный интеллект, но 55% из них не имеют внутренней политики по использованию искусственного интеллекта.

Деградация сознания может привести к тому, что мы не сможем справиться с вызовами окружающего мира

Александр Журавский, заместитель начальника Управления президента РФ по общественным проектам: В 6-7-м классе 14% школьников, по данным Высшей школы экономики, считают, что искусственный интеллект никогда не ошибается. В 10-11-м это уже 5%. Сегодня на Западе люди при помощи персональных агентов ведут бухгалтерию, проектируют свой летний отдых, делегируют массу управленческих функций. Не понимая, что оболочка-то общая, и это персональный агент, но все, что вы передаете, может быть использовано в интересах третьих лиц.

Пока искусственный интеллект не обладает сознанием, волей. Но риски есть. И это требует регуляторики. Есть поручение президента по созданию национального корпуса данных, на котором будут обучаться нейросетки. Чтобы потом в том числе и западные модели, которые будут распространяться здесь официально, тоже обучались на этом корпусе данных.

Роман Карманов: Игорь Михайлович, для вас свежие новости из мира джаза. Американские ученые натренировали несколько моделей машинного обучения на массиве данных, состоящих из 1629 джазовых выступлений 20 известных исполнителей. Многие из них вам известны лично - Билл Эванс, Оскар Питерсон, Кит Джарретт. Если они оцифровали в общем-то буквально всех известных джазовых музыкантов, то теперь искусственный интеллект может импровизировать, ведь джаз - в большей степени импровизация?

Угроза Голливуду - сгенерированная нейросетью актриса Тилли Норвуд. Фото: Соцсети

Игорь Бутман, джазмен: Люди, которые приходят на концерт, не хотят видеть машину. Они хотят видеть человека, играющего на инструменте, его эмоции. Совсем недавно один мой знакомый поставил запись, созданную ИИ. Мне она не понравилась. Банальная музыка, похожая на всё. Есть блестящий музыкант Олег Аккуратов - ходячий искусственный интеллект. Однажды на концерте мы исполняли "Подмосковные вечера" на русском языке, а я к нему подхожу - в зале сидели наши киргизские коллеги - и в шутку предлагаю: "Олег, ты можешь спеть на киргизском "Подмосковные вечера"?" И он тут же начинает петь на киргизском. Человеческие возможности безграничны.

Роман Емельянов, генеральный директор "Европейской медиагруппы": По большому счету ИИ - это большая афера, потому что миллионы треков, созданных с помощью искусственного интеллекта, наводняют цифровые площадки, и люди, по сути, на этом зарабатывают. На "Новом радио" есть музыкальный конкурс "Музыкастинг", где музыканты борются за призы, дистрибьюцию их музыкального материала и так далее. Мы вынуждены в последние пару лет еще до старта этого конкурса приглашать участников к себе в студию для того, чтобы они продемонстрировали, что они вообще умеют петь.

Искусственный интеллект ничего не изобретает, а берет по ниточке у каждого музыканта. И это все равно плагиат. Нейронка сегодня встроена в любой поисковик, в обход твоего ресурса она берет твою информацию и выдает ее пользователю. И пользователь уже не идет на твой ресурс - фактически нейронка грабит средства массовой информации, используя опять-таки чужой труд. С точки зрения законодательной это важно регламентировать. Но что делать с носителями культуры, производителями настоящего творчества? Их нужно каким-то образом защищать, их нужно оберегать.

Полностью нарисованный ИИ российский мультфильм "Чингис-Хан". Фото: kinopoisk.ru

Роман Карманов: Мы практически анонсировали нашу дискуссию в следующем году. Тема не исчерпана. Совершенно очевидно, что все согласны с тем, что искусственный интеллект - это помощник человека. Но хотелось бы, чтобы мы не успокаивали себя этим, потому что помощник в одно мгновение может превратиться в хозяина. Культура искусственного интеллекта - это тоже культура, и взаимодействие с ней требует определенных правил.