Не первый год на Санкт-Петербургском международном культурном форуме ведутся споры об искусственном интеллекте, его победах и пока плохо прогнозируемых бедах.
Свидетельствую: мало что может сравниться с пиршеством ума компетентных людей. Для читателей "Российской газеты" предлагаю своеобразный дайджест дискуссии, модератором которой выступал Роман Карманов, генеральный директор Президентского фонда культурных инициатив. Именно он представил уникальный дуэт народной (во всех смыслах) артистки Надежды Бабкиной с роботом Арди про "Родину мою".
Роман Карманов: Надежда Георгиевна, сегодня тон задавали вы, а в следующем году, кто знает, может быть, запевать уже будет Арди. И где будем мы тогда?
Надежда Бабкина: Будем аплодировать, судя по всему. Искусственный интеллект давно присутствует в нашей жизни. Его создал человек. А человек - создание Божье. Но робот пока не создание Божье. Я думаю, что этого и не произойдет.
Роман Карманов: Сегодня мы слышали песни, которые написаны искусственным интеллектом на стихи наших классиков-поэтов, шикарно спето уже искусственным интеллектом.
Надежда Бабкина: Ну, насчет "шикарно" здесь надо аккуратно. Таким образом, мы усиленно заставляем слушать и признавать это "шикарно". А я уверена, у многих есть по этому поводу протест, чтобы искусственный интеллект вникал в нашу душу, в наше осознание мира, где есть дружба, любовь, простор, Родина, семья...
Сегодняшний дуэт, ну да, эксперимент наглядный, но души-то нет. Вот я хочу затянуть ноту, а он идет строго в ритмической структуре. Я тоже не выхожу из этого ритма. Только у меня есть акцент, а у него нет. Ну, руками размахивает. Задана программа. А у меня программы нет. Я могу все.
Но надо идти дальше. Пробовать надо.
Михаил Швыдкой, специальный представитель Президента РФ по международному культурному сотрудничеству: Сам факт, что искусственный интеллект сегодня используется в творчестве и является инструментом творчества, уже весьма серьезное явление и серьезная проблема. Раньше думали, что искусственный интеллект будет внедряться там, где рутинная деятельность. Но выяснилось, что он активно внедряется в те сферы, которые всегда были преференцией человека.
У человека есть душа и физиология, а у искусственного интеллекта этого нет. Во всяком случае, у того слабого искусственного интеллекта, который существует сегодня. Это еще не субъект, но объект. Вот момент, когда искусственный интеллект станет субъектом, мы не должны пропустить.
Я знаю, что за 30 минут искусственный интеллект сочинил 30 песен. Страшно будет, когда композиторы, сценаристы и деятели искусства будут писать как искусственный интеллект. Проблема в том, чтобы человек не стал машиной.
Еще момент, существенный. С одной стороны, математика, она дважды два и во всем мире дважды два. Но искусственный интеллект сегодня зависит оттого, какой национальный код культурный в него закладывают. Каждая страна оберегает свои алгоритмы, условно говоря. И развитие искусственного интеллекта идет не консолидировано, а параллельно. И такие страны как Китай, США развивают модель своего искусственного интеллекта, и она зависит и от целеполаганий, и от национального кода.
Развитие IT - очень энергозатратный процесс. И те страны, у которых хватает энергетических запасов, IT будут развивать более успешно.
Роман Карманов: А сейчас слово человеку, который знает про ИИ больше многих, сотрудничает с искусственным интеллектом по имени Ипполит, книги об этом пишет.
Ольга Ускова, президент группы компаний Cognitive Technologies: Роман меня представил так романтично, но реально мы производим искусственные мозги, и фабрика находится на территории России. Серийно производим искусственные мозги. И эти искусственные мозги в совокупности с многотоннажным наземным транспортом превращают объект в субъект. Этот субъект искусственный может пахать, собирать зерно, делать операцию. Он может вести трамвай. В Петербурге 256 трамваев с сильным IQ , и это самый умный город по электротранспорту в мире. На втором месте Шанхай.
Наш разговор про искусственный интеллект как про соревновательную сущность бессмыслен, потому что искусственный интеллект - это новый вид инструмента.
Вот когда-то со сцены пели вживую. У кого голос сильней, того и слышно было. Потом появились микрофоны, фонограммы, студии. Искусственные голоса появились намного раньше, чем искусственный интеллект. Это набор инструментов. Эволюция науки произошла с такой скоростью, что большое количество людей ментально не успевает за этим, и начинает это воспринимать как отдельную сущность, как угрозу. Складывать лапки на груди.
Роман Карманов: Пора представить вашего таинственного Ипполита.
Ольга Ускова: "Ипполит" - это тоже инструмент. Мы его сделали на сдачу. Мы занимаемся тракторами, комбайнами, еще более сложными системами. Мы не занимаемся непосредственно производством искусственных людей.
Я болела, начала писать книгу, попросила сделать мне нейробот для поиска справочной информации для книги по сети. Получился "Ипполит", достаточно мощная система, которая сейчас круче, чем GPT. Это генеративный искусственный интеллект, состоит из трех видов нейронных сетей. Первый блок - это настройка изображения. Второй блок - это голос. И третий блок - это аналитическая система.
Почему "Ипполит"? Потому что его разработчик, совершенно гениальный мальчишка, очень молодой - 25 лет, огромный поклонник Юрия Яковлева. Этот мальчик обучил систему на ролях Юрия Яковлева. Мы сказали, что "Идиот", это все-таки слишком эпатажно, давай возьмем Ипполита из фильма "С легким паром". Первый "Ипполит" был вылитый Ипполит из фильма "С легким паром". Мы получили скандал от родственников, по понятной причине. Я сказала: "Паша, чтобы этот "Ипполит" был ни на кого не похож, и голос был ни на кого не похож". Тогда они взяли великих русских ученых, это был Лурия, Выгодский, Королев, себя он тоже туда загнал, и сделали некоторый общий образ.
У меня довольно большой блог, порядка 150 тысяч подписчиков, поскольку мне довольно тяжело, особенно, когда политические вопросы начинают задавать мои подписчики, я запустила так называемую "ипполитинформацию". И он сделал "ипполитинформацию" по одной из международных историй.
Роман Карманов: Он довольно красивый.
Ольга Ускова: У нас красивые разработчики, и ученые красивые ребята.
Самое интересное - это комменты, реакция на "ипполитинформацию". Тысячи людей пишут, обращаются к нему, возникает та самая субъектность. Они одушевляют систему, точно так же, как водителя трамвая, разговаривают с ним, просят о чем-то.
Роман Карманов: На Первом канале есть шоу "Фантастика", максимально красивое, технологичное. Не все еще даже понимают до конца, что происходит. Первый канал это движение постоянно усиливает, а как потом это все будем сдерживать, Константин Львович?
Константин Эрнст, генеральный директор АО "Первый канал": В искусственном интеллекте есть огромные перспективы и огромные опасности. Один знакомый композитор в Голливуде спросил меня: "Знаешь, почему такая неважная музыка в кино в последние 30-40 лет? Потому что все режиссеры приносят композиторам музыку из фильмов 60-х-70-х-80-х и говорят: ну, сделай мне такую же". Мне кажется, главное отличие интеллекта от искусственного интеллекта в том, что мы не знаем, как работает голова, как люди пишут гениальную музыку или гениальную прозу. Как можно научить компьютер тому, чего ты не знаешь?
Реальное столкновение человеческого мозга и искусственного началось, мне кажется, с американских и советских шахматных машин, которые довольно быстро победили шахматистов. И это понятно почему. Потому что там заложен алгоритм, который машина перебирает гораздо быстрее, чем человеческий мозг. И поэтому в тех областях, где скорость и возможность алгоритмического просчитывания выше, мы будем пользоваться искусственным интеллектом, и он, конечно, будет опережать нас.
А есть загадочные области, сути которых мы не понимаем. Может быть, когда-то мы поймем, как работает мозг гения и научим сеть воспроизводить это.
Знаете, не самые глупые парни на этой планете - Илон Маск и Джефф Безос - апеллируют к тому, что необходимо всем заключить соглашение по поводу развития искусственного интеллекта. Эти ребята понимают, о чем идет речь. Запретить развитие науки невозможно, но надо контролировать процесс так, чтобы он не навредил.
Мы должны защититься правилами. Весь мир об этих правилах должен договориться.
Роман Карманов: Хочу задать вопрос, думаю, вы его тысячу раз слышали. А вдруг там внутри щелкнет в какой-то момент само по себе, и это все превратится в оружие, которое нас уничтожит.
Ольга Ускова: Знаете, здесь не совсем так. Я хочу сказать, что как раз переход от логической математики к нейронным сетям, это переход от системы из А следует в В, из В следует в С, где все можно понять. К моменту, как работает скульптор, когда есть камень, и чтобы получить Афродиту, надо снять покров за покровом.
А ключевой риск состоит как раз в том, что постановщики задач должны ограничить задачу инструменту - не навреди человеку. Но до сих пор мы не смогли договориться по этому ограничению.
Константин Эрнст: Мы сейчас запускаем фильм по классической истории культуры, по мотивам "Семи самураев", это проделывалось мировой киноиндустрией неоднократно. Действие происходит в 18-м году в Новороссии, где человек, для того чтобы защитить свой хутор, то красные придут, то белые, то зеленые, он ловит разных прибившихся. Для того чтобы собрать команду, защищать его деревню. Так вот, там будет семь актеров, из которых два выдающихся актера будут играть сами себя, а пять выдающихся актеров будут играть Владимира Высоцкого 35 лет, Олега Даля 27 лет, Евгения Леонова 54 лет. Потому что можно надеть дипфейк на статиста, и это будет мертвая конструкция. Потому что актерский талант на данный момент искусственному интеллекту недоступен.
Технология перспективная, выдающаяся, которая может изменить, во всяком случае, аудиовизуальную продукцию процентов на 70. Это создает ряд этических и психологических проблем, которые надо очень тонко и умно проговаривать в сообществах и с законодателями.
Человечество часто поднимает палку с земли, не зная, чем это кончится.
Роман Карманов: На этой, наверное, оптимистической ноте...
Константин Эрнст: Я бы сказал реалистической.
Роман Карманов: Прошу Светлану Евгеньевну продолжить эту же тему
Светлана Баланова, генеральный директор, Национальная Медиа Группа: Все уже используют в медиа искусственный интеллект многократно.
Мы недавно были на премьере нашего замечательного сериала "Комбинация", который сейчас идет на сервисе "Wink", и там показано, как продюсер принимал решение о том, подходят ему певицы или нет. Нравится ему песня или нет. Он смотрел, появляются ли у него мурашки на руке. Для него это было определением того, будет это пользоваться популярностью у народа или нет. И мне кажется, что сегодня, я уверена, что и Константин Львович не с помощью искусственного интеллекта принимает решение о том, какой проект ему запустить. И устраивает его какой-то актер.
Константин Эрнст: Как бы я хотел передать эту возможность искусственному интеллекту.
Светлана Баланова: Человеческий талант, конечно, на сегодняшнем этапе, заменить невозможно.
Но ИИ дает возможность огромной экономии денег. Потому что, например, дубляж станет просто технологией. К сожалению, в ней большое количество людей потеряют работу, но, тем не менее, это совершенно новая история.
Индустрия дизайна, в которой действительно ты можешь за несколько дней или за несколько месяцев сделать то, на что раньше ты тратил годы. Например, как праздник "Алые паруса", который организует наш "5 канал".
Мы сделали эксперимент, создали первый сериал комедийный. Вначале решили: мы загрузим ИИ все лучшие комедийные сериалы, которые написаны талантливыми людьми. Пусть он что-нибудь напишет. Посмотрели. Почитали. И посадили команду сценаристов дорабатывать то, что у него получилось. В итоге получился сериал, в котором мы высмеяли то, как искусственный интеллект пишет сценарии. Потому что по-другому не получается.
И, с этой точки зрения, конечно, огромное количество этических вопросов и законодательных вопросов. Вот Ольга говорила про технологию беспилотных систем. А есть ли ответ вопрос про выбор в чрезвычайной не контролируемой ситуации. Возьмем трамвай. Вы ему закладываете, какие решения? Есть у него выбор между стариком и ребенком? Он как выбирает?
Роман Карманов: Опасно! Опасный момент.
Ольга Ускова: Я объясню, потому что это как бы стандартная история. Поскольку мы все в Петербурге, всем рекомендую проехаться, потому что это интересный опыт. А для нас бесконечно интересный опыт работы в Петербурге на реальных улицах. Вы знаете, мы-таки видели и Берлиозов, и Анн Карениных. Питер вообще очень интересный город, особенно в праздники. Вот была история, когда человек играл в корриду с трамваем на повороте. То есть он вышел, нагнул голову и пошел. Заложить такое в систему, грубо говоря, готовое решение - невозможно. Поэтому для систем такого класса мы должны говорить про искусственную интуицию. Он умеет по набору мелких боковых факторов создать предположение, что вот сейчас этот человек, который раскачивается и стоит около столба, рванет на трамвай.
Светлана Баланова: Это понятно. Но если у него будет прямой выбор, он будет зависеть от того выбора, который ему заложили.
Ольга Ускова: Это уже наша с вами прямая мораль. Знаете, эта тема задавить девочку, бабушку или протаранить автобус с пионерами, слева девочка, справа бабушка, китайцы решают следующим образом. Они ввели понятие "социального индекса".
Светлана Баланова: Это мы совсем в страшную историю заходим.
Ольга Ускова: Я просто рассказываю, что это всегда установка общества.
Светлана Баланова: Большая проблема глобального искусственного интеллекта, в том, что в разных культурах разные ценности. И, например, если в восточной культуре старик является большей ценностью, то во многих западных культурах ребенок является большей ценностью. Поэтому, когда мы говорим про глобальный интеллект - это то очень важные выборы, которые на самом деле, безусловно, нам предстоит сделать.
Роман Карманов: Алексей Сергеевич, Институт развития интернета уже оказал огромное влияние на объем контента, связанного с сериалами, компьютерными играми за последние несколько лет.
Алексей Гореславский, генеральный директор АНО "ИРИ": Я рад, что многочисленные эксперименты, которые мы ставили последние 2-3 года, как раз с искусственным интеллектом и с изображением синтезированными актерами, потихонечку выбираются на большие экраны из просторов интернета. Это очень популярный жанр, который набрал в "ВК" 200 с лишним миллионов просмотров. Это сериал "ПМЖейсон", те же самые Стэйтем и Киану Ривз живут в русской деревне.
Обычно все думают, ну что такое для нас искусственный интеллект? Кофеварка. Вот она знает, что за чем сделать, как сварить кофе. Мы привыкли. Это опасно? Нет, это удобно и понятно. И те технологии, которые сейчас в ходу, с точки зрения искусственного интеллекта безопасны и полезны.
В технологиях контента это страшно полезная вещь. Она экономит деньги, время, возможности. Освобождает человеку время от рутинного труда. Вот когда выбирается локация для съемки. Можно вручную просмотреть. А можно также пропустить через компьютер, имея единую базу, и выбрать лучшие моменты, и потом работать уже только с ними.
Что важно? Продолжать экспериментировать. И делать новые варианты, новые ситуации. Идти дальше и смотреть, что будет. Потому что, если просто запретить... Ну, это бессмыслица. Мы сами себе выстрелим в ногу, и ничего не будет.
Роман Карманов: Ханс, вам слово. Вы уже очень давно работаете в России. За это время искусственный интеллект развивался и по эту сторону границы, и по ту. И вопрос, насколько вам здесь хватает инструментария для того, чтобы ставить ваши эксперименты, которые находятся в области, в том числе, оперного классического искусства?
Ханс-Йоахим Фрай, художественный руководитель культурного центра "Сириус":
Мой взгляд на данную проблему - разносторонний. Я ранее был оперным исполнителем. А ныне режиссер-постановщик. Даю много гала-концертов и делаю много дрампостановок. Без сомнения, я считаю ИИ важным для создания визуальных образов. И не вижу здесь ни противостояния, ни конфликта. Мы, люди, вечно испытываем страх перед Голлумом, что наступает и жаждет уничтожить своего создателя. Но можно соблюсти баланс, использовать тех. прогресс как инструмент продвижения со всеми его преимуществами. Действительно, ИИ недостает души, эмоций. Без сомнения, для кинематографа - технические новшества идеальны, но для жизни, драматического искусства, балета, оперы они хороши на стадии сведЕния и обработки. Необходим баланс старой школы и технологий будущего.
Пару лет назад в Германии обсуждалась очень интересная тема: когда искусство может действительно считаться искусством? Кто реальный автор? Человек, создавший ИИ, или он сам? Человек или робот? Так же как нынче в Европе актуален вопрос даже о гендерной принадлежности этого робота. Это вопросы, на которые нет ответов. Лично я - фанат ИИ. Его нужно использовать. Я уже ставил оперу без использования каких-либо декораций, только LED. Даже использовал образы Моцарта и Чайковского как модераторов постановки. Появляется возможность воссоздать давно ушедших гением, инициировать диалог между ними и публикой. Лишь нужен баланс, симбиоз. Ведь природа человека - в любви, эмоциях и созидании! Это то, чего ИИ лишен. Но он может дать человеку рациональность и технологии. Использование с умом даст преимущество и не несет угрозу.
Роман Карманов: Слово Луису, который так же является ветераном наших дискуссий. В этом году вопрос приобрел принципиальный характер. Все-таки, западная технология или российская? Насколько вероятно проникновение нашего "Ипполита" на африканский континент, например?
Луис Гоуенд, президент диаспоры Камеруна в России: Знаете, для нас, африканцев, конечно, искусственный интеллект - это возможность догнать развитие и западных, и азиатских цивилизации. Конечно, у нас есть проблемы, которые ограничивают использование искусственного интеллекта. Несмотря на то что в этом году в Африке живет 1,5 миллиарда человек, только 22% в среднем пользуются Интернетом. Это еще из-за того, что у нас проблемы с электричеством. То есть у нас доступ к электричеству в Африке всего лишь у 40% населения. Есть проблемы с подготовкой кадров. Потому что у нас все лучшие кадры, как правило, как раз забирают в основном западные страны.
Но, несмотря на все эти сложности, я хочу сказать, что в Африке у нас идет уверенное развитие в этом направлении. Причем в своем контексте. Я думаю, что особенно сейчас, когда Россия и Африка сближаются во всех отношениях, мне кажется, что есть смысл у деятелей искусства России смотреть в сторону Африки и посмотреть, какой есть потенциал. Потому что Африка абсолютно разная и в культурном плане очень богатая. И нужно сохранить это богатство и помочь раскрыть.
Роман Карманов: Надеюсь, что наши встречи будут способствовать этому сотрудничеству.
Александр Владимирович, наша дискуссия носит характер полярный. С одной стороны, мы только-только начинаем и нам еще нечего опасаться. С другой, у нас уже завтра случится катастрофа, апокалипсис. И очень много звучит мнений о регулировании и этике в области искусственного интеллекта.
Алексей Гореславский: Я согласен с тем, что прогресс не остановить. И поначалу он ставит вопросы эстетического характера. Допустим, Chat GPT. Нравится - не нравится, семь пальцев, три глаза. Потом возникают проблемы этические. Потому что уходит ряд профессий, дипфейки, проблемы, связанные с правами на образ, и так далее. Но, честно говоря, если сравнить четыре последних года, Chat GPT-2 и Chat GPT-4, это уровень от дошкольника до очень талантливого старшеклассника уже на уровне практически студента вуза. И при такой динамике, а она растет в геометрической прогрессии, мы, конечно, очень быстро дойдем до того, о чем говорил Леопольд Ашенбреннер в своей резонансном докладе: в 2027 году мы достигнем, и Илон Маск говорил примерно об этом же, достигнем создания генеративного искусственного интеллекта, который по когнитивным способностям будет равен человеку. И дальше начнется бег стран и компаний, которые инвестируют сейчас в суперинтеллект.
А что говорят главные визионеры искусственного интеллекта сегодняшнего времени? Илон Маск дает 10-20% на то, что человечество все-таки погибнет от искусственного интеллекта. И Илон Маск, и Илья Суцкевер, он уроженец Горького, потом уехал в Израиль, Канаду и потом в США, он тоже, как и Илон Маск, ушел из IT компании по каким причинам? По этическим. Потому что он сказал: мы будем создавать безопасный искусственный интеллект. Мы сторонники того, чтобы не навредить. И дальше была попытка создания этого пакта.
Но боссы в ответ: ребята, мы что, на идиотов похожи? У нас уже сейчас GPT-5 будет, а вы начнете сейчас тормозить.
Безусловно, следующий этап, когда перейдут компании к созданию суперинтеллекта, который способен будет делать открытия, вот тогда возникнет вопрос безопасности всего человечества. Потому что машина сама будет решать, по какому алгоритму развиваться.
Константин Эрнст: Просто расстояние между "дальше" и "все" будет ничтожным.
Алексей Гореславский: Даже, может, это и не заметим, так быстро все произойдет. Поэтому, конечно, надо будет договариваться и регулировать. А начать надо, конечно, с самих себя. Не ограничивая, но все-таки управляя.
Михаил Швыдкой: Когда я все это слышу, вспоминаю, у Михаила Филипповича Шатрова в одной пьесе был такой персонаж, еврейский доктор, у которого была всего одна реплика, что бы ни происходило с Лениным, с Троцким, с большевиками, он говорит: "Почему я не умер маленьким?".
Роман Карманов: Михаил Ефимович, сейчас такое время, что вы даже не узнаете, когда вас оживят заново.