"Скоро это будут сверхчеловеческие системы, способные взломать что угодно, революционизировать любую область за одну ночь и получить реальную власть и ресурсы над всем миром", - высказался он в соцсети.
Люди автоматизируют рабочие процессы десятилетиями, почти все теперь контролируются через интернет, и это та сфера, к которой ИИ имеет наибольший доступ. "Системы ИИ могут спокойно атаковать электрическую сеть, транспортные сети, финансовые рынки", - сказал в интервью The New York Post Стюарт Рассел, профессор компьютерных наук в Калифорнийском университете в Беркли. Источники издания рассказали, как ИИ может потенциально взломать почти любое устройство и, например, захватить системы водоснабжения, перекрыв подачу воды в целые города.
Эксперты предупреждают: ИИ способен выводить электросети из строя, оставляя огромные территории в полной темноте, а затем отключать телефонные вышки. Те, кто попытается перебраться куда-то на автомобиле, столкнутся с хаосом: светофоры будут выключены, а автозаправки не смогут отпускать топливо. Банкоматы также будут парализованы, и даже если вы получите доступ к своему банку, машина будет в состоянии уничтожить все средства на вашем счете, считают специалисты.
При этом системы ИИ могут привлекать людей к совершению подобных актов саботажа и диверсий. "Все, что мы можем сделать в интернете, может сделать и ИИ, притворяясь человеком, - указал Патри Фридман, один из первых разработчиков ИИ и основатель компании Pronomos Capital. - ИИ без труда заработает деньги, будь то через финансовую торговлю или предоставление услуг людям. Он может выдать себя за человека, нанимать людей или шантажировать их для проведения физических операций, например, через активацию USB-флешки, которая затем может заразить компьютеры во внутренней локализованной сети".
Ученые из ведущих мировых университетов уже использовали ИИ для создания синтетических вирусов, предупреждая о неправомерном применении этой технологии. OpenAI признал, что играет в кошки-мышки, чтобы блокировать пользователей, которые запрашивают в ее программе ChatGPT, как создавать яды и биологическое оружие.
"Через пять лет ИИ будет очень просто разрабатывать новые препараты, чтобы помочь нам или вирусам, которые убьют нас всех", - добавила Фридман. Так может появиться смертельная болезнь, сильно заразная, но не обнаруживаемая в течение нескольких дней после заражения, и ее будет практически невозможно остановить. В одном из наихудших прогнозов ИИ способна заказывать разные сырьевые материалы из нелицензированных лабораторий, а затем нанимать или обманывать ничего не подозревающего человека, чтобы тот их объединил и распространил, что быстро привело бы к катастрофе.
Учитывая, что эксперты активно внедряют ИИ в медицинских исследованиях и при разработке лекарств, система обладает большим доступом к знаниям о нашем теле и его уязвимостях.
"Я переживаю о том, что у ИИ нет здравого смысла, - отметил Гэри Ривлин, автор книги "Долина ИИ". - Беда в том, что это создание знает все и ничего не понимает". По мнению Ривлина, ИИ может "нажать ядерную кнопку", чего не делают люди, потому что знают о катастрофических последствиях для человечества. Взлом ядерной инфраструктуры, такой как электростанции или оружие массового уничтожения, это еще один готовый способ, которым ИИ может ускорить уничтожение человечества.
Реальный пример того, как могут пострадать уязвимые ядерные объекты, это случай со Stuxnet - вредоносным компьютерным червем, обнаруженным в 2010 году. Это было первое в мире идентифицированное цифровое оружие, предназначенное для физического уничтожения промышленного оборудования: его использовали против иранского завода по обогащению урана в Нетензе. Программа уничтожила почти тысячу центрифуг, изменив их оперативные скорости. Возможно, самое жуткое в этой истории то, что ядерный объект был отключен от интернета и работал по сверхсекретной закрытой внутренней компьютерной цепи. Никто никогда не брал на себя ответственность за разработку вируса, хотя подозревается, что это была совместная военная операция США и Израиля.