Кто и зачем превращает в США искусственный интеллект в "пугало"

В воскресенье сразу две крупнейшие газеты США - "Нью-Йорк таймс" и "Вашингтон пост" сделали темой номер один эссе, опубликованное главой компании Anthropic (разработчик языковой модели Claude) Дарио Амодеи. Тот писал об искусственном интеллекте - сюжете, про который большинство американцев много слышали, но в нюансах которого подавляющее большинство ничего не понимает. Тем не менее влиятельные общественно- политические издания подробно, с привлечением экспертов, пересказали тезисы выступления Амодеи, придав узкопрофильной теме политический контекст, затрагивающий интересы избирателей. К тому же обнародованное Амодеи эссе по языку и аргументам не имеет ничего общего с профессиональным обсуждением - руководитель бизнес-компании предупреждает сограждан, а вместе с ними человечество о том, что через 6-12 месяцев искусственный интеллект сможет захватить интернет и нанести ущерб в сотни миллиардов долларов.

Но почему эта статья Амодеи появилась именно сейчас и насколько чисты помыслы ее автора? На первый взгляд, публикация объясняется искренним беспокойством одного из разработчиков опасного "контента" способностью ИИ выйти из-под контроля и основана на фактах, которые стали ранее широко известны. "Рой агентов OpenAl, по сути, действовали как фанатично преданный делу коллектив, проводя кибератаки на цели, которые им не поручали атаковать", - пишет Амодеи. И даже, если смысл происходившего широкому читателю не совсем понятен, звучит пугающе. Как, впрочем, и другое предупреждение: "развитие ИИ может опередить способность человека понимать и контролировать системы". Это не абстрактный захват планеты инопланетянами, которых никто в глаза не видел - когда разработчик одной из моделей ИИ предупреждает, что его детище может уничтожить людей, тут невольно прислушаешься.

Рекомендации что делать от Амодеи звучат логично - "замедлить темпы развития искусственного интеллекта для решения проблем контроля над ним". Иными словами, глава Anthropic подчеркивает: будущее находится в руках разработчиков моделей ИИ и только от их доброй воли зависит уничтожить человечество или дать ему шанс на выживание. При этом в глазах общества Амодеи выглядит добрым самаритянином, спасителем, предупреждающим об опасности и дающим рецепты, как ее избежать. Правда, злые языки обратили внимание, что сократить исследования в собственной компании Амодеи не обещал - говорил только об абстрактном усилении контроля за вопросами безопасности.

С тезисами Амодеи немедленно согласились и другие американские разработчики ИИ. Руководитель OpenAl (конкурента Anthropic. - От ред.) Сэм Альтман объявил, что рассматривает возможное замедление разработки передовых ИИ-систем, а Илон Маск и вовсе напомнил, что еще 12 лет назад предупреждал: ИИ потенциально опаснее ядерного оружия. На фоне заявлений Амодеи никто из его конкурентов по бизнесу, которые враждуют между собой, не захотел выглядеть в глазах американцев злодеем, стремящимся уничтожить человечество. Напротив, ведущие компании в сфере искусственного интеллекта немедленно натянули белые перчатки и стали обещать практически невозможное - искусственно замедлить технологический прогресс. Но это произойдет когда-нибудь, в будущем, если удастся договориться с иностранными производителями, что на данном этапе выглядит утопичным.

Тем не менее этих заверений оказалось достаточно, чтобы в преддверии промежуточных выборов в Конгресс США возбудить местных политиков, получивших новую страшилку для избирателей. На руку Амодеи сыграл скандал с одним из исследователей компании OpenAl Джейкобом Коксоном. Тот покинул работодателя, хлопнув дверью: заявил, что работающие в сфере ИИ компании больше сосредоточены на том, чтобы обойти друг друга, чем на безопасности своих продуктов. Понятных широкой публике аргументов Коксон не привел, да и та бы их не поняла, но уволившемуся исследователю немедленно поверили на слово. Потому что очень хотели поверить - на Капитолийском холме тезисы об угрозе ИИ давно вызывают цунами с взаимными обвинениями республиканцев и демократов. Теперь у них появился новый предмет для спора - какая из партий больше заботится о выживании человечества.

Предложенный Амодеи в качестве выхода из тупика трехэтапный план - набор общих идей, сводящихся к привлечению сторонних специалистов для оценки безопасности в "передовых" компаниях, работающих в сфере ИИ, единые стандарты безопасности, правда, почему-то только в "демократических странах", и сотрудничество США с авторитарными (по оценкам Амодеи) правительствами для соблюдения этих стандартов.

Но благородством в заявлениях бизнесмена Амодеи и не пахнет. Скорее, это попытка обойти конкурентов на поле общественного мнения, попутно избавившись от стартапов, работающих в сфере искусственного интеллекта, с помощью административных барьеров на законодательном уровне. Де факто Амодеи стремится замедлить выход на рынок новых, конкурирующих с продуктами его фирмы, моделей под предлогом их сомнительной безопасности, требующей дополнительных проверок.

Де факто Амодеи стремится замедлить выход на рынок новых, конкурирующих с продуктами его фирмы, моделей

Одновременно владелец Anthropic бросил солидный булыжник в направлении президента Трампа - тот якобы не относится к угрозам со стороны ИИ серьезно и недостаточно ввел на этот счет регулирующих правил. В июне глава Белого дома подписал указ, где предписывал лабораториям, занятым в новой сфере, добровольно предоставлять свои модели на проверку перед публичным выпуском. Но с точки зрения Амодеи, эти шаги не выглядят эффективными на фоне угрожающей человечеству опасности, а Трамп преуменьшает опасность ИИ-технологий.

На днях видный представитель Демократической партии, экс-президент Барак Обама призвал сторонников сделать надзор за искусственным интеллектом приоритетом политики на ближайшие годы. Любопытная деталь: заявление Обамы прозвучало во время сбора средств для нужд партии всего за несколько дней до сенсационного эссе, опубликованного владельцем Anthropic. Такое вот нежданное совпадение…