Профессор Калифорнийского университета в Беркли Стюарт Рассел, участвующий в Международном саммите по искусственному интеллекту в Нью-Дели, сказал, что лидеры крупнейших компаний, занимающихся ИИ, прекрасно понимают опасности со стороны сверхинтеллектуальных систем, которые однажды могут превзойти людей. По его мнению, ответственность за спасение человечества лежит на правительствах, которые способны и должны действовать коллективно. "Позволять частным организациям, по сути, играть в русскую рулетку с каждым человеком на земле - это, на мой взгляд, полный провал ответственности и долга", - сказал Стюарт Рассел, когда его попросили высказываться о безопасности ИИ.
Страны и компании тратят сотни миллиардов долларов на строительство энергоемких дата-центров для обучения и эксплуатации генеративных инструментов ИИ. Эта стремительно развивающаяся технология обещает такие достижения, как например, обнаружение вирусов в организме, но также может привести к потере рабочих мест, способствовать злоупотреблениям, среди других угроз. К этому добавляется риск того, что в конечном итоге системы ИИ возьмут контроль над всеми процессами жизнедеятельности и человеческая цивилизация станет сопутствующей жертвой в этом процессе", - сказал профессор. "Каждый из генеральных директоров крупных компаний ИИ, насколько я знаю, способен признать это", но не может сделать это "в одностороннем порядке", потому что инвесторы могут его уволить, сказал Рассел. "Кто-то говорил об этом публично, а кто-то говорил мне об этом на условиях анонимности", - добавил он, отметив, что даже Сэм Олтман, глава OpenAI, создатель ChatGPT, публично заявил, что ИИ может привести к вымиранию человечества.
OpenAI и его конкурентный американский стартап Anthropic столкнулись с публичными увольнениями сотрудников, высказывающих сомнения в правомерности разработок. Anthropic даже предупредил на прошлой неделе, что их последние модели чат-ботов могут быть использованы для "сознательной поддержки, в ограниченной степени, усилий по разработке химического оружия и других ужасных преступлений".
Власти Индии между тем надеются, что пятидневный саммит по искусственному интеллекту, который собрал руководителей технологических компаний со всего мира и десятки высокопоставленных национальных делегаций, поможет ей существенно активизировать разработку в области ИИ. Министр информационных технологий Индии Ашвини Вайшнау заявил, что страна ожидает более 200 миллиардов долларов инвестиций в ИИ в течение следующих двух лет, из которых около 90 миллиардов уже выделено. Тем временем опасения, что инструменты поддержки на базе ИИ могут вызвать массовые увольнения в крупнейших секторах обслуживания клиентов и технической поддержки Индии, в последние дни привели к падению акций аутсорсинговых компаний страны. По словам Стюарта Рассела, такие типы бэк-офисных работ в Индии вполне могут быть заменены ИИ.