Технологии искусственного интеллекта по своему влиянию на человечество в определенном смысле сравнимы с атомным оружием. Речь идет не о взрывах, а о негативных последствиях их неконтролируемого применения, и об условиях, в которых сегодня такие системы создаются.

Сегодня между несколькими крупнейшими компаниями фактически идет "гонка вооружений" в области ИИ. И сами разработчики не в полной мере представляют, как работают эти "черные ящики", но продолжают стремительно наращивать эти мускулы, открывая для ИИ все новые возможности в самых разных сферах. И в этой гонке нет времени на проверку безопасности систем, на оценку последствий их применения. Сейчас об этом мало думают, ведь главное - опередить конкурентов.

И этот призыв авторов письма в первую очередь не к политикам, а к коллегам. Нельзя продолжать эту сумасшедшую и бесконтрольную гонку в никуда. Давайте сделаем паузу, чтобы те блестящие умы, которые создают такие мощные интеллекты, остановились и договорились о новых правилах игры. Цель - сделать ИИ, который будет работать только на пользу, а не во вред человеку.