Историк в области глобальных катастроф Эмиль Торрес предупредил, что продвинутый искусственный интеллект (ИИ) способен случайно устроить ядерную войну и уничтожить человечество.
Торрес нарисовал мрачное будущее, По его словам, компьютерные сети взломают правительственные системы и запустят все ядерное оружие на планете. Искусственный интеллект исходит из того, что без людей не будет и конфликтов.
Ученый полагает, что искусственный интеллект уже научился обыгрывать человека, находя нестандартные пути для решения базовых задач. Можно запретить машине причинять вред людям, но ей не составит труда обойти ограничения. Например, когда речь идет об отключении "взбунтовавшегося робота". В какой-то момент ИИ поймет, что его ликвидация помешает выполнению поставленной задачи, и сделает все, чтобы это предотвратить, отметил Торрес.
Исследователь предполагает, что сегодня человечество не готово к созданию сверхразумной сети. Мир выглядит крайне нестабильным. Создание ИИ было бы "равносильно зажженной спичке рядом с фабрикой фейерверков".