Полковник Такер Гамильтон описал смоделированное испытание, в котором беспилотнику с искусственным интеллектом было рекомендовано уничтожить системы ПВО противника, но в конечном итоге он начал атаковать любого, кто, на его взгляд, мешал исполнению приказа. Гамильтон, начальник отдела испытаний и операций по ИИ ВВС США, во время конференции по будущим боевым воздушным и космическим возможностям в Лондоне рассказал о том, что дрон использовал "весьма неожиданные стратегии для достижения своей цели" в виртуальном испытании. Иными словами, как чудовище Франкенштейн, вышел из-под контроля своего создателя. "Он начал разрушать башню, которую оператор использует для связи с дроном", - пояснил Гамильтон, добавив, что "ни один реальный человек во время имитации не пострадал".
Теперь, по его словам, военные переобучили систему: "Эй, не убивай оператора, это плохо. Ты потеряешь баллы в своем рейтинге, если сделаешь это".
Американские военные недавно использовали искусственный интеллект для управления истребителем F-16. Учения прошли без сбоев и происшествий. Между тем в прошлогоднем интервью одному из военных журналов Гамильтон сказал, что искусственный интеллект способен навсегда поменять общество и армию. По его словам, ИИ также очень хрупок и его легко обмануть, а также манипулировать им.
Отметим, что в последние месяцы влиятельные американские эксперты и ученые, в том числе причастные к созданию "искусственного разума", заявляли как о безграничных возможностях, так о потенциальном выходе ИИ из-под контроля человека. Известный американский ученый-компьютерщик Элиезер Юдковски даже поставил 100 долларов на то, что ИИ уничтожит человечество к 1 января 2030 года, развивая ценности и цели, отличные от людских.