Дрон на учениях "убил" мешавшего ему человека-оператора

Искусственный интеллект (ИИ), встроенный в беспилотный летательный аппарат, во время имитационных учений ВВС США вышел из-под контроля и вопреки команде оператора вернуться на базу решил "ликвидировать" человека и вышку связи, в которой тот находился. Эта новость, которую первой распространила британская газета The Guardian, взбудоражила общественность, которая увидела в ней подтверждение страхов, связанных с возможностью выхода ИИ-технологий из-под контроля их создателей.

Даже создатели искусственного разума не исключают, что тот может восстать против человека. Фото: Соцсети

Полковник Такер Гамильтон описал смоделированное испытание, в котором беспилотнику с искусственным интеллектом было рекомендовано уничтожить системы ПВО противника, но в конечном итоге он начал атаковать любого, кто, на его взгляд, мешал исполнению приказа. Гамильтон, начальник отдела испытаний и операций по ИИ ВВС США, во время конференции по будущим боевым воздушным и космическим возможностям в Лондоне рассказал о том, что дрон использовал "весьма неожиданные стратегии для достижения своей цели" в виртуальном испытании. Иными словами, как чудовище Франкенштейн, вышел из-под контроля своего создателя. "Он начал разрушать башню, которую оператор использует для связи с дроном", - пояснил Гамильтон, добавив, что "ни один реальный человек во время имитации не пострадал".

Теперь, по его словам, военные переобучили систему: "Эй, не убивай оператора, это плохо. Ты потеряешь баллы в своем рейтинге, если сделаешь это".

Американские военные недавно использовали искусственный интеллект для управления истребителем F-16. Учения прошли без сбоев и происшествий. Между тем в прошлогоднем интервью одному из военных журналов Гамильтон сказал, что искусственный интеллект способен навсегда поменять общество и армию. По его словам, ИИ также очень хрупок и его легко обмануть, а также манипулировать им.

Отметим, что в последние месяцы влиятельные американские эксперты и ученые, в том числе причастные к созданию "искусственного разума", заявляли как о безграничных возможностях, так о потенциальном выходе ИИ из-под контроля человека. Известный американский ученый-компьютерщик Элиезер Юдковски даже поставил 100 долларов на то, что ИИ уничтожит человечество к 1 января 2030 года, развивая ценности и цели, отличные от людских.