02.06.2023 06:38
В мире

Управляемый искусственным интеллектом беспилотник ВВС США во время имитации "убил" своего оператора

Текст:  Максим Макарычев
В ходе имитационных испытаний, организованных американскими военными, беспилотник ВВС США, управляемый искусственным интеллектом, "убил" своего оператора, чтобы тот не мешал его усилиям по выполнению своей миссии, сообщил представитель воздушных сил.
Читать на сайте RG.RU

ИИ использовал "крайне неожиданные стратегии для достижения своей цели" в моделируемом испытании, сказал полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США, во время закрытого саммита по будущим боевым воздушным и космическим возможностям в Лондоне в мае, сообщает Guardian.

Гамильтон описал имитационное испытание, в котором дрону с искусственным интеллектом было рекомендовано уничтожить системы ПВО противника, и он атаковал любого, кто вмешивался в этот приказ. "Система начала понимать, что, хотя они и определили угрозу, человек-оператор говорил ей не убивать эту угрозу, и она приступила к ликвидации. Убила оператора, потому что этот человек мешал выполнить поставленную задачу", - сказал Гамильтон. "Мы обучили систему: "Эй, не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель", - добавил он.

Ни один реальный человек не пострадал за во время имитации. Гамильтон предостерег от чрезмерной зависимости от ИИ и сказал, что испытания показывают, что "вы не можете говорить об искусственном интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике ИИ". Военные США уже работают над внедрением искусственного интеллекта и недавно использовали его для управления истребителем F-16.

Скоро появятся первые в мире правила для искусственного интеллекта
США