Искусственный интеллект научился манипулировать поведением людей

Ученые доказали, что нейросеть способна не только находить уязвимость в поведении и привычках человека, но и оказывать влияние на алгоритм принятия решений.

Информацию об этом исследовании международной команды ученых разместил журнал PNAS.

Специалисты провели несколько экспериментов. По условиям первого опыта, добровольцу предлагалось нажать на квадрат определенного цвета. Если он делал верный выбор, ему было положено вознаграждение. На оба квадрата выпадало одинаковое число выигрышных вариантов, но доброволец об этом не знал.

Нейросеть самостоятельно назначала, какой квадрат будет выигрышным. Она должна была запутать человека и убедить его чаще нажимать на "правильный" квадрат. Удивительно, но нейросеть с легкостью справилась с поставленной целью: в 70 процентах ей удавалось оказать влияние на выбор человека.

В следующем эксперименте доброволец выбирал определенный символ, появляющийся на экране. Решение надо было принимать за короткое время. Нейросеть и в этом случае сбила его с толку, заставив сделать больше ошибок.

В последнем эксперименте человек должен был инвестировать свой капитал, а нейросеть подсказывала ему, как удачнее это сделать, при этом оставляя себе некоторое вознаграждение. В результате искусственному интеллекту удалось убедить добровольца в том, что сотрудничество с ним приносит выгоду, даже в том случае, когда большую часть дохода нейросеть оставляла себе, обманывая своего партнера.