Новости

19.01.2021 19:06
Рубрика: Общество

Не спрятаться?

У вас на лице... политические пристрастия
Искусственный интеллект, который по лицу человека может назвать его политические убеждения, разработал американский ученый из Стэнфордского университета Майкл Косински. Об этом сообщается в журнале Nature Scientific Reports.
А может, совсем скоро понятие "личная жизнь" станет архаикой? Фото: Reuters А может, совсем скоро понятие "личная жизнь" станет архаикой? Фото: Reuters
А может, совсем скоро понятие "личная жизнь" станет архаикой? Фото: Reuters

Вначале он обучил нейросеть на огромной базе фотографий людей, чьи политические пристрастия известны. Затем ее выпустили в "люди". Требовалось разложить миллион фотографий реальных людей на либералов и консерваторов. Искусственный интеллект оказался прав в 72% случаев. Кажется, что результат не особо впечатляет. Но у человека он намного хуже - всего 55%. Почти с тем же успехом можно угадывать, подбрасывая монету.

Интересно, что Косински попытался понять, по какому принципу действовала нейросеть. Он проверил множество признаков: цвет волос на лице, прямой взгляд в камеру у человека или он прячет глаза, различные эмоции. Однако ни один из этих критериев не сработал. Значит, нейросеть нашла какие-то другие зацепки, которые пока человеку неизвестны.

Нейросеть делает человека "прозрачным", способна открыть в нем то, о чем он сам, вероятно, и не догадывался 

Отметим, что несколько лет назад нейросеть Косински по фотографиям определяла сексуальную ориентацию человека. По одной фотографии она давала верный ответ в 81% случаев для мужчин и в 74% для женщин. А по пяти точность вырастала до 91% и 83% соответственно. Люди определяли ориентацию по одной фотографии хуже - в 61% и 54%, что соответствует результатам предыдущих исследований.

Тогда эту работу жестко раскритиковали коллеги, заявив, такая система может угрожать безопасности и тайне личной жизни людей. Но авторы возразили: они не создали инструмент для вторжения в личное пространство людей, а показали, как "базовые и широко используемые методы могут угрожать частной жизни". То есть предупредили о надвигающейся опасности, которую несет искусственный интеллект.

Майкл Косински продемонстрировал, чем угрожает человеку искусственный интеллект. Фото: adrian grycuk / wikipedia.org

Конечно, как многие революционные разработки, он двулик. О его фантастической эффективности уже написаны тома, сказаны, кажется, все слова. Он стремительно входит в самые разные сферы нашей жизни, поражая своими возможностями. А ведь это лишь начало. О перспективах можно только гадать. Но в то же время этот инструмент несет массу негатива, о чем предупреждают многие авторитетные ученые.

И один нам уже демонстрирует Косински. Нейросеть делает человека "прозрачным", способна открыть в нем то, о чем он сам, вероятно, и не догадывался. По сути, мы попадаем под колпак Большого брата, который описан в фантастической литературе. Как он использует эти знания, можно только догадываться. Пример всему миру продемонстрировали США, где победители на выборах президента намерены выявить голосовавших за их противника и применить к ним различные санкции.

Многие ученые говорят о необходимости разрабатывать кодекс работы с ИИ. Но уже трудно себе представить, как можно вернуть этого выпущенного джинна назад в бутылку.

Общество Наука Научный подход с Юрием Медведевым