Вначале он обучил нейросеть на огромной базе фотографий людей, чьи политические пристрастия известны. Затем ее выпустили в "люди". Требовалось разложить миллион фотографий реальных людей на либералов и консерваторов. Искусственный интеллект оказался прав в 72% случаев. Кажется, что результат не особо впечатляет. Но у человека он намного хуже - всего 55%. Почти с тем же успехом можно угадывать, подбрасывая монету.
Интересно, что Косински попытался понять, по какому принципу действовала нейросеть. Он проверил множество признаков: цвет волос на лице, прямой взгляд в камеру у человека или он прячет глаза, различные эмоции. Однако ни один из этих критериев не сработал. Значит, нейросеть нашла какие-то другие зацепки, которые пока человеку неизвестны.
Отметим, что несколько лет назад нейросеть Косински по фотографиям определяла сексуальную ориентацию человека. По одной фотографии она давала верный ответ в 81% случаев для мужчин и в 74% для женщин. А по пяти точность вырастала до 91% и 83% соответственно. Люди определяли ориентацию по одной фотографии хуже - в 61% и 54%, что соответствует результатам предыдущих исследований.
Тогда эту работу жестко раскритиковали коллеги, заявив, такая система может угрожать безопасности и тайне личной жизни людей. Но авторы возразили: они не создали инструмент для вторжения в личное пространство людей, а показали, как "базовые и широко используемые методы могут угрожать частной жизни". То есть предупредили о надвигающейся опасности, которую несет искусственный интеллект.
Конечно, как многие революционные разработки, он двулик. О его фантастической эффективности уже написаны тома, сказаны, кажется, все слова. Он стремительно входит в самые разные сферы нашей жизни, поражая своими возможностями. А ведь это лишь начало. О перспективах можно только гадать. Но в то же время этот инструмент несет массу негатива, о чем предупреждают многие авторитетные ученые.
И один нам уже демонстрирует Косински. Нейросеть делает человека "прозрачным", способна открыть в нем то, о чем он сам, вероятно, и не догадывался. По сути, мы попадаем под колпак Большого брата, который описан в фантастической литературе. Как он использует эти знания, можно только догадываться. Пример всему миру продемонстрировали США, где победители на выборах президента намерены выявить голосовавших за их противника и применить к ним различные санкции.
Многие ученые говорят о необходимости разрабатывать кодекс работы с ИИ. Но уже трудно себе представить, как можно вернуть этого выпущенного джинна назад в бутылку.