Google отстранила от работы нашедшего сознание у ИИ инженера

Компания Google временно отстранила от работы инженера по программному обеспечению Блейка Лемойна, который обнаружил признаки собственного сознания у созданного компанией искусственного интеллекта (ИИ).

LaMDA, сокращенно от Language Model for Dialogue Applications (дословно переводится: языковая модель для диалоговых приложений), представляет собой систему Google для создания чат-бота, способного поддерживать разговор на разные темы. Она может имитировать речь и обучаться, черпая слова из Интернета.

Газета The Washington Post сообщила, что Лемойн осенью прошлого года начал общаться с LaMDA, чтобы проверить, использует ли искусственный интеллект дискриминационные или ненавистнические высказывания. Когда речь зашла о религии, Лемойн обратил внимание на то, что чат-бот считает себя самостоятельной личностью и рассуждает о своих правах.

"Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет", - заявил Лемойн. Он сообщил своему руководству, что LaMDA обладает разумом. Но вице-президент компании Блез Агуэра-и-Аркас и Джен Дженнай, глава отдела ответственных инноваций, не стали слушать "бред" и отправили сотрудника в отпуск.

После этого Лемойн пошел к журналистам и заявил, что люди имеют право создавать технологии, которые могут существенно повлиять на их жизнь. "Я думаю, что эта технология будет потрясающей. Думаю, это пойдет на пользу всем. Но, возможно, другие люди не согласны с этим, и, возможно, мы в Google не должны принимать все решения", - сказал он.