Главная опасность, как отмечают специалисты, заключается в скрытом характере манипуляций. В будущем вместо навязчивой рекламы людей могут мягко подталкивать к решениям с помощью персонализированных подсказок, причем пользователь будет считать такой выбор своим собственным.
Несмотря на широкую известность технологий ИИ, общество относится к ним настороженно. Люди доверяют ИИ как помощнику, например, в виде голосовых ассистентов, но не готовы к его применению в сферах, требующих высокой ответственности и экспертизы, - таких как государственное управление, безопасность или образование. В связи с этим все чаще звучат призывы к законодательному регулированию ИИ. Большинство граждан (78 процентов) поддерживают необходимость человеческого контроля над этичностью решений, принимаемых с помощью ИИ. В Госдуму уже внесены соответствующие законопроекты, однако их рассмотрение пока откладывается. На фоне этих дискуссий Владимир Путин поручил разработать национальный план по внедрению генеративного ИИ, подчеркнув важность развития отечественных технологий и цифровой независимости.
Как найти верный баланс между технологическим развитием и защитой прав человека? Нужны ли специальные органы, которые будут следить, чтобы этот баланс соблюдался? Уже сейчас этический кодекс ИИ предполагает должность уполномоченного по этике. Крупные IT-корпорации приходят к пониманию, что им нужны аналитики - философы, социологи, этики, специалисты по коммуникации. Однако ни один этический кодекс не действует автоматически, ему требуется тонкая настройка, он должен согласоваться с мнениями и обиходным поведением людей. Каждая область профессиональной практики сталкивается с различными особенностями применения искусственного интеллекта. Если для военных ИИ - это безжалостная боевая машина, не знающая страха, то для социального работника он - помощник и утешитель для тех, кому нужны помощь и сострадание. В разных областях должны быть, вероятно, разработаны свои регламенты применения искусственного интеллекта, соотнесенные с профессиональными этическими декларациями. В этом смысле общий этический кодекс имеет лишь формальное значение. Время упоения техникой, технологического утопизма благополучно прошло. Об опасности механического использования технологий еще в 60-е годы прошлого века предупреждал Станислав Лем.
Еще одна особенность ИИ: его алгоритмы помогают ранжировать людей в зависимости от одобряемого властями поведения - неугодным могут отказать в выдаче кредита и социальных выплатах, запретить покидать страну или работать в определенных сферах. Всемирная организация здравоохранения (ВОЗ) недавно опубликовала доклад, в котором требует тестировать алгоритмы ИИ на эйджизм - дискриминацию людей по возрасту.
Потенциальных угроз, связанных ИИ, великое множество, но надо ли все их учитывать? Не станет ли скрупулезный учет этих угроз тормозом для развития ИИ? "Нужно помнить, что ИИ - это всего лишь инструмент, пускай и очень высокотехнологичный, который изобретен человеком для человеческих же нужд, - говорит декан философского факультета МГУ Алексей Козырев. - Как любой инструмент, он может быть использован во благо человека и во вред ему. Искусственное распознавание лица применяется и для бесконтактной оплаты в метро, и для поиска преступника с помощью видеокамер наружного наблюдения".
Парадоксально, но в эпоху расцвета технологий общество все больше ценит "человеческое". Согласно опросу ВЦИОМ, большинство россиян считают, что в будущем наибольшим спросом будут пользоваться профессии, основанные на прямом взаимодействии "человек - человек": врачи, учителя, юристы. Это говорит о четком тренде: люди голосуют за живое участие, а не за машинные алгоритмы.
Оказывается, что автоматизация бессильна перед такими категориями, как доверие, сочувствие и личная ответственность. Засыпанный цифровой информацией, современный человек интуитивно ищет опору в том, что проверено веками: во взгляде врача, в умении учителя вдохновить, в поддержке психолога. Технологии - это всего лишь инструмент, и окончательное решение, особенно в критических ситуациях, должно оставаться за человеком. Никакой, даже самый совершенный алгоритм, не способен заменить искреннюю веру священника у постели умирающего или страсть учителя, которая зажигает интерес к предмету у учеников. Образование - это не просто передача данных, а передача огня - любви к знанию и критического мышления. Машина может дать точный ответ, но не может показать, что мир полон чудес, и не способна принимать решения по-человечески, с учетом всей сложности морального выбора.