Уже сегодня умные машины готовы взять на себя 45 процентов деятельности людей. Примеры? Роботы уже давно "свои" в финансовой сфере, скажем, на биржевом рынке они выполняют около 80 процентов операций. В ближайшие 7-8 лет передача рутинных операций роботам приведет к росту безработицы на 35-40 процентов. Причем речь идет не только о производстве, но и об интеллектуальной деятельности. Роботы уже пишут музыку и стихи, машина-журналист за минуту успешно написала статью. Но и этого мало. Роботы замахнулись даже на руководителей. Такой "босс" вначале должен пройти обучение, следя за работой человека, анализируя его ошибки, выбирая оптимальный вариант. Достоинства "железного" начальника очевидны. Он способен держать в "голове" все маршруты движения документов, различные варианты принятия решений, мгновенно сравнивать их последствия, учиться на ошибках и уже никогда их не повторять.
Какую карьеру способны сделать роботы? До какого этажа руководящей вертикали могут подняться, и разрешит ли человек так унизить себя? Эти вопросы сегодня активно обсуждаются не только создателями такой техники, но и экономистами, юристами, бизнесменами, социологами.
Совершенно неожиданный взгляд на проблему предлагают американские ученые Гордон Бриггс и Маттиас Шойц из Университета Тафтса. Они уверены, что самую большую угрозу для человечества несут не суперинтеллектуальные машины, которые якобы в какой-то момент не захотят выполнять команды человека и выйдут из его подчинения, а сам человек. Прежде всего это его ошибки при создании такой техники. Дело в том, что в самих командах, которые человек дает своему подопечному, могут быть нечеткие, двусмысленные инструкции. Скажем, человек опаздывает на работу и дает команду роботу-автомобилю как можно быстрей доставить его в офис. А если на шоссе сильная гололедица? Что делать роботу? Если беспрекословно выполнять команду, то велик шанс попасть в аварию. Не подчиняться? Но это должно быть заложено в алгоритме. Есть варианты, когда человек сможет вводить роботов в заблуждение, стремясь использовать в своих корыстных целях.
Как быть в таких ситуациях? Бриггс и Шойц считают, что робота надо научить говорить "нет". Для этого его предлагает наделить способностью к хотя бы элементарному мышлению, чтобы он мог понять, опасно или нет выполнять команду человека. Задача, прямо скажем, сложнейшая, но ученые уже взялись за ее решение. Во всяком случае, составили необходимые алгоритмы, встроили их в мозги робота и начали первые эксперименты.
А как поведут себя люди, если "морализирующие" и "умные" роботы откажутся выполнять их команды? Согласятся или нет участвовать в обмане? В использовании человеком машины, чтобы причинить вреда другому человеку? Это принципиальные вопросы. В принципе, робот может стать на пути злой воли человека, распознавать и устранять его недостатки. Перспектива, прямо скажем, неожиданная и захватывающая.