11.04.2017 22:04
Общество

Как роботов будут защищать от людей

Как защитить робота от человека
Текст:  Юрий Медведев
Российская газета - Федеральный выпуск: №77 (7243)
Роботы уже пришли! Для многих такое заявление еще кажется фантастикой, однако специалисты не сомневаются, что будущее, описанное в романах, уже наступило. Более того, многие ученые, в том числе и знаменитый ученый Стивен Хокинг, уже серьезно говорят о нашествии роботов. Они способны поработить человека, и не помогут никакие законы Айзека Азимова, которые должны быть заложены в мозгах машин. Роботы будут настолько умны, что сумеют преодолеть все запреты.
Читать на сайте RG.RU

Уже сегодня умные машины готовы взять на себя 45 процентов деятельности людей. Примеры? Роботы уже давно "свои" в финансовой сфере, скажем, на биржевом рынке они выполняют около 80 процентов операций. В ближайшие 7-8 лет передача рутинных операций роботам приведет к росту безработицы на 35-40 процентов. Причем речь идет не только о производстве, но и об интеллектуальной деятельности. Роботы уже пишут музыку и стихи, машина-журналист за минуту успешно написала статью. Но и этого мало. Роботы замахнулись даже на руководителей. Такой "босс" вначале должен пройти обучение, следя за работой человека, анализируя его ошибки, выбирая оптимальный вариант. Достоинства "железного" начальника очевидны. Он способен держать в "голове" все маршруты движения документов, различные варианты принятия решений, мгновенно сравнивать их последствия, учиться на ошибках и уже никогда их не повторять.

Каких боевых роботов получат российские военные в ближайшие годы

Какую карьеру способны сделать роботы? До какого этажа руководящей вертикали могут подняться, и разрешит ли человек так унизить себя? Эти вопросы сегодня активно обсуждаются не только создателями такой техники, но и экономистами, юристами, бизнесменами, социологами.

Совершенно неожиданный взгляд на проблему предлагают американские ученые Гордон Бриггс и Маттиас Шойц из Университета Тафтса. Они уверены, что самую большую угрозу для человечества несут не суперинтеллектуальные машины, которые якобы в какой-то момент не захотят выполнять команды человека и выйдут из его подчинения, а сам человек. Прежде всего это его ошибки при создании такой техники. Дело в том, что в самих командах, которые человек дает своему подопечному, могут быть нечеткие, двусмысленные инструкции. Скажем, человек опаздывает на работу и дает команду роботу-автомобилю как можно быстрей доставить его в офис. А если на шоссе сильная гололедица? Что делать роботу? Если беспрекословно выполнять команду, то велик шанс попасть в аварию. Не подчиняться? Но это должно быть заложено в алгоритме. Есть варианты, когда человек сможет вводить роботов в заблуждение, стремясь использовать в своих корыстных целях.

Уже сегодня умные машины готовы взять на себя 45 процентов деятельности людей

Как быть в таких ситуациях? Бриггс и Шойц считают, что робота надо научить говорить "нет". Для этого его предлагает наделить способностью к хотя бы элементарному мышлению, чтобы он мог понять, опасно или нет выполнять команду человека. Задача, прямо скажем, сложнейшая, но ученые уже взялись за ее решение. Во всяком случае, составили необходимые алгоритмы, встроили их в мозги робота и начали первые эксперименты.

А как поведут себя люди, если "морализирующие" и "умные" роботы откажутся выполнять их команды? Согласятся или нет участвовать в обмане? В использовании человеком машины, чтобы причинить вреда другому человеку? Это принципиальные вопросы. В принципе, робот может стать на пути злой воли человека, распознавать и устранять его недостатки. Перспектива, прямо скажем, неожиданная и захватывающая.

Наука