Роботы, принимающие важные решения в отношении человека, сегодня уже не фантастика. И государственные организации, и бизнес активно говорят о расширении применения программ искусственного интеллекта. Поэтому комиссия по правовому обеспечению цифровой экономики Московского отделения АЮР предложила прописать правила для роботов. И главное - максимально упростить процедуры обжалования решений, принятых искусственным интеллектом. По данным "РГ", подготовленные предложения сейчас изучаются в Совете Федерации.
"Системы автоматизированного принятия решения сегодня активно применяются при принятии решений во время устройства сотрудников на работу, увольнении сотрудников, получении кредита или страховки и вынесении штрафов в автоматическом режиме, - рассказывает председатель "цифровой" комиссии Московского отделения АЮР Александр Журавлев. - Такие алгоритмы нередко имеют в своей основе технологии искусственного интеллекта, в том числе основанные на самообучении".
По его словам, применение таких систем - несомненная помощь бизнесу, они позволяют экономить время и деньги. "Но вместе с этим они несут ряд рисков, - говорит он. - В частности, это риски принятия алгоритмами необъективных и дискриминирующих решений". Например, в США системы искусственного интеллекта уже используются в судах. Алгоритм применяет секретные критерии оценки личности подсудимого, суть которых не разглашается, поскольку данный алгоритм представляет собой коммерческую тайну. Но при этом с легкой "руки" судебных роботов подсудимым нередко увеличивают срок.
"Крайне важным является создание эффективных механизмов обжалования принятых в автоматизированном порядке решений госорганов. Такие механизмы должны быть максимально "дружелюбными" для граждан и организаций, оперативными и обеспечивающими участие компетентных лиц, рассматривающих жалобу", - подчеркнул Александр Журавлев.