"Целью проекта является защита фундаментальных прав, демократии, верховенства закона и экологической устойчивости от высокорискованного искусственного интеллекта, а также стимулирование инноваций и утверждение Европы в качестве лидера в этой области. Регламент устанавливает обязательства в отношении ИИ, исходя из его потенциальных рисков и уровня воздействия", - говорится на сайте парламента.
Так, закон запрещает извлекать снимки людей из интернета или с камер видеонаблюдения для создания баз данных распознавания лиц, использовать системы распознавания эмоций и лиц, а также платформы удаленной биометрической идентификации в режиме реального времени в публичных местах. Кроме того, полиция без соответствующего разрешения не сможет обращаться к системам предиктивной аналитики в целях профилактики правонарушений, когда ИИ предсказывает преступления. Запрет коснется и нейросетей, которые манипулируют поведением человека или используют его уязвимости.
Системы ИИ с высоким уровнем риска - те, которые затрагивают, например, здравоохранение, банковское дело или образование, - должны будут оценивать и снижать риски, вести журналы использования и обеспечивать человеческий контроль. Сами граждане смогут подавать жалобы на системы ИИ для получения разъяснений по поводу решений, которые затрагивают их права.
Вместе с тем закон требует от сервисов соблюдения авторских прав и четкого обозначения контента, который создан искусственно или обработан нейросетью.
"Сейчас мы во всем мире наблюдаем инциденты, когда ИИ "генерирует", придумывает те или иные факты, а потом эти самые факты чат-боты предлагают пользователям в качестве истины, что вводит людей в заблуждение или вовсе дезинформирует. Если весь контент, созданный генеративным ИИ, будет помечен, то каждый человек сможет принять решение: доверять этому или нет", - сказал доктор технических наук и гендиректор Smart Engines Владимир Арлазаров.
Закон также предусматривает тестирование разработок стартапов, малых и средних предприятий перед тем, как они появятся на рынке.
"У нас наконец-то появился первый в мире обязательный закон об ИИ, призванный снизить риски, создать возможности, бороться с дискриминацией и обеспечить прозрачность", - заявил член Европарламента Брандо Бенифеи.
Он также сообщил, что для помощи в соблюдении новых правил будет создан AI Office.
Документ еще подлежит окончательной проверке юристов-лингвистов и официальному одобрению Совета. В силу он вступит спустя 20 дней после его публикации в официальном журнале, а полностью применяться начнет через два года.
"Разработчики закона стали первыми в глобальной гонке законотворчества в области ИИ, поэтому можно однозначно сказать, что в дальнейшем при создании и принятии аналогичных законов другие юрисдикции будут опираться на него, но станет ли он мировым стандартом - большой вопрос", - сказала патентный поверенный РФ и ведущий специалист Института ИИ AIRI Вита Власова.
По ее словам, риско-ориентированный подход, лежащий в основе закона, кажется целесообразным и логичным, однако вопрос, как именно на практике будут приниматься решения по отнесению того или иного ИИ-решения к определенной категории риска, остается открытым.
"Нам же в России стоит проанализировать указанный документ, понаблюдать за его правоприменением и взять из него самое лучшее и эффективно работающее, исключив положения, которые возможно негативно будут влиять на развитие сферы ИИ", - подчеркнула Власова.
При этом в стране уже делаются некоторые шаги на пути к регулированию нейросетей. В частности, Альянс в сфере ИИ 13 марта подписал декларацию об ответственной разработке и использовании сервисов на основе таких технологий. Его авторы в числе прочего договорились о принятии мер для предотвращения создания недостоверной информации, просвещении пользователей о возможностях новых технологий, принципах прозрачности и безопасности.