Закон для нейросети: почему регулировать ИИ сложнее, чем кажется
С 1 сентября в России действуют основные положения закона № 243-ФЗ о поддержке развития искусственного интеллекта. Он устанавливает правила для больших фундаментальных моделей, предусматривает меры государственной поддержки и определяет подходы к развитию суверенных и национальных ИИ-решений. В октябре Минцифры сообщило о подготовке шести постановлений, уточняющих его положения.
Параллельно опубликован экспертный проект закона "О безопасном использовании систем искусственного интеллекта".
Он предлагает дополнительные требования к производителям и операторам ИИ-систем, механизмы защиты пользователей и распределения ответственности за ошибки нейросетей.
Пока это только проект, однако его появление вновь поднимает вопрос: можно ли установить универсальные правила для технологии, которая постоянно меняется и применяется практически во всех отраслях экономики?
"Российская газета" выяснила у представителей технологических компаний, почему искусственный интеллект так трудно регулировать, кто должен отвечать за его ошибки и могут ли новые требования создать дополнительные барьеры для развития отрасли.
Полгода против недели
Руководитель Центра разработки больших языковых моделей MWS AI (входит в МТС) Валентин Малых считает главной сложностью разницу между скоростью развития технологий и законодательным процессом. По его словам, если в прошлом году новые передовые модели появлялись примерно раз в десять дней, то теперь - каждую неделю. При этом средний срок прохождения законопроекта от внесения до принятия в Госдуме прошлого созыва составлял около полугода.
Другая проблема заключается в универсальности искусственного интеллекта. Малых сравнивает его распространение с появлением двигателя внутреннего сгорания, который изменил сразу множество сфер деятельности. Аналогичным образом ИИ постепенно проникает в самые разные отрасли, каждая из которых уже регулируется собственными нормативными актами. Адаптировать все законодательство к новым технологиям за короткий срок практически невозможно.
Завтра будет уже вчера
Директор по стратегии международной платформы для развития бизнеса Kokoc Group Роман Казыханов обращает внимание на непредсказуемость развития ИИ. По его словам, технологии постоянно превосходят даже самые смелые прогнозы, а разработчики уже сталкиваются с неожиданным поведением моделей.
При этом законодатель должен учитывать не только возможности самих нейросетей, но и изобретательность людей, которые находят им новые применения - от создания полезных сервисов до генерации сомнительного контента и обхода существующих защит. Казыханов сомневается в эффективности попыток заранее предусмотреть все риски: к моменту принятия новых требований рынок может оказаться в совершенно другой технологической реальности.
Нейросеть ошиблась. Кто крайний?
Предприниматель, управляющий фондом и основатель финтех-платформы SharesPro Денис Астафьев считает, что регулировать следует не столько сам искусственный интеллект, сколько конкретные способы его применения.
Одна модель, отмечает Астафьев, может писать поздравления, создавать изображения или помогать врачу анализировать медицинские данные. Но цена ошибки в каждом случае разная.
Особенно сложно определить ответственность за последствия работы ИИ. Разработчик создает базовую модель, другая компания адаптирует ее для собственных задач, а конечный пользователь принимает решение на основании полученного результата. Ошибка может возникнуть на любом этапе.
По словам Астафьева, решение нейросети не освобождает людей и компании от ответственности. Однако автоматически винить разработчика во всех ошибках тоже неправильно.
Требования к ИИ, считает эксперт, должны зависеть от рисков. В медицине и других сферах высокого риска нужны наблюдение за системой, фиксация сбоев и повторные проверки после существенных изменений. Человек должен иметь возможность проверить результат и остановить ошибку. Но аналогичные процедуры для генератора открыток лишь увеличат расходы без сопоставимой пользы для безопасности.
Патч для законодательства
Заместитель руководителя направления "Искусственный интеллект" ИТ-холдинга Т1 Сергей Карпович обращает внимание на различие задач двух российских законодательных инициатив. Принятый закон № 243-ФЗ направлен прежде всего на поддержку разработки ИИ, тогда как опубликованный в октябре проект предлагает дополнительные меры защиты граждан.
В частности, авторы проекта предлагают создать реестр доверенных ИИ-систем, закрепить право пользователей отказаться от взаимодействия с нейросетью в определенных случаях, а также требовать пересмотра значимых решений человеком.
По мнению Карповича, наиболее перспективным остается рамочный подход: закон должен устанавливать основные принципы и распределять ответственность, а конкретные технические требования следует выносить в подзаконные акты, которые проще обновлять. Обязательное согласование каждого обновления ИИ-модели потребовало бы значительных ресурсов, но не гарантировало бы отсутствия ошибок.
Прогресс на ручник не ставить
В пресс-службе "МегаФона" напоминают об особой значимости технологического суверенитета для России. В компании считают, что при формировании суверенной технологической среды необходимо выстраивать регулирование так, чтобы новые правила "поддерживали развитие решений, но не тормозили внедрение инноваций".
При этом дополнительные требования могут по-разному сказаться на участниках рынка. Крупные технологические компании располагают ресурсами для проведения экспертиз, испытаний и юридического сопровождения, тогда как для небольших разработчиков связанные с этим расходы способны стать серьезным препятствием. В результате регулирование, призванное обеспечить безопасность ИИ, рискует одновременно ограничить конкуренцию, укрепив позиции крупнейших игроков.
В конечном счете задача законодателя заключается не в том, чтобы описать каждую возможную функцию искусственного интеллекта. Гораздо важнее определить, какие риски требуют вмешательства, кто способен ими управлять и как защитить человека в случае ошибки. Такие правила должны сохранять работоспособность независимо от того, насколько изменятся нейросети к моменту их вступления в силу.
