В Совфеде обсудили, как регулировать применение искусственного интеллекта

Чтобы законодательно отрегулировать сферу искусственного интеллекта (ИИ), парламентариям придется определить социальные измерения и последствия его использования, считает председатель Комиссии Совфеда по информационной политике и взаимодействию со СМИ Алексей Пушков. Пока поправки делаются точечно, например, разрабатывается проект закона об использовании синтезированного голоса только с согласия его "оригинала".

"ИИ - это не самостоятельное существо, не самопознающая субстанция и тем более не аналог человека - он воспроизводит то, что в него закладывается. И может это даже максимизировать до абсурда. Он работает в рамках того запроса, тех данных, которые в него введены", - заявил Пушков на заседании комиссии в четверг.

Технологии распознавания лиц, наблюдения и слежения за теми или иными людьми дают новые инструменты не только государству, но и злоумышленникам. "Надо либо корректировать закон с целью расширить полномочия наших правоохранительных органов, либо определить, в каких точно пределах разрешено наблюдение за личностью", - продолжил Пушков. Сенатор оговорился, что парламентарии хотят регулировать не сам ИИ, чем должны заниматься разработчики, а применение технологии.

Чего только стоит телефонное мошенничество с обманом сотен тысяч людей, которое грозит выйти на новый уровень. "Оно уже ставится на продвинутую технологическую основу как раз с использованием искусственного интеллекта, который может делать бесчисленное количество звонков. И, как меня заверяют специалисты, голос ИИ уже почти невозможно отличить от голоса человека, который занимается такого же рода деятельностью", - отметил Алексей Пушков. По его мнению, придется либо расширять полномочия исполнительной власти и правоохранителей, либо четко определить, в каких пределах разрешена та или иная форма наблюдения за человеческой жизнью.

При цифровизации зачастую не просчитываются социальные риски, а бурное развитие технологий уже взяли на вооружение мошенники, согласился член СПЧ при президенте Игорь Ашманов. "Через некоторое время ИИ будет обладать абсолютно гипнотическим воздействием, очень быстро реагировать, на то ведется человек или нет", - предупредил эксперт. Он также отметил, что многие отечественные цифровые платформы заимствуют зарубежные алгоритмы ИИ, всего лишь переупаковывая их в новые оболочки. Это происходит из-за стоимости "железа", которое нужно, чтобы создавать большие аналитические модели.

ИИ - это не самостоятельное существо, он воспроизводит то, что в него закладывается

Необдуманное использование ИИ опасно и тем, что может повлечь неверные решения, считает сенатор Ирина Рукавишникова. Она привела случай с ученым-гидрологом Александром Цветковым, который год провел в СИЗО, несмотря на полное алиби. Зато нейросеть, сделавшая фоторобот, дала 55 процентов совпадения во внешности с преступником, этого для следователей оказалось достаточно. Чтобы избежать фатальных ошибок, Рукавишникова предлагает использовать риск-ориентированный подход и маркировать весь контент, изготовленный с помощью ИИ.

В Совфеде уже разрабатывают законопроект, который закрепит норму о возможности использования голоса в рамках технологий ИИ только с его согласия, сообщил сенатор Артем Шейкин.