И тут все, что называется, в одну кучу. Попробуем ее разгрести.
Не все нейросети одинаково неприятны, равно как и не все одинаково полезны. Очевидно, что меньше всего вопросов возникает к нейросетям, которые занимаются всяким нейросетевым, условно, к GPT-сервисам. Там понятны правила игры, понятно, с чем человек имеет дело. Есть куча иных нюансов, в первую очередь с персональными данными и советами в вопросах жизни и смерти, но глобально нет никакой недосказанности в плане взаимодействия.
Есть сервисы, где нейросеть плотно вшита в саму суть оказываемых услуг. Например, сервис заказа такси или доставки чего-нибудь. Тут не очень понятно, как удовлетворить запрос этого абстрактного пользователя "обойтись без ИИ" - переключить заказ такси на живого диспетчера, который будет обзванивать таксистов или курьеров?
Или, например, банковские услуги - это любимый пример Натальи Касперской. С одной стороны - сегодня решение об одобрении кредита или ипотеки принимается банком за 30 секунд. И вряд ли кто-то захочет возвращения кредитных комитетов, которые будут рассматривать заявки днями и даже неделями с человеческим фактором, коррупционной составляющей и прочими радостями. С другой стороны - сегодня никто не гарантирован от ошибок, а для каких-либо апелляций нет даже окошка. Зачастую, как в случае, например, с отказом в обслуживании (это тоже решает ИИ), непонятно, к кому обратиться, чтобы разобраться, в чем причина такого решения: кол-центр кивает на сотрудников отделения, сотрудники отделения - на кол-центр. И это при условии, что у банка есть отделения.
А еще есть рекомендательные алгоритмы - это все, что касается маркетплейсов, онлайн-кинотеатров и других сервисов. Впрочем, они уже были отрегулированы ранее законопроектом Антона Горелкина и сейчас официально обозначаются на сайтах и в приложениях, и у пользователей есть возможность отключить их при желании.
Люди хотят общаться с людьми. И люди хотят получать уникальный ответ на свой запрос, даже если он совсем не уникален. Особенно если и вопрос, и ответ - болезненны и неприятны. И вопросы медицинские - пожалуй, одна из немногих вещей, где прямо очень хочется живого, человеческого общения. И самый яркий пример - это чтение снимков и флюорографий при помощи ИИ.
Но давайте вспомним, когда это начало внедряться? В ковид, когда снимки делались на потоке десяткам тысяч человек в день. Когда основной вопрос был, есть "стекло" в легких или нет. И нейросети с этим в общем-то прекрасно справлялись. Есть работа ИИ со снимками и сегодня, но, например, в Москве в ЕМИАС сразу же обозначается, что первичный отчет пишет "нейронка", а следом - всегда - прилетает отчет, подготовленный живым врачом.
У проблемы использования нейросетей сразу несколько ракурсов, и есть ощущение, что по крайней мере в подаче журналистов регулятором выделены не та проблема и не то решение.
Есть целый ряд сценариев, где у человека должен быть выбор - получить ответ сразу от ИИ или чуть позже от человека. Есть, где одно не может быть не дополнено вторым. А есть, где сам факт человеческого общения крайне важен. Есть и такие, где должно быть второе мнение или возможность его запросить, причем понятная, прозрачная возможность. А есть вещи, которые просто работают.
В свое время главной проблемой законопроекта о платформенной экономике стало то, что одним документом попытались отрегулировать огромную отрасль с массой самых разных сред, сервисов и услуг. Объединяло их, пожалуй что, только то, что все они были в интернете. И задумка постоянно распадалась на составные, во многом взаимоисключающие части. В какой-то момент авторы сосредоточились только на маркетплейсах, и вроде бы все получилось.
Есть ощущение, что с регулированием ИИ в целом будет та же история. Регулировать необходимо конкретные применения, конкретные сценарии, где понятны риски и уязвимости. В противном случае мы рискуем затормозить развитие сферы, значимость которой сегодня невозможно переоценить, а заодно - вновь вернуться к диспетчерам таксопарков. Есть сомнение, что это именно то человеческое общение, которого нам хотелось бы.