В будущем ИИ будет знать о пользователях абсолютно все

Искусственный интеллект (ИИ) является главным помощником человека в рутинных задачах: он быстро переводит тексты, делает расшифровки аудиосообщений и даже определяет мошеннические операции с банковскими счетами. Однако для выполнения большинства функций ему нужен доступ к пользовательским данным. Причем с каждым разом нейросетям требуется все больше таких сведений, а потому, по мнению гендиректора OpenAI Сэма Альтмана, в будущем системы будут знать о людях абсолютно все, включая подробности их приватных разговоров и содержание электронных писем.

В интервью MIT Technology Review он подчеркнул, что обладание полной информацией о жизни человека позволит ИИ работать усерднее. В результате он должен стать "суперкомпетентным коллегой". При этом ощущаться как продолжение самого человека такая нейросеть не будет.

Эксперты считают, что эта теория вполне реалистична. По мнению менеджера продуктов Innostage Евгения Суркова, вопрос здесь касается не столько ИИ, а сколько накапливаемых массивов данных. Нейросети же, скорее, нужны как один из специфических способов их обработки.

"В качестве "нечестных преимуществ" - из обученной модели не так-то легко удалить данные. Это может послужить плюсом для крупных компаний в противостоянии с регуляторами", - уверен он.

Вместе с тем формулировка "ИИ будет знать о человеке все" предполагает наличие отдельной умной сущности, как, например, AGI. Однако сегодня и в обозримом будущем люди продолжат жить в "парадигме большого количества разных моделей", которые созданы для определенных задач, отметил руководитель научной группы "Доверенные и безопасные интеллектуальные системы" Института AIRI Олег Рогов.

"Необходимость использования "всех данных о человеке" вряд ли полностью оправдана для создания эффективных моделей-помощников. Например, левша вы или правша не имеет никакого значения для модели, определяющей вашу кредитную историю. Кроме того, для эффективной работы моделей количество данных никогда не заменит важность их качества", - подчеркнул он.

При этом сами люди не склонны серьезно задумываться о цифровой гигиене, в то время как большие языковые модели готовы использовать любую информацию, "до которой могут дотянуться", отметил гендиректор АНО "Национальный центр компетенций по информационным системам управления холдингом" Кирилл Семион.

"При помощи регулирования контролировать применение моделями всех этих данных, увы, не получится - доступ данных инструментов к информации граждан - их личное дело", - добавил собеседник.

Решить эту проблему, по его словам, могут разъяснительные работы, которые в особенности необходимо проводить среди школьников.

Что касается преимуществ "всезнающего" ИИ, то Семион здесь назвал лишь то, что увеличится скорость получения данных и информационных сервисов.

Минусов же гораздо больше. Сурков в первую очередь выделил снижение адаптации и возможностей человека в управлении своим фокусом внимания, ухудшение навыков самостоятельной обработки информации и риски утечки чувствительных персональных данных, которые "разбросаны" по разным ИИ-помощникам.

"Чем больше точек хранения данных - тем больше вероятность утечки хотя бы части данных. А если в каждой из таких точек будет храниться весьма подробный "слепок" - "цифровая копия жизни" человека, - вероятность критичной утечки становится близка к 100%", - объяснил эксперт.