Ваши переписки анализирует ИИ: Насколько безопасны "умные" ответы в мессенджерах?
ИИ-функции в мессенджерах могут привести к утечке личных переписок пользователей
Мессенджеры начали внедрять генерацию ответов с помощью ИИ. Нейросеть анализирует контекст переписки и предлагает готовые варианты сообщений, упрощая повседневное общение. Эксперты рассказали, что такие функции могут приводить к утечкам личных данных в будущем.
Личные переписки могут содержать коммерческую или врачебную тайну. / Сергей Михеев
Недавно мессенджер WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) внедрил множество функций, в том числе возможность генерации ответов с помощью искусственного интеллекта (ИИ) на основе переписок пользователя. Функция "Помощь в написании" помогает перефразировать сообщения, проверять и корректировать тон текста.
В компании отмечают, что благодаря ускоренной "помощи" нейросети пользователи перестанут обращаться к более популярным сервисам вроде ChatGPT, Claude или Gemini. При этом разработчики заявляют, что чаты останутся приватными и никто не получит доступ к перепискам или сгенерированным ответам.
Кроме того, пользователи мессенджера Telegram на ОС Android уже протестировали бета-версию обновления платформы. В ней появился ИИ-редактор текстов, который помогает писать посты и редактировать сообщения. Также пользователи заметили, что над некоторыми сообщениями появилась плашка "Краткое содержание от ИИ". Еще мессенджер автоматически предлагает "эмоджи" (смайлики), отталкиваясь от тональности и темы текста.
Младший научный сотрудник факультета безопасности информационных технологий Университета ИТМО Абдулхамид Бучаев рассказал, что подобное использование нейросетей действительно порождает угрозы нарушения конфиденциальности информации. По его словам, в личных переписках часто можно встретить, например, коммерческую или врачебную тайны, а также персональные данные.
"Разработчики "зеленого" мессенджера уверяют, что встроенная технология Private Processing не позволит работникам получить доступ к сообщениям, но данные личной переписки могут использоваться и в целях дообучения анализирующих моделей, поэтому риск утечки этих данных остается актуальным", - говорит эксперт.
Подобные решения появляются все чаще. Например, Google давно развивает Smart Reply в Gmail, а Microsoft внедрила генерацию контекстных черновиков ответов в Copilot для сценариев обслуживания клиентов и работы с почтой. Аналогичные умные ответы есть и у Apple в инструментарии Writing Tools.
Директор по развитию ИИ "Группы Астра" Станислав Ежов отмечает, что использование ИИ для генерации ответов в мессенджере безопасно только в том случае, если обработка переписки происходит в изолированном контуре, с явного согласия пользователя и без использования личных чатов для обучения модели. Однако для пользователя ключевой риск все равно заключается в том, кто именно получает доступ к контексту переписки и как долго он хранится.
Эксперт добавляет, что сейчас рынок движется к модели, где искусственный интеллект не просто дописывает фразы, а понимает ход переписки и предлагает почти готовые действия.
"Запрещенная в России Meta уже подвергалась критике за использование пользовательских данных для обучения своих моделей. В официальной документации указывается, что взаимодействие с генеративными ИИ-инструментами может использоваться для персонализации контента и рекламы, при этом отказаться от такого использования данных, судя по имеющейся информации, нельзя", - говорит сооснователь ИИ-интегратора Metalab Сергей Батулин.
Он указывает, что ключевая особенность WhatsApp - сквозное шифрование. Но переписка с Meta AI и, вероятно, с функцией генерации ответов обрабатывается на серверах компании и не защищена тем самым сквозным шифрованием, которое применяется к обычным чатам. "С точки зрения кибербезопасности это шаг назад. Функция создает "дыру" в сквозном шифровании, собирает данные для обучения ИИ, что для корпоративного сектора является неприемлемым уровнем риска", - объясняет Батулин.
По его словам, такой сценарий коммуникаций может быть востребован только между компаниями и обычными пользователями - это единственное "белое пятно", где такие технологии безопасны и эффективны. Например, в клиентской поддержке, где ИИ анализирует вопрос о статусе заказа, часах работы или возврате и мгновенно дает ответ. Это экономит время операторов. Или в сценариях вроде: "Запиши меня к стоматологу на завтра" или "Забронируй столик на двоих". Тут ИИ может извлекать сущности - дату, время, имя - и подтверждать действие.
"Разработчики обязаны соблюдать пять ключевых принципов: активное согласие пользователя, минимизация собираемых данных, короткий срок их хранения, запрет на обучение моделей на личной переписке, а также наличие понятного аудита того, что именно анализирует ИИ. Кроме того, у пользователя всегда должна быть альтернатива: возможность отключить функцию, отредактировать ответ вручную и четко понимать, где заканчивается удобство и начинается риск", - заключает Ежов.
