На форуме "Технологии и безопасность 2026" эта мысль прозвучала сразу от нескольких спикеров: новые сценарии использования ИИ появляются ежеквартально, а вместе с ними - новые уязвимости, новые требования к данным и новая, более высокая цена ошибки.
Ключевое выступление пленарной части сделал врио директора департамента обеспечения кибербезопасности Минцифры России Евгений Хасин. Его тезис - у ИИ много "лиц" (компьютерное зрение, экспертные системы, распознавание, мультиагентные и генеративные модели), но общая характеристика у них одна - дата-центричность всех технологий, так как они базируются на данных, которые обрабатывают.
Отсюда и базовая рамка рисков, которую, по словам Хасина, можно считать универсальной для ИИ вне зависимости от отрасли:
- искажение результатов: ИИ может выдавать неверные данные или распознавать некорректно;
- изменение в обучающих данных: внесение вредоносных изменений в данные, на которых обучается модель;
- механизм воздействия: ИИ может стать инструментом эскалации атак в вредоносных системах;
- извлечение защищаемой информации: попытки получить конфиденциальные данные из моделей;
- DDoS-атаки: перегрузка системы ИИ для вывода ее из строя;
- манипуляция правилами: формирование "токсичных" запросов для получения некорректных результатов.
Хасин предложил делить ИИ-угрозы на три крупных направления:
- техническая защита информации: традиционные методы защиты (ограничение доступа, идентификация), описанные в новом приказе ФСТЭК России № 117;
- функциональная надежность: анализ корректности работы ИИ-систем изнутри, что является более сложной задачей из-за разнообразия методов и сложности анализа;
- социальная защита: защита пользователей от контента, генерируемого ИИ, особенно в контексте больших языковых моделей (например, боты для личных отношений, влияние на социальный уклад).
Недавно Минцифры совместно с Консорциумом исследований безопасности технологий ИИ провело добровольный пилот в шести региональных информационных системах, в том числе с учетом требований приказа ФСТЭК России № 117, где были выявлены типовые для многих организаций проблемы: незнание того, как работает ИИ-система, а также неактуальная документация.
Евгений Хасин привел бытовую аналогию: многие водители не знают, как устроен двигатель, "главное, чтобы машина ехала", и это всех устраивает, - но с ИИ такой подход опасен именно из-за масштаба последствий.
Тему практической отдачи и барьеров внедрения ИИ раскрыл директор Федерального государственного автономного учреждения "Цифровые индустриальные технологии" при Минпромторге России Эдуард Шантаев. Среди успешных примеров использования - предиктивное обслуживание оборудования, оптимизация логистики, контроль качества через "оптические" системы компьютерного зрения. По данным, которые он привел, в промышленности наиболее распространены решения компьютерного зрения - около 35%, а также обработка естественного языка - примерно 12%.
При этом промышленность все чаще требует не "модного ИИ", а доказанного эффекта: окупаемости, снижения простоев, экономии энергии. И одновременно - максимальной локализации. По оценке, прозвучавшей в выступлении, 95% промпредприятий предпочитают on-prem-развертывание, то есть не в облаке, а на собственных вычислительных мощностях. Причина проста: чувствительные данные, технологические регламенты и ноу-хау могут легко "утечь", если сотрудники загружают документы в публичные модели ради быстрого ответа.
Вопрос утечек данных из больших языковых моделей сегодня окончательно не решен ни одним публичным ИИ-сервисом в мире, включая лидеров: ChatGPT, Claude и Gemini. А главный советник Управления президента Российской Федерации по государственной политике в сфере оборонно-промышленного комплекса Василий Елистратов подчеркнул, что сегодня практически любая высокоинтеллектуальная технология, включая ИИ, может быть использована как в народном хозяйстве, так и в ВПК.
Проблема доверия к ИИ и сервисам на его основе имеет и рыночное измерение. Как заявил генеральный директор АНО ЦТИ "Нейролаб", исполнительный директор Ассоциации лабораторий по развитию искусственного интеллекта Вячеслав Береснев, число самостоятельных российских вендоров ИИ - примерно 600, и 98 % этих компаний относятся даже не к среднему, а к малому бизнесу. При этом российские заказчики, особенно промышленные, таким компаниям часто не доверяют из-за их небольшого размера, молодой команды и отсутствия подтвержденного опыта. Это приводит к тому, что многие перспективные стартапы не доживают до стадии создания коробочных продуктов.
Для решения этой проблемы, по мнению Береснева, можно ввести "шильдик добросовестного поставщика", который будет подтверждать надежность компании.
- критерии оценки могли бы включать 4 аспекта:
- юридическая плоскость: проверка юридического лица поставщика;
- финансовые критерии: оценка выручки и финансовой стабильности;
- возможности по разработке: анализ внутренних процессов разработки, подхода к данным и формированию продукта;
- клиентский опыт: отзывы и опыт работы с вендором.
Такой подход мог бы помочь малым и средним предприятиям найти надежных партнеров, а в будущем стать основой для более глубокой сертификации и стандартизации.
По мнению Хасина, пока ни один даже самый смелый прогноз относительно темпов развития искусственного интеллекта не смог предсказать скорость его развития, а те вопросы безопасности, которые поднимались год назад, фактически устарели. Отсюда вытекает необходимость мониторинга всего жизненного цикла ИИ-моделей, их обновлений и постоянной актуализации угроз.
Практика применения ИИ в России развивается довольно быстро - от госэкспериментов и пилотов в регионах до промышленного использования и корпоративных ассистентов. Главный вывод, который делают эксперты, - сделать так, чтобы скорость внедрения не опережала культуру доверия и инженерную дисциплину безопасности. Как показало обсуждение в рамках "ТБ-форума 2026", ключ к успеху - не в одном "универсальном" инструменте, а в связке понятных требований регуляторов, зрелой и безопасной разработки, определении "недопустимых событий" и квалифицированных командах как среди поставщиков, так и среди заказчиков ИИ-решений.