Нейросети все чаще используются в кибербезопасности: Преимущества и угрозы

Искусственный интеллект (ИИ) все глубже проникает в кибербезопасность. Злоумышленники используют его для написания вредоносного кода, фишинговых писем и анализа инфраструктуры, а специалисты - для поиска уязвимостей, обработки инцидентов и автоматизации рутинных задач. Пока ИИ остается скорее помощником человека, но развитие автономных агентов постепенно меняет подходы к атакам и защите.

На конференции по практической кибербезопасности OFFZONE 2026 эксперты отрасли обсудили, как искусственный интеллект выходит на обе стороны кибератак. Так, нейросети сегодня использует подавляющее большинство хакерских группировок. Согласно исследованию компании BI.ZONE, на теневых ресурсах чаще всего обсуждают обход ограничений публичных ИИ-моделей. Этому посвящено 77% всех обсуждений. 22% приходится на обсуждение ИИ-моделей без цензуры и только 1% касается других тем, включая применение ИИ в атаках, ИИ-агентов и комплексную автоматизацию.

Руководитель BI.ZONE Threat Intelligence Олег Скулкин рассказал, что пока злоумышленники не могут передать нейросетям всю работу над атакой. Злоумышленник сам должен четко понимать, как разработать вредоносное программное обеспечение - без нужных знаний даже с помощью искусственного интеллекта не получится сделать что-то работоспособное. Но ИИ позволяет быстрее достигать нужного результата.

При этом искусственный интеллект активно используется в реальных атаках для того, чтобы писать более правдоподобные фишинговые письма. "Если раньше до некоторых организаций злоумышленники не добирались просто потому, что им не хватало ресурсов, то искусственный интеллект позволяет быстрее реализовывать атаки по определенному шаблону", - объясняет Скулкин.

Важно, что полная автоматизация атак пока невозможна. Пока злоумышленники используют ИИ только на разных этапах жизненного цикла кибератаки. Например, с его помощью они ищут потенциальных жертв, эксплуатируют уязвимости, создают и модифицируют вредоносное ПО, расширяют методы социальной инженерии и получают учетные данные.

Также растет число специалистов по информационной безопасности, которые встраивают ИИ-модели в свои рабочие процессы. Руководитель управления анализа защищенности BI.ZONE Михаил Сидорук отмечает, что для компании летом этого года случился сдвиг в направлении внедрения ИИ-моделей. Специалисты поняли, что с помощью искусственного интеллекта могут с очень высокой степенью автономности искать уязвимости. Сейчас на их поиск у команд уходит примерно в пять раз меньше времени, чем ранее.

При этом пока все равно нужен ведущий эксперт, который управляет агентами, занимается целеполаганием и определяет наиболее важные стороны работы. "На горизонте трех лет поиск сложных уязвимостей, в том числе связанных со сложной бизнес-логикой, по-прежнему будут проводить люди вместе со своими ИИ-ассистентами. Мы будем продвигаться все глубже в сторону сложных уязвимостей, связанных с цепочками эксплуатации и бизнес-логикой. А "низковисящие фрукты", то есть простые и очевидные уязвимости, станут банальными", - говорит Сидорук.

В целом в ближайшем будущем поиск сложных уязвимостей и оценку реального влияния на бизнес будут проводить также люди. ИИ-пентест перейдет от автоматизации отдельных задач к автономному проведению исследований. А искусственный интеллект оставит в прошлом типовые уязвимости.

Искусственный интеллект будет постепенно переходить от автоматизации к автономии и брать на себя отдельные процессы, считает эксперт. По его мнению, развитие ИИ может привести к тому, что некоторые типовые виды уязвимостей со временем останутся в прошлом. Подобные изменения уже происходили с развитием инструментов разработки. Например, современные компиляторы C++ автоматически выявляют ошибки, связанные с приведением типов. В перспективе аналогичную роль сможет играть искусственный интеллект, анализируя код и помогая устранять некоторые типовые ошибки еще до того, как они приведут к появлению уязвимостей.

"Сейчас все говорят про агентов. Они дают возможность уже не просто перекладывать часть рутины на ассистента, который что-то тебе подскажет, а целиком передавать определенные бизнес-процессы. Но здесь есть такая важная оговорка, как контролируемая автономность. С этим нужно быть очень аккуратными. Стоит начинать с процессов, где уже существуют определенные метрики, чтобы можно было понять, действительно ли агент приносит пользу, а не вносит новый хаос. Потому что с помощью ИИ можно увеличить хаос, если он уже присутствует", - указывает руководитель центра искусственного интеллекта и перспективных технологий BI.ZONE Александр Балабанов.

Ускоренное внедрение искусственного интеллекта создает для компаний новые риски, поскольку ИИ уже сам становится объектом атак, отметил эксперт. Например, при внедрении чат-ассистента на сайте компания может не проконтролировать, к каким данным он получает доступ. В результате уже возникают инциденты, когда через такие сервисы злоумышленникам удается получить конфиденциальную или чувствительную информацию. Поэтому одной из новых задач для специалистов по кибербезопасности становится защита самих ИИ-систем и контроль их доступа к корпоративным данным.

К основным эффектам от внедрения ИИ в защите сегодня относят упрощение сложного, предоставление быстрых и персонализированных ответов на запросы пользователя. А также снижение порога входа для пользователей: ИИ помогает быстрее осваивать продукты кибербезопасности. Кроме того, нейросетевые помощники помогают специалистам автоматизировать рутину, сфокусироваться на более важных задачах и уменьшить число ошибок.

По словам Балабанова, искусственному интеллекту можно поставить задачу, очертить рамки и дать доступ к определенным системам, чтобы он самостоятельно выполнял полный цикл какого-то бизнес-процесса. Важно, что в кибербезопасности существуют этапы, где могут быть необратимые последствия. Поэтому необходимо не забывать про подход human in the loop - человек должен оставаться внутри процесса.

Сложнее контролировать использование ИИ в тех случаях, когда сотрудники самостоятельно устанавливают на корпоративные ноутбуки и рабочие станции ИИ-агентов, пользуются ChatGPT и другими зарубежными нейросетями. По словам эксперта, полностью запрещать такие инструменты нецелесообразно - сотрудников необходимо учить безопасно с ними работать. Одновременно это становится вызовом для внутренних ИТ-подразделений, компаниям необходимо создавать контролируемые инструменты, которые по удобству не будут уступать внешним сервисам.

"Роль специалистов по кибербезопасности тоже будет трансформироваться. Какие-то из их навыков и задач уже очень сильно ускоряются за счет ИИ. Работа тех же SOC-аналитиков и TI-аналитиков будет все больше ускоряться. Соответственно, будет происходить смещение от рутинных операций, которых станет все меньше, к новой рутине, но уже гораздо более сложной. Мы, например, стараемся сдвигать аналитиков в сторону проработки гипотез, чтобы они больше внимания уделяли сложным инцидентам, а базовую рутину закрывали с помощью искусственного интеллекта", - заключает Балабанов.