По данным компании, количество раскрываемых уязвимостей за последние пять лет выросло на 263%, но ИИ также помогает злоумышленникам быстрее находить уязвимости, создавать фишинговые письма и вредоносный код.
"Несмотря на то что киберпреступники все активнее используют искусственный интеллект, проведение полностью автономных кибератак сегодня недоступно даже для наиболее продвинутых моделей. Технология не заменяет хакера, а становится дополнительным инструментом в его руках: помогает автоматизировать, масштабировать и усложнять отдельные этапы атаки. При этом наибольшую выгоду от нее получают не новички, а профессиональные APT-группировки и подготовленные злоумышленники", - отмечает Резников.
Для поиска недостатков безопасности злоумышленники применяют не только универсальные большие языковые модели, но и платформы для тестирования безопасности на основе ИИ. Опасность для компаний связана прежде всего с тем, что ИИ сокращает разрыв между раскрытием бреши и появлением для нее готового вредоносного кода. В таких обстоятельствах для эффективного управления уязвимостями бизнесу важно учитывать, компрометация каких критически важных компонентов инфраструктуры может приводить к недопустимым событиям.
В целом ИИ снижает порог входа почти для всех видов атак. Один из самых заметных примеров - это социальная инженерия. Эксперт факультета безопасности информационных технологий Университета ИТМО Виталий Роговой рассказал, что если раньше мошеннику нужны были технические навыки, грамотный текст, понимание психологии и хотя бы минимальная подготовка, то сейчас большую часть этой работы можно закрыть готовыми ИИ-инструментами.
Они помогают писать убедительные фишинговые письма, подбирать формулировки под конкретную жертву, быстро анализировать открытые данные, делать поддельные документы, страницы поддержки, голосовые сообщения и даже вести диалог от имени "коллеги", "банка" или "службы безопасности". В итоге атаки стали дешевле, быстрее и "персональнее".
Так, сегодня самая большая угроза - дипфейки в формате видео и голосовых сообщений. Для бизнеса это подделка голоса или лица руководителя, бухгалтера или партнера. Например, просьба срочно перевести деньги, предоставить доступ или отправить документы. Для обычных пользователей - фейковые звонки от родственников, банков, госорганов, а также видео с известными людьми в мошеннической рекламе. Опасны они не потому, что всегда идеально сделаны, а потому что человек часто принимает решение быстро и на эмоциях.
При этом ИИ можно использовать и на стороне защиты. Резников отмечает, что нейросети помогают быстрее выявлять подозрительные сообщения, анализировать поведение пользователей, находить аномалии в платежах, звонках и переписке. "Главное - не полагаться только на технологии. Нужны простые правила проверки: не переводить деньги и не выдавать доступы по голосовому сообщению или видеозвонку без дополнительного подтверждения, использовать кодовые фразы, второй канал связи и четкие внутренние регламенты. По сути, защита должна стать такой же быстрой и адаптивной, как и атаки", - говорит эксперт.
Также искусственный интеллект значительно ускоряет появление техники атаки после обнаружения уязвимости. Модели обучаются на десятках тысяч уже известных дефектов, поэтому способны быстро выявлять похожие слабые места в коде.
"Основной способ ускорения - автоматическое сравнение старой и новой версий программы сразу после выхода исправления. ИИ находит измененный фрагмент, определяет тип ошибки и самостоятельно генерирует прототип эксплойта. Для распространенных классов уязвимостей в открытом ПО весь процесс занимает минуты, для более сложных случаев - несколько часов. Это время настолько мало, что атаки нередко начинаются раньше, чем большинство организаций успевает установить обновление", - объясняет консультант по информационной безопасности Innostage Елизавета Пермякова.