Так, в ближайшие два года произойдет увеличение объема и усиление воздействия киберинцидентов, которые будут организованы преступниками с помощью больших языковых моделей, утверждают в Центре правительственной связи Великобритании (GCHQ).
Там заявили, что наиболее активно злоумышленники будут применять ИИ в области социальной инженерии для убедительного взаимодействия с жертвами. Эти системы позволят им также более эффективно и результативно распространять программы-вымогатели, "прячущиеся" в фишинговых письмах, которые, как правило, направлены кражу данных или на доставку вредоносного ПО. Что касается последнего, то ИИ, вероятно, даже будет помогать разрабатывать такие программы.
"Существует реальная вероятность того, что высококвалифицированные государства имеют хранилища вредоносных программ, достаточно большие для эффективного обучения модели ИИ для этой цели", - подчеркнули специалисты.
Кроме того, в ближайшие два года нейросети за счет своей способности к обобщению данных будут использоваться хакерами для выявления ценных данных для изучения. В результате участятся случаи хищения информации как у обычных пользователей, так и у крупных компаний, к примеру.
"Есть множество исследований по созданию вредоносного программного обеспечения (ВПО), где буквально система обучается создавать такой вредонос, который не обнаружит ни один антивирус", - рассказала руководитель отдела перспективных технологий Positive Technologies Александра Мурзина.
Так, например, еще в 2017 году проводились исследования по созданию ВПО при помощи нейросетей. Как говорит эксперт, это был готовый функционал для создания среды, способной разрабатывать такие вредоносы за счет технологий Reinforcement learning.
Увеличение числа кибератак из-за совершенствования технологий ИИ объясняется двумя факторами. Во-первых, инструменты на основе таких систем сделают проведение атак более дешевыми. Во-вторых, многие из этапов киберпреступлений автоматизируются, за счет чего злоумышленники смогут одновременно проверять на прочность сразу несколько своих целей, а не сосредотачиваться на одной конкретной уязвимости, объяснил директор портфеля продуктов НОТА КУПОЛ Игорь Душа.
"Если ранее небольшие компании могли позволить себе не защищаться от киберпреступников, поскольку находились вне интереса хакерских группировок, то теперь обеспечение информационной безопасности станет актуальным для всех, что приведет к росту затрат бизнеса", - добавил он.