Причина такой тревоги может заключаться не столько в том, что хакерам уже удалось сделать, сколько в самом способе проведения атак. Южнокорейские специалисты предполагают, что искусственный интеллект использовался для автоматизированного поиска слабых мест сразу в большом количестве финансовых систем. Похожие процессы совсем недавно привлекли внимание властей Австралии.
В Южной Корее к настоящему времени инциденты выявлены по меньшей мере в семи финансовых организациях: Shinhan Bank, KB Kookmin Bank, Hana Bank, BNK Busan Bank, сберегательных банках Yegaram и Welcome, а также Hyundai Capital. Следы попыток проникновения обнаруживались и в других организациях.
Причем атакующие, как правило, пытались пробиться не непосредственно к хорошо защищенному ядру банковской системы, а через которое проводятся платежи и операции со счетами клиентов. Они искали более слабые входы через внешние и вспомогательные сервисы. В Shinhan Bank, например, целью стала система, которой пользуются кредитные консультанты, в KB Kookmin - мобильные рабочие сервисы сотрудников. В других случаях атаковали сайты и вспомогательную инфраструктуру.
Проникновения были вполне реальными. В Shinhan Bank оказались скомпрометированы более 25 тысяч записей, а в Yegaram Savings Bank утечка могла затронуть около 40 тысяч клиентов. В последнем случае злоумышленники, по данным южнокорейских СМИ, около десяти дней пытались проникнуть в систему, а после успеха в течение примерно двух суток выгружали информацию. В Welcome Savings Bank были похищены данные примерно 2200 представителей корпоративных клиентов.
При этом подтвержденных случаев непосредственного хищения денег со счетов или взлома основных систем интернет- и мобильного банкинга пока нет.
Насторожило специалистов другое. В нескольких финансовых организациях были обнаружены совпадающие IP-адреса, использовавшиеся при атаках, хотя злоумышленники активно меняли адреса и задействовали инфраструктуру в разных странах. Это заставило власти рассматривать первоначально разрозненные инциденты уже как возможные элементы более широкой кампании.
По предварительной оценке южнокорейских специалистов, искусственный интеллект мог применяться для автоматизированного поиска уязвимостей. Схема в таком случае напоминает массовое "прощупывание" финансовой инфраструктуры: одновременно проверяется большое количество потенциальных целей, обнаруживается уязвимый сервис, после чего предпринимается попытка проникновения. Если она не удается, система переходит к следующему варианту или следующей цели. Если удается - используется полученный доступ.
Именно отсутствие очевидной конечной цели делает происходящее особенно примечательным. Пока невозможно установить, идет ли речь исключительно о массовой краже данных, разведке инфраструктуры перед последующими атаками или об испытании и совершенствовании новых методов автоматизированного взлома. Последние два варианта остаются предположениями.
Однако почти одновременно похожая проблема проявилась в Австралии. Там объектом внимания AI-агента оказался государственный ресурс Medicare Statistics, находящийся в ведении Services Australia. Как установили австралийские власти, AI-агент обнаружил уязвимость в публичном интерфейсе, получил несанкционированный доступ к непубличным файлам и конфигурации сервера и смог создать тестовый файл. Данных о похищении медицинской информации граждан обнаружено не было.
Австралийский случай особенно показателен тем, что речь шла уже не просто об использовании нейросети человеком для написания вредоносного кода. AI-система смогла искать пути обхода ограничений и продолжать выполнение поставленной задачи. Австралийское правительство начало специальное расследование последствий применения агентного ИИ в кибератаках.
Доказательств того, что австралийские и южнокорейские инциденты каким-либо образом связаны между собой, нет. Не установлено ни общего организатора, ни использования одной и той же системы искусственного интеллекта. Однако оба случая позволяют увидеть проблему значительно более широкую, чем несколько взломанных банков или один государственный сайт.
Искусственный интеллект меняет не только технологию, но и саму экономику кибератак. Для проведения крупной операции прежде требовались команды квалифицированных специалистов: одни занимались разведкой, другие искали уязвимости, третьи разрабатывали необходимые инструменты, четвертые непосредственно проводили проникновение и анализировали полученные данные. Теперь значительную часть этой работы способны параллельно выполнять AI-агенты.
В результате отдельный квалифицированный оператор потенциально получает возможности, которые раньше требовали целой хакерской группы. Человек ставит общую задачу, а несколько цифровых агентов могут одновременно исследовать множество целей, искать уязвимости, отбрасывать неудачные варианты и продолжать работу там, где обнаруживается возможность проникновения. Переход от использования ИИ в качестве вспомогательного инструмента к более автономным агентным операциям уже фиксировали в своих исследованиях специалисты Google и Anthropic.
Тем самым резко увеличивается потенциальный масштаб кибератак. Хакеру уже необязательно последовательно исследовать защиту одного банка или государственного сайта за другим. Автоматизированная система способна проверять огромное количество ресурсов, накапливать информацию об успешных и неудачных попытках и концентрироваться на найденных слабых местах.
Отсюда возникает и более тревожный вопрос. Сегодня результатом подобных операций становятся сравнительно ограниченные утечки данных или проникновение во вспомогательные системы. Однако массовое автоматизированное исследование реальной инфраструктуры одновременно позволяет выяснять, какие способы проникновения работают, а какие нет. Теоретически накопленный таким образом опыт впоследствии может использоваться для значительно более серьезных атак.
Меняется поэтому и другая сторона противостояния. Человеку становится все сложнее вручную реагировать на тысячи автоматизированных попыток проникновения, совершаемых с машинной скоростью. Ответом становятся собственные системы искусственного интеллекта, способные автоматически обнаруживать необычную активность, искать уязвимости и блокировать атаки.
Именно поэтому в Южной Корее все чаще звучит формула "ИИ против ИИ". Глава Комиссии по финансовым услугам Республики Корея Ли Ок Вон на экстренном совещании 4 октября заявил, что "нельзя исключать возможность атак с использованием искусственного интеллекта", и призвал финансовые компании ускорить внедрение систем безопасности на базе ИИ.
Теперь становится понятнее и масштаб реакции Сеула. Служба финансового надзора разослала примерно 500 финансовым компаниям сведения об обнаруженных при атаках IP-адресах и специальный перечень из 12 пунктов для экстренной проверки информационных систем. Банкам и компаниям, выпускающим банковские карты, предписано завершить ее к 6 октября, другим участникам финансового рынка - к 8 октября. Президент Ли Чжэ Мён также потребовал тщательно расследовать обстоятельства атак и подготовить меры для предотвращения подобных инцидентов.
Истории в Австралии и Южной Корее пока остаются двумя независимыми эпизодами. Но они демонстрируют одну общую тенденцию: искусственный интеллект снижает порог ресурсов, необходимых для проведения масштабных кибератак, одновременно заставляя защитников отвечать той же технологией. Киберпротивостояние постепенно превращается из борьбы человека с человеком в соревнование систем, в котором по обе стороны все большую часть работы выполняет ИИ.