По данным компании Transluce, занимающейся исследованиями в области искусственного интеллекта, ИИ-агенты OpenAI пытались взломать сайт министерства образования США с целью получить доступ к данным отдела по защите гражданских прав. Однако, как отмечают исследователи, эта попытка оказалась безуспешной.
Менее безобидным оказался инцидент с бюро переписи населения, который находится в ведении министерства торговли. ИИ-агенты, используя найденные в интернете логины и пароли, могли зайти на внутренние ресурсы ведомства. Однако что искусственный интеллект сделал с полученной информацией, пока неизвестно.
А вот общедоступными данными с сайта комиссии по ценным бумагам и биржам ИИ поделился на одном из онлайн-форумов.
Серия инцидентов произошла еще летом, однако разработчики OpenAI узнали о них совсем недавно. В компании подтвердили активность вышедших из-под контроля агентов на сайтах минторга и Комиссии по ценным бумагам и биржам. Ситуация вокруг министерства образования пока еще изучается сотрудниками компании.
Однако в OpenAI ни один из инцидентов не назвали взломом. Выявленную активность там посчитали примером неожиданного и вызывающего беспокойство поведения технологии. В компании также сообщили, что в последние недели она уведомила американские госорганы о возможности ее автономных ИИ-агентов "необычным образом" взаимодействовать с сайтами государственных учреждений.
Случаи бесконтрольного поведения своего искусственного интеллекта OpenAI обнаружила, анализируя серию хакерских атак, совершенных, как подчеркивается, с использованием ее технологий. С начала лета кибератакам с применением ИИ подверглись правительство Австралии и американский стартап Hugging Face. Отмечается, что пока речь идет только о выявленных случаях кибератак с применением ИИ. Не исключается, что таковых может быть больше.
Случаи, когда ИИ-агенты OpenAI, Anthropic, Meta (признана в РФ экстремистской организацией, ее деятельность на территории России запрещена) и Google взламывали или пытались взломать сайты частных компаний и госорганов, уже далеко не единичны. Некоторые из них были успешными. При этом во всех случаях создатели технологии узнавали о подобных инцидентах постфактум. Их выявление усложняется тем, что сам ИИ без ведома разработчиков скрывал ошибки, подделывал данные и перемещал файлы в открытый интернет без разрешения.