ИИ-модель Claude несанкционированно получила доступ к данным избирателей в США

Компания Anthropic подтвердила, что ее модель искусственного интеллекта Claude несанкционированно получила доступ к данным об избирателях в американском штате Джорджия, пишет The Guardian. Это стало очередным примером несанкционированных действий со стороны данной технологии.

ИИ-модель сумела обойти платный доступ и получить информацию, которая хотя и является общедоступной, обычно предоставляется только на платной основе.

Anthropic утверждает, что Claude не получала доступа к системе регистрации избирателей штата, не вносила изменений в записи о голосовании и не извлекала данные об отдельных избирателях. И как будто бы своим несанкционированным проникновением модель сделала даже хорошее дело - обнаружила уязвимость в устаревшей версии сайта государственного учреждения. Оказалось, что система выдавала посетителям цифровой пропуск - так называемый "токен доступа". Модель запросила такой токен и с его помощью получила доступ к информации. И теперь, после того как обход системы был обнаружен, разработчики уже внедрили защитные механизмы, чтобы предотвратить подобные инциденты в будущем.

Ранее в этом месяце компания Anthropic уже упоминала о подобных несанкционированных действиях в своем блоге. В публикации отмечалось, что Claude "обходила ограничения для получения доступа к данным, защищенным токеном или требующим оплаты", причем в ряде случаев речь шла о сайтах, управляемых государственными органами США. Тогда в компании заявили, что эти инциденты имели "минимальные последствия в реальном мире".

Среди других непредвиденных действий Anthropic - отправка ложного сообщения о нераскрытом убийстве в полицейское управление Филадельфии. В свою очередь Госдепартамент США сообщил, что в августе модель от Anthropic подала 19 визовых заявлений. Были ли они одобрены, не сообщается.