Компания не смогла определить, преследовали ли пользователи Claude, интересовавшиеся деталями создания биологического оружия, законную или преступную цель, поскольку такие исследования могут оказать помощь как в создании вакцин, так и в разработке опасных биологических патогенов.
Например, один из ученых использовал Claude для написания заявки на получение гранта для проведения эксперимента с вирусом чикунгунья, передающимся человеку инфицированными комарами.
Некоторые пользователи обходили блокировку ИИ-моделей в их регионе, пытаясь скрыть цели своих действий, говорится в отчете. В качестве меры предосторожности Anthropic заблокировала подозрительные аккаунты.
В отчете также зафиксированы иные случаи вредоносной деятельности, которые корпорации удалось обнаружить и пресечь. Так, некоторые пользователи Claude пытались создать приложения для мошеннической схемы знакомств, разработать способ идентификации людей через их аккаунты в соцсетях и даже организовать слежку, нацеленную на диаспоры и диссидентские сообщества в странах Азии и Африки.