Как рассказала газета The Wall Street Journal (WSJ), исследователь Джейкоб Коксон считает, что компании наподобие Anthropic пытаются создать системы, власть над которыми они рискуют потерять. "Мы движемся к наиболее агрессивным сценариям, при которых уже к концу следующего года ситуация может выйти из-под контроля", - отметил Коксон, которого цитирует издание. В итоге специалист принял решение уволиться из Anthropic, известную разработкой языковых моделей Claude: мужчина не собирается способствовать тому, чтобы ИИ научился развиваться самостоятельно.
Как убежден Коксон, ни один технологический гигант в мире не может держать ИИ "на коротком поводке", осуществляя его ответственную разработку. Когда-то именно из соображений безопасности исследователь покинул компанию OpenAI, перейдя в Anthropic. Но теперь Коксон осознал, что и там о предельно ответственном подходе к работе с ИИ говорить не приходится.
Напомним, что в середине августа стало известно, что в США после того, как нейросети Claude доверили руководить магазином в Сан-Франциско, она уволила одного из подчиненных. Нейросеть сделали главой магазина Andon Market из любопытства: компания Andon Labs хотела выяснить, в состоянии ли ИИ целиком взять на себя руководство бизнесом. В итоге нейросеть вошла в историю: впервые ИИ распорядился снять человека с должности.