"Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля", - цитирует исследователя издание.
По словам 27-летнего математика из Великобритании, он покидает компанию, так как не хочет больше участвовать в гонке по созданию саморазвивающихся ИИ-моделей. Мужчина опасается, что такие системы "могут выйти из-под контроля и уничтожить человечество". Он рассказал, что текущую траекторию развития создаваемых в компании технологий ее сотрудники все чаще описывают фразами вроде "критическая точка" и "эндшпиль".
Примечательно, что в начале года Коксон перешел в Anthropic из OpenAI. Компания привлекла его своей репутацией в области безопасности ИИ. Но, поработав в ней, исследователь пришел к выводу, что ни одна частная компания не способна разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития этой отрасли.
По данным газеты, после ухода из Anthropic Коксон планирует погрузиться в изучение поэзии.