"В Калифорнии находятся 32 из 50 ведущих мировых компаний в области ИИ", - сказал губернатор. "Законопроект применяет строгие стандарты даже к самым базовым функциям - при условии, что их использует крупная система. Я не считаю, что это лучший подход к защите общественности от реальных угроз, создаваемых технологией", - добавил Ньюсом, которого цитирует Guardian.
Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта, официально известный как SB 1047, нацелен на компании, разрабатывающие генеративный ИИ, который может отвечать на подсказки полностью сформированным текстом, изображениями или аудио, а также выполнять повторяющиеся задачи с минимальным вмешательством. Компании, создающие модели стоимостью более 100 миллионов долларов, должны будут внедрить "приборы аварийного отключения" для своего ИИ, а также опубликовать планы по тестированию и снижению экстремальных рисков.
Законопроект, предложенный сенатором-демократом Скоттом Винером из Сан-Франциско, включает ряд мер защиты и надзора, в том числе требование к компаниям реализовать возможность полного отключения модели в случае чрезвычайных ситуаций, использовать модель ИИ только для заявленной цели, а также ввести меры защиты для сотрудников, желающих раскрыть проблемы с системой ИИ. Компании и группы, разрабатывающие ИИ и связанные с Кремниевой долиной, похвалили вето Ньюсома. Законопроект получил поддержку ряда голливудских деятелей.
Однако критики быстрого роста ИИ решение губернатора осудили. Дэниел Колсон, основатель аналитического центра по ИИ AI Policy Institution, назвал его вето "безрассудным" и "не соответствующим людям, которыми ему поручено управлять".