Эксперты в письме призвали все лаборатории ИИ приостановить минимум на 6 месяцев обучение систем ИИ, которые мощнее GPT-4. Отмечается, что в случае отказа в такой паузе в кратчайшие сроки, правительства должны вмешаться и ввести мораторий.
Паузу эксперты предлагают использовать для разработки общих протоколов безопасности, которые нужны для проектирования и разработки передовых систем ИИ, которые можно будет подвергать проверкам и контролю со стороны независимых внешних экспертов.
В письме также призвали к созданию новых регулирующих органов по вопросам ИИ и государственных систем контроля для обеспечения безопасности новых систем.
Среди подписавших открытое письмо один из основателей Apple Стив Возняк, ведущие эксперты в области ИИ Стивен Расселл и Иошуа Бенджио, а также более 1100 специалистов в области информационных технологий и машинного обучения.
GPT-4 - четвертая версия большой языковой нейросетевой модели от компании Open AI. По сравнению с предыдущей версией (GPT-3,5) новая модель получила пять радикальных улучшений: понимает очень сложные запросы, обрабатывает до 25 тысяч слов, понимает не только тексты, но и изображения в качестве вводимой информации, обладает очень высокой степенью управляемости, а также является более безопасным и согласованным.
Эксперты отмечают, что ИИ прогрессирует столь быстро, что бизнес, сообщество и государство не успевают адекватно оценить уровень рисков, который несут подобные нейросети.