"Когда коммерческие компании конкурируют, безопасность отходит на второй план. Это действительно гонка вооружений", - считает Хинтон.
По его оценкам, существует вероятность в 50%, что в течение 20 лет может быть создан искусственный интеллект, который превысит способности человека. "Мы должны серьезно рассмотреть возможность доминирования ИИ над человечеством", - указал ученый.
В то же время отмечается, что достижения в области искусственного интеллекта позволят вдвое сократить число ошибочных диагнозов в медицине, а также ускорить разработку новых лекарств.
Хинтон полагает, что в настоящее время компании тратят недостаточное количество вычислительных мощностей и средств на обеспечение безопасности при разработке искусственного интеллекта. По его данным, сейчас тратится порядка 1%. Он призвал разработать и принять закон, обязывающий разработчиков ИИ выделять в 30 раз больше мощностей, чтобы обеспечить безопасность при развитии технологий.
Джеффри Хинтон получил Нобелевскую премию по физике в 2024 году за исследования в области машинного обучения нейросетей.