Google Cloud объявил о выпуске пятого поколения тензорных процессоров для обучения ИИ

Google Cloud в рамках ежегодной конференции Cloud Next заявила о выпуске пятого своих тензорных процессоров TPU v5e для обучения нейросетей.

По словам разработчиков, в ходе создания новой версии чипа особое внимание было уделено его эффективности: новый процессор получил 2,5-кратное улучшение производительности в пересчете на доллар для обучения генеративных нейросетей и больших языковых моделей, а также двукратное улучшение производительности по тому же критерию для инференс-систем, пишет TechCrunch.

"Это самый экономичный и доступный облачный TPU на сегодняшний день", - уверен вице-президент и гендиректор по вычислительной и ML-инфраструктуре Google Cloud Марк Ломейер.

Также он добавил, что кластеры могут включать до 256 чипов TPU v5e, которые объединены высокоскоростным интерконнектом с совокупной пропускной способностью более 400 Тбит/с. Производительность такой платформы равняется 100 Петаопс в INT8-вычислениях.

"Одна большая рабочая нагрузка искусственного интеллекта теперь может распределяться на несколько физических кластеров TPU, масштабируясь буквально до десятков тысяч чипов. При этом работа будет выполняться экономически эффективно", - подчеркнул Ломейер.

Ранее нейросети начали обучаться на оборудовании для добычи криптовалюты.