По словам разработчиков, в ходе создания новой версии чипа особое внимание было уделено его эффективности: новый процессор получил 2,5-кратное улучшение производительности в пересчете на доллар для обучения генеративных нейросетей и больших языковых моделей, а также двукратное улучшение производительности по тому же критерию для инференс-систем, пишет TechCrunch.
"Это самый экономичный и доступный облачный TPU на сегодняшний день", - уверен вице-президент и гендиректор по вычислительной и ML-инфраструктуре Google Cloud Марк Ломейер.
Также он добавил, что кластеры могут включать до 256 чипов TPU v5e, которые объединены высокоскоростным интерконнектом с совокупной пропускной способностью более 400 Тбит/с. Производительность такой платформы равняется 100 Петаопс в INT8-вычислениях.
"Одна большая рабочая нагрузка искусственного интеллекта теперь может распределяться на несколько физических кластеров TPU, масштабируясь буквально до десятков тысяч чипов. При этом работа будет выполняться экономически эффективно", - подчеркнул Ломейер.
Ранее нейросети начали обучаться на оборудовании для добычи криптовалюты.