Trainium3
Trainium3 в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
Trainium3 уступает Maia 200 в производительности при инференсе
Amazon представила Trainium3 как обновлённую версию своего ИИ-ускорителя, способную частично заменить нагрузку, обычно выполняемую чипами Nvidia. Trainium3 используется для задач обучения и инференса в облачной инфраструктуре Amazon. Однако, по данным Microsoft, чип Maia 200 обеспечивает в три раза большую производительность в формате FP4 и превосходит Trainium3 по ключевым метрикам. Это делает Maia 200 более конкурентоспособным решением в условиях растущих требований к масштабируемости и эффективности ИИ-приложений.
Trainium3: Удвоенная производительность и масштабирование ИИ-вычислений
Trainium3 — это третья генерация AI-ускорителей от Amazon Web Services, обеспечивающая вдвое большую производительность и в четыре раза более высокую энергоэффективность по сравнению с предыдущей версией. Ускоритель использует двухчиплетную архитектуру с 144 ГБ памяти HBM3E и пропускной способностью 4,9 ТБ/с, а каждый чиплет включает четыре ядра NeuronCore-v4. Масштабные системы на его основе, такие как Trn3 UltraServers, могут включать до 144 ускорителей в одном стоечном решении, обеспечивая 0,36 эксафлопс FP8-производительности.
Trainium3 имеет 2 записи событий в нашей базе.