AMD MI300X
AMD MI300X в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
AMD MI300X демонстрирует рекордную скорость вывода для модели Laneformer 2B
Суть: Использование кластера из 8 ускорителей AMD MI300X позволило модели Laneformer 2B достичь скорости генерации 3 000 токенов в секунду благодаря архитектуре отложенного тензорного параллелизма.
Фактор: Высокая производительность на AMD MI300X достигается только при применении проприетарного движка Kog Inference Engine, так как стандартные библиотеки не поддерживают специфическую архитектуру модели.
Эффект: На конфигурации с 8 AMD MI300X скорость вывода превышает показатели аналогичного кластера на NVIDIA H200, который показывает результат в 2 100 токенов в секунду.
Риск: Для достижения заявленных показателей на AMD MI300X требуется жесткая привязка к специализированному программному обеспечению, что ограничивает возможность развертывания на стороннем оборудовании.
AMD MI300X имеет 1 запись событий в нашей базе.