Сетевая инфраструктура для ИИ

Сетевая инфраструктура для ИИ переходит на коммутаторы Spectrum-6 с пропускной способностью 102,4 Тбит/с

Компания NVIDIA начала поставки нового сетевого оборудования, которое стало основой для платформ Vera Rubin и позволяет объединять сотни тысяч видеокарт в единую систему. Сетевая инфраструктура для ИИ перестала быть вспомогательным элементом и превратилась в ключевой фактор производительности, так как скорость передачи данных теперь определяет общую эффективность обучения моделей. Первыми внедрением занялись CoreWeave, Microsoft, Nebius, SpaceXAI и Tesla, стремясь синхронизировать работу огромных массивов чипов и минимизировать простои.

Событие: NVIDIA начала поставки коммутаторов Spectrum-6 со скоростью 102,4 Тбит/с для дата-центров CoreWeave, Microsoft, Nebius, SpaceXAI и Tesla.

Фактор: Сетевая инфраструктура для ИИ стала главным «узким горлышком», так как традиционные Ethernet-сети не справляются с синхронной работой тысяч ускорителей.

Эффект: Внедрение платформы Spectrum-X позволяет сократить количество необходимых коммутаторов в дата-центре в 1,7 раза и поддерживать эффективность сети на уровне 95% при использовании более 100 000 видеокарт.

Риск: Внедрение жидкостного охлаждения для нового оборудования потребует от владельцев дата-центров дорогостоящей модернизации систем терморегуляции и помещений.

Связь: Рост пропускной способности Сетевой инфраструктуры для ИИ напрямую влияет на экономику проектов, сокращая время получения результатов обучения и повышая утилизацию оборудования.

Подробнее →