GB200 NVL72 меняет экономику ИИ: жидкостное охлаждение и память HBM4 теперь обязательны
Переход на стандарт GB200 NVL72 превращает создание ИИ-агентов из разовой инвестиции в операционную статью расходов, где прибыль зависит от скорости адаптации моделей.
Читать полностью
Календарь упоминаний. Страница 2:
GB200 NVL72 как база для сравнения производительности Blackwell Ultra
GB200 NVL72 — предшественник системы GB300 NVL72, построенной на архитектуре Blackwell Ultra, обеспечивает базовые показатели производительности, используемые для сравнения. В тестах, включавших модели DeepSeek, GB200 демонстрирует пиковую пропускную способность 4,26 токена в секунду на GPU, что в 53 раза ниже, чем у GB300. Также отсутствуют улучшения по скорости работы на пользовательском уровне и снижению латентности, в отличие от новой версии. Его роль заключается в службе эталоном для оценки прогресса в обработке запросов с высокими требованиями к времени отклика.
Решение тепловой проблемы в высокопроизводительных системах ИИ
Платформа GB200 NVL72, объединяющая 72 GPU Blackwell и 36 CPU Grace, поставляется с жидкостным охлаждением по умолчанию из-за высокой мощности компонентов, превышающей 1000 Вт на чип. Воздушное охлаждение становится недостаточным из-за низкой теплоёмкости воздуха и сложностей проектирования при высокой плотности. Жидкостное охлаждение, включая прямой теплообмен и погружение в диэлектрические жидкости, позволяет эффективно удалять тепло, повышая надёжность и энергоэффективность систем.
Снижение стоимости ИИ-инфренса через NVL72
NVL72 — суперкомпьютер, разработанный Nvidia в рамках инициативы Vera Rubin, — предназначен для массового производства во второй половине 2026 года. Он представляет собой масштабную систему, объединяющую 72 GPU и 36 CPU в едином логическом комплексе. Nvidia утверждает, что NVL72 может снизить стоимость инференса в десять раз по сравнению с предыдущими решениями благодаря более высокой степени использования ресурсов и оптимизации архитектуры под современные модели ИИ. Каждый GPU обеспечивает до 50 PFLOPS вычислений с низкой точностью, что в пять раз превышает производительность предыдущего поколения.
Прорыв в масштабируемости ИИ-систем
Nvidia GB200 NVL72 представляет собой систему, в которой 72 ускорителя размещены в одном стойке, обеспечивая 30-кратное увеличение производительности при выводе и 4-кратное — при обучении по сравнению с предыдущей архитектурой Hopper. Это позволяет компенсировать физические ограничения отдельных GPU и продлить возможности масштабирования ИИ-инфраструктуры. Однако такие улучшения временные, и к 2026–2027 годам дальнейшие значительные прорывы станут невозможными.
Совместная архитектура обеспечила 10-кратный рост производительности
GB200 NVL72 — AI-сервер NVIDIA, разработанный для моделей на архитектуре MoE. Он включает 72 чипа, 30 ТБ общей памяти, второе поколение Transformer Engine и пятую версию NVLink. Эти компоненты обеспечивают эффективное распределение токенов между GPU и увеличивают пропускную способность. В тестах производительность GB200 NVL72 превысила Hopper HGX 200 в 10 раз.
В нашей базе собрано 14 событий по теме «GB200 NVL72». Мы показываем все из них.
Объединили похожие карточки: GB200 NVL72; Nvidia Blackwell GB200 NVL72; Nvidia Blackwell GB200 и другие.