Производительность ИИ-систем

Производительность ИИ-систем достигла 10-кратного роста эффективности на ватт энергии благодаря платформе Vera Rubin

NVIDIA запустила массовое производство новой архитектуры, которая кардинально меняет экономику ИИ-фабрик за счет экстремального повышения энергоэффективности. Производительность ИИ-систем теперь позволяет запускать сложные агентные задачи, потребляющие в 15 раз больше ресурсов, без критического роста затрат на электричество. Внедрение специализированных процессоров и отказ от кабельных соединений внутри стоек устраняют узкие места в передаче данных и охлаждении, делая рентабельными проекты, ранее недоступные из-за лимитов энергопотребления.

Событие: NVIDIA перевела платформу Vera Rubin в серию, а первые системы NVL72 уже развернуты у CoreWeave, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure.

Фактор: Использование процессора Vera CPU с ядром Olympus и сети NVLink шестого поколения обеспечивает двукратный рост скорости передачи данных и снижение задержек памяти на 40%, что критично для работы агентных систем.

Эффект: Тесты модели DeepSeek-R1 на оборудовании CoreWeave показали рост пропускной способности в 10 раз на мегаватт энергии, подтвердив эффективность архитектуры для моделей типа MoE.

Инсайт: Производительность ИИ-систем в сценариях оркестрации агентов ограничивается скоростью центрального процессора, а не только мощностью GPU, что подтверждено ростом количества обслуживаемых агентов на 60% при использовании Vera CPU.

Тренд: Для ИИ-фабрик метрика «токенов на мегаватт» становится приоритетнее чистой скорости вычислений, меняя подход к оценке рентабельности масштабных проектов.

Подробнее →