HGX B200 от NVIDIA

NVIDIA HGX B200 демонстрирует рост производительности на 24% благодаря алгоритмам динамического управления энергией

В ходе тестирования облачным провайдером Lambda платформа DSX MaxLPS была интегрирована с серверами, оснащенными графическими процессорами NVIDIA HGX B200. Система отслеживала потребление мощности каждым чипом и перераспределяла резервы, что позволило увеличить генерацию токенов со 4 до 5 миллионов в секунду при неизменном лимите энергии. Эффективность использования каждого ватта питания возросла на 23%, подтвердив потенциал оптимизации вычислительных кластеров без увеличения энергозатрат.

Событие: На кластере из 19 узлов с GPU NVIDIA HGX B200 зафиксировано повышение производительности на 24% (до 5 млн токенов/с) при фиксированном энергетическом бюджете.

Эффект: Алгоритм динамического перераспределения резервов мощности увеличил эффективность использования электроэнергии на 23% для рассматриваемой конфигурации серверов.

Прогноз: NVIDIA ожидает, что аналогичная технология обеспечит до 40% дополнительной вычислительной мощности при том же потреблении энергии в будущих системах Vera Rubin NVL72.

Подробнее →

Новый европейский гиперскейлер ИИ на базе NVIDIA HGX B200

NVIDIA HGX B200 — ключевая часть инфраструктуры DataCrunch, которая создаёт платформу для разработки искусственного интеллекта в Европе. Компания уже внедрила эти системы и планирует переход на B300 и GB300 для расширения возможностей. Устройства используются для обучения и инференса крупных моделей в рамках проекта AI-гигафабрики в Латвии, где предполагается разместить около 100 000 ускорителей ИИ. Инфраструктура работает на 100% возобновляемой энергии и направлена на обеспечение безопасных и регулируемых вычислительных ресурсов для европейских организаций.

Подробнее →