NVIDIA DSX повышает эффективность ИИ-фабрик: больше вычислений при том же энергопотреблении

NVIDIA представила платформу DSX, которая позволяет дата-центрам с искусственным интеллектом гибко управлять потреблением электроэнергии. Технология автоматически снижает нагрузку на сеть в часы пик и перераспределяет ресурсы внутри серверов, повышая производительность без увеличения энергозатрат. Первые тесты показали: при том же бюджете энергии ИИ-фабрика может генерировать на 24% больше токенов (единиц обработки данных).

Автоматическая разгрузка энергосети

В Калифорнии компания Emerald AI протестировала систему Conductor, интегрированную с инфраструктурой NVIDIA. Когда поставщик энергии Silicon Valley Power отправил сигнал о перегрузке сети, платформа автоматически снизила потребление мощным ИИ-фабрикой с 4 МВт до 3 МВт. При этом критически важные задачи продолжали выполняться без пауз.

Сигнал от энергосети обрабатывается за меньше минуты. Это доказывает, что ИИ-центры могут выступать не только потребителями, но и активными участниками балансировки нагрузки в электросети.

С тех пор система получила более 200 сигналов от поставщика, и каждый раз корректно реагировала. Первый полноценный коммерческий запуск DSX Flex запланирован на объект мощностью 96 МВт в штате Вирджиния (США).

Больше вычислений при том же потреблении энергии

Облачный провайдер Lambda протестировал модуль DSX MaxLPS на серверах с GPU NVIDIA HGX B200. Алгоритм отслеживает потребление мощности каждым процессором и динамически перераспределяет резервы там, где они не нужны в данный момент.

Результаты тестов на кластере из 19 узлов:

• При фиксированном лимите энергии система обеспечила рост производительности с 4 до 5 млн токенов в секунду (+24%).
• Эффективность использования каждого ватта выросла на 23%.
• По прогнозам NVIDIA, для будущих систем Vera Rubin NVL72 технология позволит получить до 40% дополнительной вычислительной мощности при той же энергопотреблении.

Оптимизация всей инфраструктуры

NVIDIA подчеркивает: оптимизировать только процессоры недостаточно. Сеть, охлаждение и электроснабжение должны работать согласованно. Платформа DSX включает инструменты для моделирования (DSX Sim), операционную систему для управления (DSX OS) и эталонные проекты оборудования.

Особое внимание уделяется архитектуре питания 800V DC. Традиционные низковольтные схемы создают потери при преобразовании энергии. Новая высоковольтная схема упрощает доставку электричества к плотным стеллажам с GPU, снижая потери и позволяя размещать больше вычислительных модулей на той же площади.

Переход от оптимизации отдельных компонентов к управлению всей фабрикой как единым организмом — единственный способ увеличить количество полезных вычислений на мегаватт потребляемой энергии.