Кластеризация систем

Кластеризация систем превращает компактные модули DGX Spark в конкурентоспособную альтернативу облачным серверам

NVIDIA представила настольные устройства DGX Spark, которые при объединении в кластеры позволяют запускать крупные языковые модели локально с высокой производительностью. Благодаря использованию сетевых карт ConnectX-7 и технологии тензорного параллелизма, несколько устройств образуют единый пул ресурсов, компенсируя ограничения одиночного узла по пропускной способности памяти. Такой подход делает вычислительные мощности доступными для частных лиц и малых команд, избегая высоких затрат на охлаждение и электроэнергию, характерных для традиционных серверных решений.

Событие: NVIDIA выпустила систему DGX Spark, способную объединять до четырех устройств в кластер с общей емкостью памяти 512 ГБ для запуска крупных открытых моделей, таких как DeepSeek-V4.1-Flash.

Фактор: Наличие сетевых карт ConnectX-7 со скоростью 200 Гбит/с позволяет связать устройства напрямую, создавая единый пул вычислительных ресурсов без необходимости аренды дата-центра.

Эффект: Кластеризация четырех устройств обеспечивает суммарную скорость чтения памяти 1092 ГБ/с и ускоряет генерацию текста в 3,7 раза по сравнению с одиночным Spark.

Позитив: Энергопотребление кластера из четырех устройств составляет около 500 Вт, что снижает ежемесячные расходы на электричество до $66–100 против ~$300 для серверов на дискретных GPU.

Подробнее →