NVIDIA меняет архитектуру хранения для ИИ: доступ к данным в микросекунды без участия процессоров

Компания NVIDIA представила новые решения для систем хранения данных, призванные устранить узкие места в работе искусственного интеллекта. Рост требований к объему данных и контекстным окнам вынуждает пересматривать подход к передаче информации: теперь GPU могут обращаться к хранилищу напрямую, минуя процессоры. На конференции Future of Memory and Storage (FMS) в Санта-Кларе было показано, что новая архитектура позволяет сократить время доступа к данным с минут до микросекунд.

Прямой доступ видеокарт к хранилищу превращает пассивные накопители в активный элемент вычислительного пути, меняя экономику работы с данными: теперь скорость доступа становится критическим фактором, сравнимым с мощностью самих процессоров.

Ускорение обработки и безопасность

Основная проблема современных ИИ-агентов заключается в том, что они генерируют тысячи одновременных запросов к памяти. Традиционные системы не успевают шифровать, сжимать и проверять эти потоки данных, создавая задержки. Для решения этой задачи NVIDIA внедрила процессор Vera в платформу BlueField-4 STX.

Тесты показали, что Vera обеспечивает пропускную способность в 3,21 раза выше, чем у стандартных процессоров архитектуры x86, при выполнении задач сжатия и шифрования. Это позволяет системам хранения поглощать потоки данных от ИИ-агентов без перегрузки вычислительной инфраструктуры.

Ключевые технические изменения:

• Прямой доступ: Видеокарты (GPU) читают и записывают данные на диски без участия центрального процессора (CPU).
• Открытый стандарт: Компания открыла исходный код интерфейсов cuFile и программного стека, что позволяет разным производителям оборудования работать в единой среде.
• Безопасность: Новые протоколы обеспечивают защиту данных на уровне доступа, разделяя права пользователя и привилегированные компоненты системы.

Экосистема и отраслевые стандарты

Для унификации подходов к созданию хранилищ нового поколения NVIDIA запустила инициативу Storage-Next. В нее вошли более 40 ведущих производителей, включая DDN, KIOXIA и Micron. Цель объединения — выработать открытые стандарты для работы с данными в эпоху ИИ.

В рамках инициативы используется фреймворк SCADA (Scaled, Accelerated Data Access). Он позволяет параллельным GPU забирать из хранилища только необходимые данные, сразу загружая их в высокоскоростную память. Например, компания DDN интегрирует SCADA со своей платформой Infinia, чтобы устранить задержки при масштабировании.

Создание единых открытых стандартов через инициативу Storage-Next снижает риск фрагментации рынка, позволяя предприятиям использовать оборудование разных вендоров в единой высокопроизводительной инфраструктуре.

Операционные последствия и практические аспекты

Внедрение новых технологий хранения потребует от бизнеса пересмотра подходов к организации инфраструктуры и безопасности.

• Изменение архитектуры безопасности: Прямой доступ GPU к диску требует пересмотра политик защиты. Система SCADA решает это, разделяя задачи: пользовательский код работает без привилегий, а доступ к данным настраивается защищенным компонентом, что предотвращает случайное повреждение памяти других процессов.
• Снижение затрат на инфраструктуру: Увеличение пропускной способности за счет специализированных процессоров Vera позволяет обслуживать тот же объем данных с меньшим количеством серверов, что снижает капитальные и операционные расходы.
• Зависимость от совместимости: Эффективность новых решений зависит от поддержки со стороны поставщиков программного обеспечения и оборудования. Открытость кода cuFile и участие Google, Intel, Meta⋆ в его развитии способствуют широкому внедрению стандарта.
• Скорость как критический ресурс: Сокращение времени доступа к данным до микросекунд становится обязательным условием для работы агентов ИИ, способных обрабатывать длинные контексты и вести многоходовые диалоги.

Эти изменения указывают на то, что конкуренция в сфере ИИ смещается от гонки вычислительной мощности к гонке эффективности передачи данных.