SK hynix представила память HBF и PIM для ИИ — GPU больше не справляются с инференсом

SK hynix представила на конференции AI Infra Summit 2026 в США три новые технологии памяти для ИИ: HBF, PIM и SALT-KV. Эти решения призваны решить главную проблему инференса (генерации ответов) — нехватку скорости обмена данными между процессором и памятью. Компания полагает, что традиционная связка GPU и HBM больше не справляется с растущими запросами на длинные контексты и быстрые ответы агентов.

Новая архитектура памяти для ИИ

Переход от обучения нейросетей к их использованию (инференсу) изменил требования к «железу». Теперь критична не только мощность вычислений, но и скорость доступа к огромным объемам данных. SK hynix предложила три ключевых направления:

• HBF (High Bandwidth Flash): Это новый тип NAND-памяти, который объединяет большую емкость SSD с высокой пропускной способностью HBM. Технология использует вертикальное соединение чипов (TSV), как в HBM. HBF предназначена для хранения длинных контекстов и кэша KV без перегрузки основной оперативной памяти.
• PIM (Processing-In-Memory) и AiMX: В этой технологии часть вычислительных функций переносится непосредственно внутрь чипа памяти. Это сокращает путь данных от процессора до памяти, снижая энергопотребление и задержки. На стенде компания показала сервер с картой AiMX, где посетители могли протестировать работу улучшенной языковой модели (LLM).
• SALT-KV: Программно-аппаратное решение для управления памятью. Алгоритм анализирует данные кэша KV (временной памяти ИИ) и решает, где хранить каждый фрагмент: в быстрой HBM, в DRAM или на SSD. Это позволяет эффективнее использовать ограниченные ресурсы памяти при работе с длинными диалогами.

Контекст рынка и масштаб события

Конференция AI Infra Summit 2026 прошла в Санта-Кларе (Калифорния) с 15 по 17 сентября. Количество участников достигло 6 000 человек, что вдвое больше, чем годом ранее. Такой рост интереса к инфраструктуре ИИ подтверждает, что «бутылочное горлышко» сместилось с чистых вычислений на системы хранения и передачи данных.

SK hynix удвоила размер своего стенда по сравнению с прошлым годом. Наибольший интерес у посетителей вызвала секция HBF: многие останавливались перед макетом продукта, чтобы изучить структуру нового типа памяти. Вице-президент компании Им Уи Чоль (Lim Eui-cheol) в своем выступлении отметил, что разнообразие ИИ-задач — от ультрабыстрых агентных сервисов до экономичных длинных контекстов — делает невозможным использование единого стандарта «для всех».

Смещение фокуса с обучения на инференс меняет экономику ИИ-центров: теперь ключевым фактором становится не столько количество GPU, сколько оптимизация стоимости хранения и передачи данных для каждого конкретного запроса.

Практические последствия для бизнеса

• Снижение зависимости от дорогих HBM: Технология HBF позволяет выгрузить часть данных из сверхдорогой и дефицитной HBM в более емкую флеш-память, сохраняя высокую скорость. Это может снизить общую стоимость инфраструктуры для центров обработки данных, работающих с длинными контекстами.
• Повышение энергоэффективности: Внедрение PIM уменьшает необходимость перемещения данных между компонентами сервера. Для крупных операторов дата-центров это означает потенциальное снижение затрат на электроэнергию при том же уровне производительности.
• Усложнение стека технологий: Компаниям, внедряющим ИИ-агентов, придется учитывать новые слои оптимизации памяти (такие как SALT-KV). Это требует от инженеров более глубокой интеграции программного обеспечения с аппаратной частью, чтобы добиться максимальной эффективности.

Сигнал для рынка: глобальные производители памяти начинают диверсифицировать свои предложения за пределы стандартных чипов HBM. Для России это означает, что мировые цены и доступность компонентов для ИИ-инфраструктуры будут зависеть от зрелости этих новых технологий (HBF, PIM), которые могут стать альтернативой текущим решениям в среднесрочной перспективе.