d-Matrix создала память для ИИ в 10 раз быстрее HBM
Компания d-Матрикс разработала трёхмерную память 3DIMC, которая выполняет вычисления для задач искусственного интеллекта непосредственно в модуле памяти, что позволяет снизить задержки и повысить эффективность. В лаборатории компании прототип Pavehawk уже тестируется, а следующая версия Raptor, как сообщается, может обеспечить скорость в десять раз выше и потребление энергии на 90% меньше, чем у стандартной высокополосной памяти.
Компания d-Matrix (д-Матрикс) заявила о разработке трёхмерной памяти, способной обеспечить скорость в десять раз превышающую стандартную высокополосную память (HBM). Новая технология, получившая название 3D digital in-memory compute (3DIMC), ориентирована на выполнение расчётов, необходимых для задач искусственного интеллекта, в частности — для инференса .
Технические особенности 3DIMC
HBM — важная составляющая современных систем искусственного интеллекта и высокопроизводительных вычислений. Эта память использует вертикальную структуру, позволяющую объединять модули памяти и увеличивать пропускную способность. Однако, несмотря на рост популярности, HBM может быть не самым оптимальным решением для всех задач, особенно при выполнении инференса, где её преимущества сокращаются.
Для решения этой проблемы d-Matrix разработала 3DIMC. Новая технология использует микросхемы, напоминающие по структуре LPDDR5, но с добавлением кристаллических чиплетов DIMC, уложенных в верхней части. Такая конструкция позволяет выполнять вычисления непосредственно в памяти, что снижает задержки и повышает эффективность. Логические элементы DIMC оптимизированы для умножения матриц и векторов — операций, часто используемых в трансформерных моделях искусственного интеллекта.
Перспективы развития
Сейчас в лаборатории d-Matrix прототип Pavehawk уже активно тестируется. Компания работает над следующей версией, получившей название Raptor. В будущем, как утверждается, Raptor сможет выполнять задачи инференса в десять раз быстрее, чем HBM, и при этом потреблять на 90% меньше энергии. Это делает новую память привлекательной для крупных компаний, заинтересованных в снижении затрат и повышении производительности.
HBM производится ограниченным числом компаний, включая SK hynix, Samsung и Micron. Спрос на эту память растёт, что приводит к увеличению цен. Согласно прогнозам SK hynix, рынок HBM будет расти на 30% ежегодно до 2030 года. Это делает альтернативные решения, такие как 3DIMC, особенно значимыми для тех, кто хочет снизить зависимость от дорогих и ограниченных по производству компонентов.
Направленность на специфические задачи
Разработка d-Matrix соответствует общей тенденции в сфере технологий: создание специализированного оборудования для определённых вычислительных задач. В данном случае — это AI-инференс, который составляет до 50% рабочих нагрузок в крупных гипермасштабируемых системах. Специализация позволяет повысить эффективность и снизить затраты, что важно для рынка, где конкуренция и масштабы операций растут.
Новый тип памяти: зачем AI-индустрии собственная «математическая» архитектура
Технологическая индустрия переживает стремительное развитие, а искусственный интеллект становится не просто инструментом, а полноценным участником экономических процессов. В этой динамике компания d-Matrix представила новую разработку — 3D digital in-memory compute, которая может изменить принципы вычисления и хранения данных. Это не просто улучшение технических характеристик, а попытка переосмыслить, где и как происходят вычисления. Особенно важно, что новая архитектура ориентирована на инференс — один из ключевых этапов в работе нейросетей. Таким образом, d-Matrix предлагает не просто «быструю» память, а новую логику взаимодействия между данными и процессором, что может повлиять на будущую структуру вычислительных систем.
Скрытые мотивы: снижение зависимости и повышение эффективности
В условиях роста спроса на HBM и ограниченности производства, альтернативы становятся не просто желательными, а стратегически важными. 3DIMC демонстрирует, как можно решить проблему, связанную с логистикой и ценой, при этом сохранив, и даже увеличив производительность. Компания использует структуру, напоминающую LPDDR5, но с модификациями, позволяющими вычислять непосредственно в памяти. Это снижает задержки и позволяет оптимизировать выполнение матричных операций — основы современных трансформерных моделей. Таким образом, 3DIMC — это не только технический прорыв, но и стратегический ход, направленный на уменьшение зависимости от ограниченного числа производителей HBM и снижение энергопотребления, что особенно важно для крупных центров обработки данных.
Системные последствия: от архитектуры к экономике
Изменение принципа работы памяти может повлечь за собой глубокие изменения в структуре вычислительных систем. Если 3DIMC действительно позволит повысить скорость инференса в десять раз и снизить энергопотребление на 90%, это может повлиять на выбор оборудования у крупных компаний. Это, в свою очередь, может снизить барьер входа на рынок для тех, кто не может позволить себе дорогие HBM-модули. Кроме того, снижение энергозатрат делает вычисления более устойчивыми, что соответствует глобальным тенденциям в развитии технологий. В России, где развитие собственного ИТ-оборудования имеет приоритет, подобные технологии могут сыграть важную роль в снижении зависимости от иностранных компонентов.
Неочевидные эффекты и долгосрочные перспективы
Новшество в архитектуре памяти может повлиять не только на производительность, но и на способы программирования. Если вычисления происходят в памяти, это меняет логику взаимодействия между программным обеспечением и железом. Это может потребовать пересмотра стандартов, что, в свою очередь, может замедлить внедрение, особенно в крупных корпорациях, где переход на новую платформу требует времени и ресурсов. Однако, если компании d-Matrix удастся масштабировать 3DIMC и адаптировать её под основные задачи AI-индустрии, это может стать основой для нового поколения вычислительных систем. В ближайшие годы можно ожидать роста интереса со стороны крупных игроков, а в долгосрочной перспективе — возможного смещения баланса в сторону более специализированных решений, что, в свою очередь, может стимулировать развитие отечественной разработки подобных технологий.
Практические выводы и прогнозы
- Для разработчиков: переход на специализированную память может потребовать адаптации алгоритмов и оптимизации кода под новую архитектуру.
- Для производителей: 3DIMC демонстрирует, что существуют эффективные альтернативы HBM, что может снизить монопольное влияние крупных производителей.
- Для России: развитие собственной технологии памяти может стать частью стратегии импортозамещения, особенно в области AI и высокопроизводительных вычислений.
- Прогноз: в ближайшие 3–5 лет можно ожидать роста внимания к 3DIMC, особенно если будут подтверждены заявленные показатели производительности и энергоэффективности.
