Ускорители ИИ

AMD интегрирует технологию оптимизации памяти в свои ускорители ИИ

Компания AMD приобрела стартап MEXT, чтобы внедрить его алгоритмы искусственного интеллекта в свои серверные процессоры и ускорители ИИ. Цель сделки — устранить дефицит оперативной памяти, позволяя использовать более дешевую флеш-память как высокоскоростную оперативную. Это программное решение должно повысить производительность вычислительных систем и снизить затраты на инфраструктуру для задач машинного обучения.

Анонс: AMD планирует внедрить технологию MEXT во все свои продукты для дата-центров, включая ускорители ИИ, для создания комплексного решения «под ключ».

Эффект: Внедрение алгоритмов MEXT в ускорители ИИ позволит устранить задержки при работе с большими массивами данных и ускорить развертывание проектов без закупки нового оборудования.

Фактор: Ускорители ИИ будут опираться на предиктивные модели MEXT, которые анализируют поведение приложений и заранее подгружают данные, эмулируя бесконечный объем оперативной памяти.

Риск: Реальная эффективность ускорителей ИИ после интеграции зависит от точности предиктивных моделей, так как ошибки в прогнозировании потоков данных могут привести к падению производительности.

Подробнее →

Рост рисков ошибок в системах с ускорителями ИИ

Ускорители ИИ, как и CPU и GPU, подвержены дефектам, которые могут вызывать тихие ошибки — неверные результаты без сбоев или предупреждений. Эти ошибки возникают из-за аппаратных неисправностей на этапе производства или в процессе эксплуатации и остаются незамеченными, поскольку не прерывают выполнение задач. В крупных дата-центрах с миллионами ядер частота таких ошибок может достигать сотен в день. Ускорители ИИ, имея тысячи арифметических блоков, особенно уязвимы из-за масштаба параллельных вычислений. Проблема усиливает необходимость новых подходов к тестированию и мониторингу, чтобы сохранить корректность вычислений.

Подробнее →