Metal
Metal в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
BaseRT использует прямую работу с Metal для ускорения ИИ на Mac
Суть: Движок BaseRT достигает рекордной скорости обработки языковых моделей на Apple Silicon благодаря прямой работе с графическим API Metal без промежуточных слоев абстракции.
Событие: Тесты на чипах M3 и M4 Pro показали, что использование Metal в BaseRT обеспечивает ускорение декодирования до 1,56 раза по сравнению с llama.cpp.
Фактор: Отказ от зависимостей вроде PyTorch и обращение к видеокарте напрямую через Metal позволили устранить лишние преобразования данных и снизить накладные расходы.
Эффект: Прямая интеграция с Metal обеспечила ускорение предобработки данных в режиме prefill до 1,81 раза на моделях с миксом экспертов за счет оптимизированных алгоритмов.
Риск: Текущая версия движка полностью зависит от GPU Apple через Metal и пока не реализует использование нейронного движка, что ограничивает гибкость аппаратного обеспечения.
В нашей базе собрано 1 событие по теме «Metal». Мы показываем все из них.