Base Compute
Base Compute в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
Base Compute представила BaseRT для ускорения LLM на Apple Silicon
Суть: Base Compute выпустила специализированный движок BaseRT, который обеспечивает прямую работу с графическим API Metal для запуска больших языковых моделей на процессорах Apple Silicon.
Событие: Base Compute продемонстрировала ускорение декодирования до 1,56 раза на чипах M3 и M4 Pro в сравнении с llama.cpp и до 1,35 раза против MLX.
Связь: Base Compute достигла максимального прироста производительности на компактных моделях, где накладные расходы на управление программным обеспечением обычно снижают общую скорость работы.
Фактор: Base Compute отказалась от промежуточных слоев абстракции и выделения памяти во время работы, что позволило движку обрабатывать разные модели через единый компактный дескриптор.
Эффект: Base Compute создала условия для снижения задержек локальных ИИ-агентов и повышения стабильности работы приложений на ноутбуках Apple за счет оптимизации использования ресурсов.
В нашей базе собрано 1 событие по теме «Base Compute». Мы показываем все из них.