MLX
MLX в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Упоминается вместе:
Календарь упоминаний:
Модель LFM2.5-2.6B от LiquidAI поддерживает фреймворк MLX для локального запуска
Компания LiquidAI представила компактную модель LFM2.5-2.6B, оптимизированную для работы на пользовательских устройствах без доступа к облаку. Для обеспечения совместимости с экосистемой Apple и упрощения интеграции в существующие разработки модель официально поддерживает библиотеку MLX. Это позволяет разработчикам эффективно развертывать автономных ИИ-агентов на устройствах с чипами Apple Silicon, используя возможности локальной обработки данных.
Связь: Поддержка библиотеки MLX в списке совместимых фреймворков обеспечивает возможность запуска модели LFM2.5-2.6B на устройствах Apple с высокой скоростью генерации.
Фактор: Включение MLX в перечень поддерживаемых инструментов наравне с llama.cpp и vLLM расширяет возможности интеграции модели в проекты, ориентированные на экосистему Apple.
MLX обеспечивает нативный запуск корейской версии модели POCKET-35B на устройствах Apple
Фреймворк MLX стал ключевой технологией для реализации специализированной версии модели POCKET-35B, оптимизированной под экосистему Apple. В отличие от английских версий, использующих формат GGUF, корейская модель для iPhone, iPad и Mac построена на базе MLX, что позволяет запускать 35-миллиардную модель с активацией 3 миллиардов параметров на устройствах с 8 ГБ оперативной памяти. Это решение устраняет необходимость в модифицированном ПО, обеспечивая совместимость со стандартными инструментами разработки.
Событие: Разработчики выпустили версию POCKET-KR MLX размером 5,1 ГБ, работающую на iPhone, iPad и Mac с использованием нативного фреймворка MLX.
Фактор: Выбор архитектуры MLX для корейской версии обусловлен необходимостью эффективного сжатия модели под конкретные языковые задачи, что невозможно реализовать с помощью универсальных форматов вроде GGUF.
Эффект: Использование MLX позволяет запускать мощную модель на мобильных устройствах с ограниченным объемом памяти (8 ГБ), делая локальный ИИ доступным без облачных сервисов.
BaseRT показал преимущество в скорости декодирования над MLX на чипах Apple Silicon
Суть: Новый движок BaseRT продемонстрировал более высокую скорость обработки токенов по сравнению с MLX в тестах на процессорах M3 и M4 Pro, особенно на малых языковых моделях.
Событие: В ходе испытаний на модели Qwen3 0.6B движок BaseRT обеспечил ускорение декодирования на 35% относительно показателей MLX, достигнув 464,5 токена в секунду против 343,6 у MLX.
Фактор: Архитектура BaseRT, работающая напрямую с API Metal без промежуточных слоев, позволила обойти накладные расходы, которые замедляют выполнение MLX на компактных моделях.
Тренд: Разрыв в производительности между BaseRT и MLX сокращается с увеличением размера модели, так как на больших моделях ограничивающим фактором становится пропускная способность памяти, а не оптимизация кода.
Новое ядро MLX ускорит матричные операции в Gemma 4 на Apple Silicon
Суть: Разработчики добавили в библиотеку MLX специализированное ядро для оптимизации проверки гипотез в многозначном предсказании (MTP). Это изменение позволяет читать веса модели один раз и переиспользовать их для всего пакета предсказаний, исключая избыточные операции чтения.
Событие: Внедрение нового ядра MLX сделало матричные операции в модели Gemma 4 на процессоре M5 Max в 2–2,5 раза быстрее при квантовании nvfp4.
Эффект: Благодаря оптимизации в MLX генерация текста в Gemma 4 на Apple Silicon ускорилась почти на 90%, что особенно заметно при выполнении задач по программированию.
Фактор: Прирост скорости достигнут за счет устранения дублирования работы при проверке 2–8 токенов, которые ранее попадали в «серую зону» стандартных ядер.
В нашей базе собрано 4 события по теме «MLX». Мы показываем все из них.