Qwen3.6

Qwen3.6 демонстрирует ускорение генерации кода в 2,2 раза на портативных ПК благодаря технологии DFlash

Модель Qwen3.6-35B-A3B была протестирована на ноутбуках с процессорами Intel Core Ultra Series 3 в связке с фреймворком OpenVINO и технологией спекулятивного декодирования DFlash. Эксперименты подтвердили возможность запуска сложных архитектур «смесь экспертов» (MoE) локально без зависимости от облачных серверов. Qwen3.6 достигла скорости 90 токенов в секунду в задачах программирования, преодолевая традиционные ограничения по загрузке специализированных подсетей при параллельной проверке токенов.

Событие: В ходе тестов на процессоре Intel Core Ultra X7 368H модель Qwen3.6-35B-A3B обеспечила скорость генерации кода 89,8 токена в секунду, что на 2,2 раза выше базового уровня.

Фактор: Архитектура MoE модели Qwen3.6 создает сложности при стандартном ускорении из-за необходимости активации множества разных «экспертов», что решается технологией DFlash через параллельную обработку блоков токенов.

Эффект: Внедрение ускорения позволяет Qwen3.6 работать автономно на ноутбуках, открывая возможность создания локальных ИИ-агентов без постоянного подключения к интернету.

Риск: Текущая реализация Qwen3.6 в пайплайне DFlash ограничена только текстовыми запросами и отсутствием поддержки мультимодальных данных, что сужает сценарии коммерческого использования.

Анонс: Поддержка кэширования префиксов и мультимодальности для Qwen3.6 запланирована разработчиками в будущих обновлениях библиотеки OpenVINO.GenAI.

Подробнее →