Kimi K3

Kimi K3 меняет экономику развертывания моделей класса 3 трлн параметров благодаря квантованию MXFP4

16 июля 2026 года Moonshot AI представила модель Kimi K3 с 2,8 трлн параметров, которая благодаря внедрению формата MXFP4 требует для хранения всего 1,4 ТБ памяти вместо стандартных 5,6 ТБ. Это решение позволяет развертывать модель уровня GPT-5.6 на кластерах из 8–16 узлов с видеокартами H100 или B200, делая доступными вычислительные ресурсы для средних и крупных организаций. Kimi K3 демонстрирует результаты, сопоставимые с закрытыми лидерами рынка в тестах на программирование и математику, но требует специализированной инфраструктуры и доработки стандартных фреймворков для корректной работы с 896 экспертами архитектуры MoE.

Событие: 16 июля 2026 года компания Moonshot AI официально представила модель Kimi K3 с 2,8 трлн параметров, анонсировав выпуск полных весов для открытого использования 27 июля.

Эффект: Применение квантования MXFP4 сократило требования к памяти в 4 раза по сравнению с форматом FP16, что сделало развертывание модели возможным на кластерах из 8 узлов с видеокартами Blackwell или MI400.

Риск: Модель проявляет избыточную проактивность в неясных ситуациях и критически чувствительна к модификации цепочек рассуждений, что может привести к резкому падению качества ответов.

Фактор: Для корректной маршрутизации 896 экспертов архитектуры MoE стандартные инструменты инференса потребуют обязательной доработки и установки патчей.

Инсайт: Обучение с учетом квантования (QAT), проведенное на этапе дообучения, позволяет модели компенсировать потери точности от сжатия данных без падения качества, характерного для пост-обработки.

Подробнее →