Z.AI выпустила GLM-5.2: открытые модели догоняют закрытые, но требуют 940 ГБ видеопамяти

Компания Z.AI выпустила модель GLM-5.2, которая по своим возможностям конкурирует с ведущими закрытыми решениями от Anthropic и OpenAI. Тестирование показало, что при развертывании на собственном оборудовании открытая модель способна выполнять сложные агентские задачи по написанию и отладке кода. Для запуска модели с контекстом в 131 000 токенов требуется массив видеопамяти около 940 ГБ, что делает облачные решения или специализированные серверы единственным реалистичным вариантом для большинства команд.

Важный нюанс: Разрыв в качестве между открытыми и закрытыми моделями в задачах программирования сокращается, но доступ к ним остается ограничен жесткими требованиями к железу.

Требования к оборудованию и выбор инфраструктуры

Запуск флагманских моделей ИИ традиционно требует значительных ресурсов. Рост цен на оперативную память и ускорители делает локальное развертывание сложным для среднего пользователя. Даже квантованные версии моделей, такие как Kimi-K2.7-Code-GGUF, могут занимать более 300 ГБ памяти в минимальной конфигурации.

Для демонстрации работы GLM-5.2-FP8 использовался сервер Dell PowerEdge XE9680 с восемью видеокартами NVIDIA H200. Каждая карта обеспечивает около 144 ГБ видеопамяти, что в сумме дает необходимый запас для работы с длинным контекстом.

Для команд, готовых инвестировать в инфраструктуру, локальная установка предлагает ключевые преимущества:

• Полный контроль над данными и токенами.
• Возможность обслуживания нескольких пользователей одновременно.
• Отсутствие зависимости от внешних провайдеров.

Для менее ресурсоемких задач подходят модели меньшего размера, такие как google/gemma-4-31B-it или unsloth/Qwen3.6-35B-A3B-GGUF, которые работают на стандартных мощных рабочих станциях или Mac с объединенной памятью.

Развертывание и настройка агента

Процесс запуска оптимизирован через Dell Enterprise Hub, который предоставляет готовые образы Docker, настроенные для работы с оборудованием Dell. Для модели GLM-5.2-FP8 используется конфигурация с 8 GPU и поддержкой параллелизма тензоров.

Чтобы превратить модель в автономного агента, способного выполнять цепочки действий (использование инструментов, управление сессиями), к ней подключается программный каркас (harness). В данном случае использован OpenCode в связке с сервером MCP от Hugging Face. Это позволяет агенту взаимодействовать с экосистемой Hugging Face: искать модели, загружать данные и запускать задачи.

Стоит учесть: Разные программные каркасы могут по-разному влиять на производительность модели. Например, модели Qwen лучше работают в среде Qwen-Code, тогда как GLM-5.2-FP8 демонстрирует стабильность в OpenCode и Claude Code.

Практический тест: обучение и сравнение моделей

Для проверки возможностей агента была поставлена комплексная задача: самостоятельно выбрать две базовые модели, найти датасет, написать скрипт обучения методом DPO (Direct Preference Optimization) с библиотекой TRL, запустить обучение и составить отчет о результатах.

Агент выполнил следующие шаги:

1. Выбрал модели google/gemma-3-270m и Qwen/Qwen2.5-0.5B на основе популярности на Hugging Face.
2. Нашел датасет trl-lib/Capybara-Preferences для настройки на диалоговые задачи.
3. Написал скрипт обучения и настроил мониторинг через track.io.
4. Запустил тестовую задачу (smoke-test) для проверки корректности кода.
5. Обнаружил ошибку нехватки памяти (out-of-memory) при обучении модели Gemma, самостоятельно уменьшил размер батча и перезапустил задачу.
6. После завершения обучения загрузил результаты и сгенерировал отчет.

Результаты показали, что улучшения в метриках были незначительными, однако сам процесс выполнения сложной многошаговой задачи без вмешательства человека подтвердил зрелость открытой модели.

Операционные последствия и тренды

• Барьер входа: Высокие требования к видеопамяти (около 940 ГБ для полной версии) смещают фокус с индивидуальных разработчиков на корпоративные лаборатории и облачные провайдеры.
• Зависимость от экосистемы: Эффективность агента напрямую зависит от качества интеграции с внешними инструментами (MCP-серверами) и наличия готовых образов для развертывания.
• Риски инфраструктуры: Локальное развертывание требует готовности к решению аппаратных проблем, таких как нехватка памяти, что увеличивает операционные расходы на поддержку.
• Конкурентное преимущество: Возможность владеть данными и моделями становится стратегическим фактором для компаний, работающих с чувствительной информацией, несмотря на более высокую стоимость владения по сравнению с облачными API.

На фоне этого: Локальное развертывание мощных ИИ-агентов перестает быть теоретической возможностью и становится реальной альтернативой для организаций, готовых инвестировать в собственную инфраструктуру ради контроля над данными.