M+S шины
M+S шины в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
2025
20 октября
Model Studio: 9-кратное увеличение пропускной способности GPU
Model Studio — платформа, на которой Alibaba Cloud протестировала систему Aegaeon, сокращающую потребность в GPU Nvidia на 82%. Aegaeon оптимизирует использование GPU во время инференса, виртуализируя доступ к ним на уровне токенов и динамически распределяя ресурсы. Это позволяет одному чипу Nvidia H20 обслуживать несколько моделей одновременно, увеличивая эффективную пропускную способность в 9 раз по сравнению с решениями вроде ServerlessLLM. Тесты показали снижение необходимого количества GPU с 1192 до 213 при поддержке десятков моделей, включая LLM с 72 млрд параметров.
M+S шины имеет 1 запись событий в нашей базе. Объединили похожие карточки: M+S шины; Model Studio; Mud and Snow и другие.