Архитектура ИИ-процессоров

Увеличение производительности ИИ-систем за счёт архитектуры Blackwell Ultra

Архитектура Blackwell Ultra, применённая в системах NVIDIA GB300 NVL72, обеспечивает значительное повышение производительности в задачах с высокими требованиями к латентности. Благодаря оптимизациям, таким как PD Disaggregation, динамическое разделение запросов и улучшение KV-кэша, достигнуты показатели в 1,4–1,5 раза выше по сравнению с предыдущей версией — GB200 NVL72. Это включает пиковую пропускную способность в 226,2 токена в секунду на GPU и снижение латентности в 58 раз. Такие улучшения делают Blackwell Ultra особенно подходящим для агентных ИИ-систем и масштабных вычислений. Подробнее →