Ускорение обработки данных

Ускорение обработки данных до 1000 токенов в секунду

Модель Codex-Spark от OpenAI, запущенная на чипах Cerebras, достигает скорости обработки данных в 1000 токенов в секунду, что в 15 раз превышает показатель предыдущей версии. Это стало возможным благодаря сотрудничеству с Cerebras и использованию чипа Wafer Scale Engine 3. Модель оптимизирована под скорость, а не глубину знаний, и предназначена для задач программирования. Сравнение с решениями на чипах Nvidia показывает, что предыдущие модели OpenAI не превышали 167 токенов в секунду. Ускорение обработки данных открывает возможности для более быстрой автоматизации разработки кода. Подробнее →