PyTorch замедляет ИИ в 3,7 раза: скрытые настройки и риски изоляции
Стандартные настройки PyTorch тормозят вычисления в 3,7 раза и оставляют до 90% мощностей архитектуры «смесь экспертов» без работы. Бизнесу придется перестраивать инфраструктуру и искать альтернативные ускорители, чтобы избежать простоев и регуляторных рисков на фоне угроз экспортных ограничений. / Страница 4
Читать полностью
Календарь упоминаний. Страница 4:
PyTorch входит в список потенциальных ограничений США на программное обеспечение
Фреймворк искусственного интеллекта PyTorch, используемый для разработки алгоритмов и обучения моделей, может быть включён в экспортные ограничения США в ответ на китайские меры на редкоземельные материалы. США рассматривают фреймворки ИИ, инструменты проектирования чипов и программные продукты для производства как цели для регулирования, что затронет как китайские, так и западные компании. Ограничения связаны с усилиями США по смягчению последствий китайских экспортных барьеров, включая обязательное одобрение экспорта редкоземельных элементов.
Интеграция PyTorch укрепляет позиции Huawei в AI
Huawei заявила о приоритизации поддержки PyTorch в своей открытой AI-экосистеме. Это связано с доминированием PyTorch в исследованиях и производственных развертываниях. Компания также планирует интеграцию vLLM для оптимизации инференса больших языковых моделей. Уровень совместимости и отсутствие ограничений в использовании фреймворков станут ключевыми факторами успеха инициативы.
Поддержка Torch в экосистеме Tensordyne
Tensordyne разработала SDK, совместимый с фреймворками, включая Torch, что позволяет разработчикам использовать логарифмическое представление чисел (LNS) без необходимости пересобирать модели или обучать их заново. Интеграция с Torch обеспечивает доступ к промежуточному представлению в Python, упрощая переход на новую систему вычислений. Это делает платформу более доступной для широкого круга разработчиков и исследователей в области искусственного интеллекта.
В нашей базе собрано 18 событий по теме «Torch». Мы показываем все из них.
Объединили похожие карточки: Torch; PyTorch и другие.