ONNX (Open Neural Network Exchange)
ONNX (Open Neural Network Exchange) в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Упоминается вместе:
Календарь упоминаний:
DoctoBERT использует ONNX для запуска на CPU в изолированных сетях больниц
Суть: ONNX применяется для конвертации моделей DoctoBERT с последующей квантовацией до int8, что обеспечивает максимальный прирост производительности на обычных процессорах без использования GPU.
Фактор: Отсутствие видеокарт в инфраструктуре некоторых медицинских учреждений требует оптимизации вычислений через ONNX для обеспечения приемлемой скорости работы в изолированных сетях.
Связь: Без использования формата ONNX и соответствующей оптимизации задержки на старом оборудовании становятся неприемлемыми для интерактивных медицинских систем.
Поддержка ONNX в платформе Qualcomm для масштабного вывода ИИ
ONNX входит в число поддерживаемых инструментов машинного обучения в программной платформе Qualcomm, разрабатываемой для масштабного вывода генеративных моделей ИИ. Платформа также включает поддержку PyTorch, vLLM, LangChain и CrewAI, а также функции распределенного обслуживания и конфиденциального вычисления. Это позволяет пользователям использовать модели в различных форматах и оптимизировать их для работы на ускорителях AI200 и AI250.
В нашей базе собрано 2 события по теме «ONNX (Open Neural Network Exchange)». Мы показываем все из них.
Объединили похожие карточки: ONNX (Open Neural Network Exchange); Open Neural Network Exchange; ONNX и другие.