NVIDIA Jetson AGX Orin и Nano Super: мощные ИИ-роботы без серверов и облака

Инвестор Сара Гуо (Sarah Guo) в новом видео показала, что мощные вычислительные системы для искусственного интеллекта больше не требуют серверных комнат. Платформа NVIDIA Jetson позволяет запускать сложные ИИ-модели и управлять роботами с устройствами размером с планшет, которые легко помещаются в обычную сумку. Это меняет подход к разработке: инженеры и студенты могут тестировать автономные системы прямо в классе, лаборатории или на улице, не привязываясь к стационарному оборудованию.

Важный нюанс: Перенос тяжелых вычислений с облака на компактные устройства устраняет зависимость от стабильного интернета и снижает задержки, что критично для роботов, принимающих решения в реальном времени.

Старт с Jetson Orin Nano Super

Для начинающих разработчиков и студентов компания предлагает модуль Jetson Orin Nano Super. Устройство обеспечивает производительность 67 триллионов операций в секунду (TOPS), что достаточно для запуска генеративного ИИ и компьютерного зрения. Оно позиционируется как стартовая точка для создания первого робота, прототипирования агентов и изучения алгоритмов.

В тексте приведены примеры практического применения этого модуля:

• SidewalkPilot: Кастомная модель ИИ, управляющая игрушечным электромобилем, самостоятельно выполняет маневры.
• Reachy Mini Jetson Assistant: Голосовой и визуальный помощник для робота Reachy Mini Lite. Вся обработка происходит локально на устройстве, без необходимости подключения к облаку или использования API-ключей.
• Создание робота с нуля: Разработчик Льюис (Lewis) собрал робота, работающего на открытой модели Mistral, демонстрируя возможность создания автономных систем с минимальными ресурсами.
• Робототехнический подкаст: Асьер Арназ (Asier Arnaz) создал видео-подкаст с двумя ИИ-моделями, обсуждающими темы в реальном времени, используя платформу Yocto.

Для упрощения работы с кодом доступны навыки Jetson Device Skills и Jetson BSP Skills, которые помогают студентам и исследователям быстрее разрабатывать, оптимизировать и запускать ИИ-агенты.

Мощные решения на Jetson AGX Orin

Для более сложных задач, требующих серьезных вычислений, предназначена платформа Jetson AGX Orin. Она выдает 275 TOPS и подходит для курсовых проектов, научных исследований и стартапов. Устройство позволяет тестировать идеи в реальных условиях, а затем переносить их на демонстрационные столы или встречи с инвесторами.

Примеры использования Jetson AGX Orin:

• Live VLM WebUI: Веб-интерфейс, который транслирует результаты работы языковой модели с компьютерным зрением (VLM) в реальном времени через видеопоток камеры.
• SMoRes: Автономная система от команды робототехники Карнеги-Меллона, которая строит 3D-карту местности и одновременно ищет выживших в аварийных ситуациях.

Будущее с Jetson AGX Thor

В тексте упоминается следующая ступень развития — Jetson AGX Thor. Эта платформа предназначена для создания еще более масштабных проектов, выходящих за рамки учебных задач. Она позиционируется как инструмент для построения следующего поколения интеллектуальных роботов, способных решать задачи любой сложности в любой точке мира.

Ключевой момент: Демократизация доступа к мощным ИИ-чипам позволяет малым командам и студентам конкурировать с крупными корпорациями, сокращая время от идеи до рабочего прототипа.

Операционные последствия и практические аспекты

• Снижение зависимости от облака: Локальная обработка данных на устройствах Jetson исключает необходимость в постоянном высокоскоростном интернете, что упрощает развертывание роботов в удаленных или нестабильных сетях.
• Ускорение цикла разработки: Возможность носить вычислительный модуль с собой позволяет тестировать алгоритмы непосредственно в среде их будущего применения, а не в изолированной лаборатории.
• Доступность технологий: Снижение требований к инфраструктуре (отсутствие серверных стоек) уменьшает первоначальные затраты на создание робототехнических стартапов и образовательных программ.
• Безопасность данных: Работа моделей локально без передачи данных в облако снижает риски утечки конфиденциальной информации и повышает автономность систем.