Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super : rapide et efficace

Qu'est-ce que le NVIDIA Jetson Orin Nano Super Developer Kit ?

Le NVIDIA Jetson Orin Nano Super Developer Kit est un ordinateur compact mais puissant qui redéfinit l'IA générative pour les petits appareils périphériques. Il offre jusqu'à 67 TOPS (trillions d'opérations par seconde) de performances en matière d'IA, ce qui le rend idéal pour les développeurs, les étudiants et les amateurs qui travaillent sur des projets d'IA avancés.

‍

Voici quelques-unes de ses principales caractéristiques :

• Performances duGPU : L'appareil est construit sur le GPU à architecture NVIDIA Ampere, qui comprend 1 024 cœurs CUDA et 32 cœurs Tensor . Les cœurs CUDA traitent de nombreuses tâches simultanément, accélérant ainsi les calculs complexes, tandis que les cœurs Tensor sont spécialisés dans les tâches d'IA telles que l'apprentissage en profondeur.
  ‍
• CPU puissant: Il est doté d'un processeur Arm Cortex-A78AE à 6 cœurs, conçu pour équilibrer vitesse et efficacité. L'appareil peut gérer plusieurs tâches en douceur tout en maintenant une faible consommation d'énergie. C'est important pour les systèmes fonctionnant localement sans accès à de grandes sources d'énergie.
  ‍
• Mémoire efficace: Le kit est livré avec 8 Go de mémoire LPDDR5 (Low Power Double Data Rate 5). LPDDR5 est un type de RAM (Random Access Memory) optimisé pour la vitesse et l'efficacité énergétique, ce qui permet à l'appareil de gérer de grands ensembles de données et des traitements en temps réel sans consommer trop d'énergie.
  ‍
• Options de connectivité: Il comprend des ports USB 3.2 pour des transferts de données rapides, un port Gigabit Ethernet pour des connexions réseau solides, et des interfaces de caméra pour intégrer des capteurs ou des caméras.
  ‍
• Outils de développement de l'IA: La Jetson Orin Nano Super fonctionne avec le SDK JetPack de NVIDIA , qui fournit des outils tels que CUDA pour un calcul plus rapide et pour optimiser les modèles d'IA. TensorRT pour optimiser les modèles d'IA. Ces outils permettent aux développeurs de créer et de déployer plus facilement des applications d'IA de manière rapide et efficace.

Comparaisons des performances : Jetson Orin Nano Super vs. Orin NX 16GB

Si tu connais le travail de NVIDIA, tu te demandes peut-être comment cette nouvelle version se compare à la version existante NVIDIA Jetson Orin NX 16GB (sans super mode). Bien que le Jetson Orin NX offre des capacités globales plus élevées, le Jetson Orin Nano Super Developer Kit offre des performances impressionnantes à une fraction du prix.

 

‍

En voici un bref aperçu :

• Performances en matière d'IA: Jetson Orin Nano Super offre jusqu'à 67 TOPS, ce qui est parfait pour la plupart des tâches d'IA de pointe, tandis que Jetson Orin NX offre jusqu'à 100 TOPS pour les applications plus exigeantes.
  ‍
• Mémoire: Jetson Orin Nano Super comprend 8 Go de LPDDR5, ce qui est suffisant pour les tâches en temps réel, tandis que Orin NX double cette capacité à 16 Go pour les charges de travail plus importantes.
  ‍
• Efficacité énergétique: Jetson Orin Nano Super est plus économe en énergie, et configurable entre 7W et 25W, par rapport aux exigences de puissance plus élevées de Jetson Orin NX.
  ‍
• GPU: Les deux partagent l'architecture NVIDIA Ampere avec 1 024 CUDA cœurs et 32 Tensor cœurs pour une performance robuste GPU .

YOLO11 avec Jetson Orin Nano Super : L'IA visionnaire à la portée de tous

Maintenant que nous avons une meilleure compréhension de la Jetson Orin Nano Super, voyons comment YOLO11 peut intervenir pour apporter les capacités de Vision AI à la périphérie. Ultralytics YOLO Les modèles, y compris YOLO11, sont dotés de modes polyvalents tels que l'entraînement, la prédiction et l'exportation, ce qui les rend adaptables à une variété de flux de travail en matière d'IA. 

Par exemple, dans le mode d'entraînement, Ultralytics YOLO les modèles peuvent être affinés et entraînés sur des ensembles de données personnalisés pour des applications spécifiques, telles que la détection d'objets uniques ou l'optimisation pour des environnements spécifiques. De même, le mode de prédiction est conçu pour l'inférence, ce qui permet d'effectuer des tâches de vision par ordinateur en temps réel. Enfin, le mode d'exportation peut être utilisé pour convertir les modèles dans des formats optimisés pour le déploiement.

‍

YOLO11 en mode export prend en charge toute une série d'options de déploiement de modèles, y compris entre autres :

• NVIDIA TensorRT: Ce format est optimisé pour les GPU NVIDIA , offrant une inférence performante et à faible latence sur le Jetson Orin Nano Super.
  ‍
• ONNX (Open Neural Network Exchange): Il assure la compatibilité entre diverses plateformes, ce qui le rend polyvalent pour différents écosystèmes matériels et logiciels.
  ‍
• TorchScript: Ce format est idéal pour les applications PyTorch, aidant à une intégration transparente dans les flux de travail PyTorch .
  ‍
• TFLite (TensorFlow Lite): Un format conçu pour les déploiements légers d'IA, ce qui le rend parfait pour les systèmes mobiles et embarqués.

En utilisant ces formats de déploiement, les développeurs peuvent tirer pleinement parti du matériel de la Jetson Orin Nano Super pour exécuter YOLO11 pour des applications en temps réel telles que les espaces intelligents, la robotique et l'automatisation de la vente au détail. 

Benchmarking YOLO11 sur NVIDIA Jetson Orin Nano Super

Ensuite, pour avoir une meilleure idée de la vitesse à laquelle YOLO11 peut fonctionner sur la NVIDIA Jetson Orin Nano Super, explorons ses performances impressionnantes et ses benchmarks en utilisant GPU- des formats d'exportation accélérés comme PyTorch, ONNX, et TensorRT. Ces tests révèlent que la Jetson Orin Nano Super atteint des temps d'inférence avec les modèles YOLO11 qui sont comparables - et parfois supérieurs - à la Jetson Orin NX 16GB existante (sans mode super).

‍

Ce qui rend ce résultat encore plus remarquable, c'est le prix abordable de la Jetson Orin Nano Super. Offrant de telles performances à moins de la moitié du prix de la Jetson Orin NX 16 Go, elle constitue une valeur exceptionnelle pour les développeurs qui conçoivent des applications YOLO11 très performantes. Cette combinaison de coût et de performance fait de la Jetson Orin Nano Super un excellent choix pour les tâches Vision AI en temps réel à la périphérie.

‍

Mets-toi à l'œuvre avec YOLO11 et le NVIDIA Jetson Orin Nano Super

Si tu es impatient de commencer à déployer YOLO11 sur la Jetson Orin Nano Super, il y a une bonne nouvelle : c'est un processus simple. Après avoir flashé ton appareil avec le SDK JetPack de NVIDIA , tu peux soit utiliser une image Docker préconstruite pour une installation rapide, soit installer manuellement les paquets nécessaires. 

Pour ceux qui recherchent une intégration plus rapide et plus transparente, le conteneur Docker JetPack 6 mis à jour est la solution idéale. Un conteneur Docker est un environnement léger et portable qui comprend tous les outils et dépendances nécessaires à l'exécution d'un logiciel spécifique. 

Le conteneur Ultralytics , optimisé pour JetPack 6.1, est livré préchargé avec CUDA 12.6, TensorRT 10.3 et des outils essentiels comme PyTorch et TorchVision, tous adaptés à l'architecture ARM64 de Jetson. En utilisant ce conteneur, les développeurs peuvent gagner du temps sur la configuration et se concentrer sur la construction et l'optimisation de leurs applications Vision AI avec YOLO11.

Applications de YOLO11 sur le NVIDIA Jetson Orin Nano Super

Pour ceux qui sont à la recherche d'inspiration pour leur prochain projet d'IA, il existe un potentiel d'applications de vision par ordinateur basées sur les bords tout autour de nous. 

Dans la vie de tous les jours, l'edge AI redéfinit les espaces intelligents en permettant aux systèmes de détecter et de suivre les objets en temps réel, le tout sans dépendre du traitement dans le cloud. Qu'il s'agisse de surveiller la circulation dans une ville animée ou d'identifier une activité inhabituelle dans les espaces publics, l'edge Vision AI stimule la sécurité et l'efficacité.

Les détaillants exploitent également l'IA périphérique et la vision par ordinateur. Du contrôle automatisé des stocks à la prévention des vols, des modèles comme YOLO11 permettent aux entreprises de déployer des solutions en temps réel directement dans les magasins. 

De même, en ce qui concerne l'IA dans le domaine de la santé, la surveillance en périphérie assure la sécurité des patients, détecte les anomalies et maintient la conformité, le tout sans les retards causés par la dépendance au cloud. Avec des outils comme le Jetson Orin Nano Super et YOLO11, l'avenir de l'IA Vision se déploie à la périphérie, là où on en a le plus besoin.

Principaux enseignements

Le déploiement de Ultralytics YOLO modèles comme YOLO11 sur NVIDIA Jetson Orin Nano Super Developer Kit offre une solution fiable et efficace pour les applications d'IA de pointe. Avec les performances robustes de GPU , la prise en charge transparente de PyTorch, ONNX, et TensorRT, et des benchmarks impressionnants, il est bien adapté aux tâches de vision par ordinateur en temps réel telles que la détection et le suivi d'objets. 

Les innovations et les collaborations dans les technologies de pointe comme Vision AI et l'accélération matérielle transforment notre façon de travailler, en donnant aux développeurs les moyens de créer des solutions évolutives et performantes à la périphérie. À mesure que l'IA progresse, des outils comme YOLO11 et le Jetson Orin Nano Super facilitent plus que jamais la mise en place de solutions intelligentes et en temps réel.

Curieux de l'IA ? Visite notre dépôt GitHub pour explorer nos contributions et t'engager avec notre communauté. Vois comment nous utilisons l'IA pour avoir un impact dans des secteurs comme l'agriculture et la santé.