Informatique de pointe

Pourquoi l'informatique de pointe est-elle importante pour l'IA/ML ?

L'Edge computing est particulièrement impactant dans le domaine de l'intelligence artificielle (IA) et de la ML, notamment pour les tâches de vision par ordinateur (VA). De nombreuses applications d'IA nécessitent un traitement immédiat des données des capteurs (comme les images ou les flux vidéo) pour prendre des décisions en temps voulu. L'envoi de gros volumes de données vers le cloud introduit des retards(latence) inacceptables pour les scénarios d'inférence en temps réel. L'informatique en périphérie remédie à ce problème en permettant aux modèles de ML, tels qu' Ultralytics YOLO de Ultralytics, de s'exécuter directement sur la source de données ou à proximité. Cela permet de réduire considérablement les temps de réponse, de conserver la bande passante du réseau et d'améliorer la confidentialité des données en gardant les informations sensibles localisées. Le développement de matériel à la fois puissant et efficace comme les GPU et les accélérateurs spécialisés comme les TPU conçus pour les appareils périphériques facilite encore cette tendance. Tu peux en savoir plus sur le déploiement d'applications de vision par ordinateur sur des appareils d'IA périphériques.

Applications IA/ML dans le monde réel

L'informatique en périphérie permet de mettre en œuvre un large éventail d'applications innovantes en matière d'IA/ML :

1. Véhicules autonomes: Les voitures utilisent l'edge computing pour traiter les données des caméras, du LiDAR et d'autres capteurs en temps réel. Cela permet de détecter immédiatement les objets, de planifier la trajectoire et d'éviter les collisions sans dépendre d'une connexion au cloud potentiellement lente ou indisponible. Explore plus en détail les solutions d'IA dans l'automobile.
2. IoT industriel et fabrication intelligente: Les usines déploient des appareils de périphérie pour surveiller les machines à l'aide de la vision par ordinateur pour l'inspection de la qualité ou la maintenance prédictive. L'analyse des données des capteurs au niveau local permet des alertes et des ajustements instantanés, ce qui améliore l'efficacité et la sécurité. En savoir plus sur l'IA dans la fabrication.
3. Commerce de détail intelligent: Les appareils Edge analysent les flux des caméras dans les magasins pour la surveillance des rayons, l'analyse du comportement des clients ou la gestion des files d'attente, optimisant ainsi les opérations sans transmettre de nombreuses séquences vidéo. Découvre comment l'IA peut être utilisée pour une gestion plus intelligente des stocks dans le commerce de détail.
4. Surveillance des soins de santé: Les appareils portables et les moniteurs de chevet peuvent utiliser l'edge computing pour analyser les signes vitaux localement, en fournissant des alertes immédiates en cas de conditions critiques, améliorant ainsi les soins aux patients, comme nous l'avons vu dans Vision AI in healthcare.

Edge Computing vs. termes apparentés

• L'informatique en nuage: La principale différence réside dans l'emplacement du calcul. L'informatique en nuage s'appuie sur des centres de données centralisés et distants offrant une vaste évolutivité et un vaste stockage, idéal pour l'entraînement de grands modèles ML ou le traitement par lots. L'Edge computing se concentre sur le traitement décentralisé et local pour les besoins à faible latence et en temps réel. Souvent, une approche hybride est utilisée, où les modèles sont formés dans le cloud et déployés à la périphérie pour l'inférence. Découvre les options de formation des modèles dans le cloud avec Ultralytics HUB.
• Edge AI: bien qu'étroitement liée, l 'Edge AI fait spécifiquement référence à l'exécution d'algorithmes d'IA et de modèles ML directement sur les appareils de périphérie. L'Edge computing fournit l'infrastructure plus large (matériel, réseau, capacités de traitement) qui permet l'Edge AI. Considère l'edge computing comme la scène, et l'Edge AI comme la performance qui se produit sur cette scène. En savoir plus sur la façon dont l'Edge AI et l'edge computing alimentent l'intelligence en temps réel.
• Fog Computing (informatique dans le brouillard) : Souvent utilisé de façon interchangeable avec le edge computing, le fog computing fait généralement référence à une couche de ressources de calcul située entre l'extreme edge (appareils) et le cloud centralisé, agissant comme un hub de traitement intermédiaire. L'edge computing est généralement considéré comme un concept plus large englobant le calcul n'importe où en dehors du nuage central.

Technologies habilitantes

Le déploiement efficace de modèles ML à la périphérie nécessite souvent des optimisations matérielles et logicielles spécifiques.

• Matériel: Les appareils vont des microcontrôleurs et systèmes sur puce (SoC) de faible puissance comme le Raspberry Pi à des systèmes intégrés plus puissants comme les cartes NVIDIA Jetson, équipées d'accélérateurs d'IA spécialisés. Voir les guides pour le déploiement sur NVIDIA Jetson ou Raspberry Pi.
• Logiciels/Frameworks: Techniques d'optimisation des modèles telles que la quantification et l'élagage, ainsi que des moteurs d'inférence optimisés tels que OpenVINO d'Intel ou NVIDIA TensorRTsont essentielles pour faire fonctionner efficacement des modèles complexes sur du matériel de pointe aux ressources limitées. Explore l'intégration d'Ultralytics avec OpenVINO et TensorRT. Diverses options de déploiement de modèles existent pour faciliter ce processus.

L'Edge computing est fondamental pour libérer le potentiel de l'IA et de la ML en temps réel dans diverses industries, en permettant des applications intelligentes plus rapides, plus efficaces et plus privées directement là où elles sont le plus nécessaires.