Edge Computing

Warum Edge Computing für KI/ML wichtig ist

Edge Computing ist vor allem im Bereich der künstlichen Intelligenz (KI) und der künstlichen Intelligenz (ML) von Bedeutung, insbesondere für Computer Vision (CV) Aufgaben. Viele KI-Anwendungen erfordern die sofortige Verarbeitung von Sensordaten (z. B. Bilder oder Videoströme), um zeitnahe Entscheidungen zu treffen. Die Übermittlung großer Datenmengen in die Cloud führt zu Verzögerungen(Latenz), die für Echtzeit-Inferenzszenarien nicht akzeptabel sind. Edge Computing schafft hier Abhilfe, indem es ML-Modelle ermöglicht, wie z. B. Ultralytics YOLO Modelle zur Objekterkennung, direkt auf oder in der Nähe der Datenquelle ausgeführt werden. Dies verkürzt die Reaktionszeiten erheblich, spart Netzwerkbandbreite und kann den Datenschutz verbessern, da sensible Informationen lokalisiert bleiben. Die Entwicklung leistungsfähiger und effizienter Hardware wie GPUs und spezieller Beschleuniger wie TPUs, die für Edge-Geräte entwickelt wurden, fördert diesen Trend weiter. Hier erfährst du mehr über den Einsatz von Computer-Vision-Anwendungen auf Edge-AI-Geräten.

Real-World AI/ML Anwendungen

Edge Computing ermöglicht eine breite Palette innovativer KI/ML-Anwendungen:

1. Autonome Fahrzeuge: Autos nutzen Edge Computing, um Daten von Kameras, LiDAR und anderen Sensoren in Echtzeit zu verarbeiten. Dies ermöglicht die sofortige Erkennung von Objekten, Pfadplanung und Kollisionsvermeidung, ohne auf eine möglicherweise langsame oder nicht verfügbare Cloud-Verbindung angewiesen zu sein. Erfahre mehr über KI-Lösungen in der Automobilindustrie.
2. Industrielles IoT und intelligente Fertigung: Fabriken setzen Edge-Geräte ein, um Maschinen mit Hilfe von Computer Vision für die Qualitätskontrolle oder vorausschauende Wartung zu überwachen. Die Analyse von Sensordaten vor Ort ermöglicht sofortige Warnungen und Anpassungen und verbessert so die Effizienz und Sicherheit. Erfahre mehr über KI in der Fertigung.
3. Intelligenter Einzelhandel: Edge-Geräte analysieren Kamerabilder in den Geschäften zur Regalüberwachung, zur Analyse des Kundenverhaltens oder zur Verwaltung von Warteschlangen und optimieren die Abläufe, ohne umfangreiches Videomaterial zu übertragen. Erfahre, wie KI für eine intelligentere Bestandsverwaltung im Einzelhandel genutzt werden kann.
4. Überwachung im Gesundheitswesen: Wearable Devices und Monitore am Krankenbett können mit Hilfe von Edge Computing die Vitalwerte lokal analysieren und bei kritischen Zuständen sofortige Warnungen ausgeben, um die Patientenversorgung zu verbessern, wie in Vision AI im Gesundheitswesen beschrieben.

Edge Computing vs. verwandte Begriffe

• Cloud Computing: Der Hauptunterschied besteht darin, wo die Berechnungen stattfinden. Cloud Computing stützt sich auf zentralisierte, entfernte Rechenzentren, die eine enorme Skalierbarkeit und Speicherkapazität bieten und ideal für das Training großer ML-Modelle oder die Stapelverarbeitung sind. Beim Edge Computing liegt der Schwerpunkt auf dezentraler, lokaler Verarbeitung für niedrige Latenzzeiten und Echtzeitanforderungen. Oft wird ein hybrider Ansatz verwendet, bei dem die Modelle in der Cloud trainiert und für die Schlussfolgerungen in der Edge-Umgebung eingesetzt werden. Entdecke die Optionen für das Training von Modellen in der Cloud mit Ultralytics HUB.
• Edge AI: Obwohl eng verwandt, bezieht sich Edge AI speziell auf die Ausführung von KI-Algorithmen und ML-Modellen direkt auf Edge-Geräten. Edge Computing stellt die breitere Infrastruktur (Hardware, Netzwerke, Verarbeitungsfunktionen) bereit, die Edge AI ermöglicht. Betrachte Edge Computing als Bühne und Edge AI als die Leistung, die auf dieser Bühne stattfindet. Lies mehr darüber, wie Edge AI und Edge Computing Echtzeitintelligenz ermöglichen.
• Fog Computing: Der Begriff "Fog Computing" wird oft synonym mit "Edge Computing" verwendet und bezieht sich auf eine Schicht von Rechenressourcen, die sich zwischen dem "Extreme Edge" (Geräte) und der zentralen Cloud befindet und als zwischengeschalteter Rechenknoten fungiert. Edge Computing wird im Allgemeinen als ein breiteres Konzept betrachtet, das Berechnungen überall außerhalb der zentralen Cloud umfasst.

Ermöglichende Technologien

Der effektive Einsatz von ML-Modellen am Edge erfordert oft spezielle Hardware- und Software-Optimierungen.

• Hardware: Die Geräte reichen von stromsparenden Mikrocontrollern und System-on-Chips (SoCs) wie dem Raspberry Pi bis hin zu leistungsfähigeren eingebetteten Systemen wie NVIDIA Jetson Boards, die mit speziellen KI-Beschleunigern ausgestattet sind. Siehe Anleitungen für den Einsatz auf NVIDIA Jetson oder Raspberry Pi.
• Software/Frameworks: Modelloptimierungstechniken wie Quantisierung und Pruning sowie optimierte Inferenz-Engines wie OpenVINO vonIntel oder NVIDIA TensorRTsind entscheidend für die effiziente Ausführung komplexer Modelle auf ressourcenbeschränkter Edge-Hardware. Erforsche die Integration vonUltralytics mit OpenVINO und TensorRT. Um diesen Prozess zu erleichtern, gibt es verschiedene Optionen für die Modellbereitstellung.

Edge Computing ist von grundlegender Bedeutung, um das Potenzial von Echtzeit-KI und ML in verschiedenen Branchen zu erschließen und schnellere, effizientere und privatere intelligente Anwendungen direkt dort zu ermöglichen, wo sie am meisten gebraucht werden.