Exportieren und Optimieren Ultralytics YOLOv8 für die Inferenz auf Intel OpenVINO

In diesem Blogpost werden wir einen Blick darauf werfen, wie du dein vortrainiertes oder benutzerdefiniertes Modell exportieren und optimieren kannst. Ultralytics YOLOv8 Modell für die Inferenz mit OpenVINO exportieren und optimieren kannst. Wenn du ein Intel-basiertes System verwendest, egal ob es sich um CPU oder GPU handelt, zeigt dir dieser Leitfaden, wie du dein Modell mit minimalem Aufwand erheblich beschleunigen kannst.

Warum YOLOv8 mit OpenVINO optimieren?

Die Optimierung deines YOLOv8 Modells mit OpenVINO kann die Geschwindigkeit bei Inferenzaufgaben bis zu 3x erhöhen, vor allem, wenn du eine Intel CPU verwendest. Dieser Leistungsschub kann bei Echtzeitanwendungen, von der Objekterkennung bis hin zu Segmentierungs- und Sicherheitssystemen, einen großen Unterschied ausmachen.

Schritte zum Exportieren und Optimieren deines YOLOv8 Modells

Den Prozess verstehen

Das Wichtigste zuerst: Lass uns den Prozess aufschlüsseln. Wir werden ein Modell von PyTorch in ONNX konvertieren und es dann mit OpenVINO optimieren. Dieser Prozess umfasst ein paar einfache Schritte und kann auf verschiedene Modelle und Formate angewendet werden, z. B. TensorFlow, PyTorch, Caffe und ONNX.

Das Modell exportieren

Ein Blick in dieDokumentation von Ultralytics zeigt uns, dass wir für den Export eines YOLOv8 Modells die Exportmethode des Ultralytics Frameworks verwenden müssen. Mit dieser Methode können wir unser Modell von PyTorch nach ONNXzu konvertieren und es schließlich für OpenVINO zu optimieren. Das Ergebnis ist ein Modell, das deutlich schneller läuft und die leistungsstarke Hardware von Intel nutzt.

Installieren von Abhängigkeiten

Bevor du das Export-Skript ausführst, musst du sicherstellen, dass alle notwendigen Abhängigkeiten installiert sind. Dazu gehören die Bibliothek Ultralytics , ONNX und OpenVINO. Die Installation dieser Pakete ist ein einfacher Prozess, der mit pip, dem Paketinstallationsprogramm Python , durchgeführt werden kann.

Ausführen des Export-Skripts

Sobald deine Umgebung eingerichtet ist, kannst du dein Export-Skript ausführen. Dieses Skript wandelt dein PyTorch Modell in ONNX und dann in OpenVINO um. Der Prozess ist unkompliziert und beinhaltet den Aufruf einer einzigen Funktion, die den Export abwickelt. Das Ultralytics Framework macht es dir leicht, deine Modelle zu konvertieren und zu optimieren, damit du mit minimalem Aufwand die beste Leistung erzielst.

Leistung im Vergleich

Nach dem Exportieren ist es wichtig, die Leistung des ursprünglichen und des optimierten Modells zu vergleichen. Wenn du die Inferenzzeit beider Modelle vergleichst, kannst du die Leistungssteigerung deutlich erkennen. In der Regel verkürzt das Modell OpenVINO die Inferenzzeit im Vergleich zum ursprünglichen Modell PyTorch deutlich. Das gilt besonders für größere Modelle, bei denen der Leistungszuwachs am deutlichsten ist.

Anwendung und Vorteile in der realen Welt

Die Optimierung von YOLOv8 Modellen mit OpenVINO ist besonders vorteilhaft für Anwendungen, die Echtzeitverarbeitung erfordern. Hier sind ein paar Beispiele:

• Sicherheitssysteme: Durch die Erkennung von Objekten in Echtzeit kann das Sicherheitspersonal sofort alarmiert werden, was die Sicherheit und Reaktionsfähigkeit erhöht.
• Automatisierte Fahrzeuge: Schnellere Inferenzgeschwindigkeiten verbessern die Reaktionsfähigkeit von autonomen Fahrsystemen und machen sie sicherer und zuverlässiger.
• Gesundheitswesen: Eine schnelle Bildverarbeitung für Diagnoseinstrumente kann Leben retten, da sie schnellere Ergebnisse liefert und ein rechtzeitiges Eingreifen ermöglicht.

Wenn du diese Optimierungen umsetzt, verbesserst du nicht nur die Leistung, sondern auch die Zuverlässigkeit und Effizienz deiner Anwendungen. Das kann zu einem besseren Nutzererlebnis, höherer Produktivität und innovativeren Lösungen führen.

Einpacken

Das Exportieren und Optimieren eines YOLOv8 Modells für OpenVINO ist eine leistungsstarke Möglichkeit, die Intel Hardware für schnellere und effizientere KI-Anwendungen zu nutzen. Mit ein paar einfachen Schritten kannst du die Leistung deines Modells verbessern und es effektiv auf reale Szenarien anwenden.

Schau dir unbedingt weitere Tutorials und Leitfäden von Ultralytics an, um deine KI-Projekte weiter zu verbessern. Besuche unser GitHub-Repository und werde Mitglied der Ultralytics Community, um weitere Einblicke und Updates zu erhalten. Lasst uns gemeinsam innovativ sein!

Vergiss nicht, dass es bei der Optimierung deiner Modelle nicht nur um Geschwindigkeit geht - es geht darum, neue Möglichkeiten zu erschließen und sicherzustellen, dass deine KI-Lösungen robust, effizient und bereit für die Zukunft sind. 

‍