Machine Learning Operations (MLOps)

Kernprinzipien von MLOps

MLOps basiert auf mehreren Grundprinzipien, um die einzigartige Komplexität von ML-Systemen zu bewältigen:

• Automatisierung: Automatisierung sich wiederholender Aufgaben wie Datenaufbereitung, Modelltraining, Validierung und Bereitstellung mithilfe von für ML angepassten Continuous Integration/Continuous Deployment (CI/CD)-Pipelines.
• Kollaboration: Förderung der Kommunikation und Zusammenarbeit zwischen Data Science-, Software Engineering- und Operations-Teams während des gesamten ML-Lebenszyklus.
• Versionierung: Implementierung einer Versionskontrolle für Daten, Code und Modelle, um Reproduzierbarkeit und Nachvollziehbarkeit zu gewährleisten. Werkzeuge wie DVC werden oft zusammen mit Git verwendet.
• Modellüberwachung: Kontinuierliche Überwachung der Modellleistung, der Datenqualität und des Betriebszustands in der Produktion, um Probleme wie Datenabweichungen oder Leistungseinbußen zu erkennen.
• Governance und Compliance: Sicherstellen, dass die Modelle den gesetzlichen Anforderungen, ethischen Richtlinien(KI-Ethik) und den Unternehmensrichtlinien in Bezug auf Datenschutz und Sicherheit entsprechen.

Der MLOps Lebenszyklus

Der MLOps-Lebenszyklus umfasst die gesamte Reise eines ML-Modells:

1. Datenmanagement: Ingesting, Validierung, Bereinigung(Data Cleaning) und Versionierung von Datensätzen( Anleitungen zurDatenkennzeichnung und -aufbereitung findest du in den Ultralytics Docs).
2. Modellentwicklung: Experimentieren mit verschiedenen Algorithmen, Feature Engineering und Architekturen, oft unter Verwendung von Frameworks wie PyTorch oder TensorFlow.
3. Modellschulung: Training von Modellen in großem Maßstab, möglicherweise unter Verwendung von verteiltem Training und Verwaltung von Experimenten mit Tools wie Weights & Biases oder MLflow. Die Abstimmung der Hyperparameter erfolgt oft automatisch.
4. Modellvalidierung: Bewertung der Modellleistung anhand von Metriken wie Genauigkeit oder mAP an Validierungsdaten.
5. Modellbereitstellung: Paketierung(Containerisierung mit Docker) und Bereitstellung von Modellen in Produktionsumgebungen, möglicherweise unter Verwendung von Orchestrierungsplattformen wie Kubernetes.
6. Modellüberwachung und Umschulung: Verfolgen der Live-Leistung, Erkennen von Drift oder Verfall und Auslösen von Retraining-Pipelines, wenn nötig. Die Beobachtbarkeit spielt hier eine wichtige Rolle.

MLOps vs. Verwandte Konzepte

• MLOps vs. AutoML: Während MLOps das gesamte End-to-End-Lebenszyklusmanagement abdeckt, konzentriert sich Automated Machine Learning (AutoML) speziell auf die Automatisierung der Modellierungsschritte (Datenaufbereitung, Feature Engineering, Modellauswahl, Hyperparameter-Tuning). AutoML-Tools können eine Komponente innerhalb eines MLOps-Workflows sein.
• MLOps vs. Beobachtungsfähigkeit: Die Beobachtungsfähigkeit ist eine wichtige Fähigkeit innerhalb einer MLOps-Strategie. Sie stellt die Werkzeuge und Verfahren (Logging, Metriken, Tracing) zur Verfügung, die erforderlich sind, um den internen Zustand und das Verhalten der eingesetzten ML-Systeme zu verstehen und eine effektive Überwachung und Fehlerbehebung zu ermöglichen.

Anwendungen in der realen Welt

MLOps-Praktiken sind für die Verwaltung komplexer ML-Systeme in der Produktion unerlässlich:

1. Empfehlungssysteme: Unternehmen wie Netflix oder Spotify nutzen MLOps, um Empfehlungsmodelle auf der Grundlage neuer Nutzerinteraktionsdaten kontinuierlich neu zu trainieren, verschiedene Modellversionen in A/B-Tests zu testen, Engagement-Metriken zu überwachen und leistungsschwache Modelle schnell zurückzusetzen. So wird sichergestellt, dass die Empfehlungen relevant und personalisiert bleiben.
2. Betrugsaufdeckung: Finanzinstitute setzen MLOps-Pipelines ein, um Betrugserkennungsmodelle zu verwalten. Dazu gehört die Überwachung der Transaktionsdaten auf Drift, die automatische Anpassung der Modelle an neue Betrugsmuster, die Sicherstellung einer geringen Inferenzlatenz für die Echtzeiterkennung und die Pflege von Prüfprotokollen zur Einhaltung gesetzlicher Vorschriften. Ultralytics YOLO Modelle, die in visuellen Inspektionssystemen verwendet werden, die in die Betrugserkennung einfließen können, profitieren ebenfalls von MLOps zur Bereitstellung und Überwachung.

Tools und Plattformen

Eine Vielzahl von Tools unterstützt verschiedene Phasen des MLOps-Lebenszyklus:

• Experiment Tracking & Versioning: MLflow, Weights & BiasesDVC, ClearML.
• Workflow-Orchestrierung: Kubeflow Pipelines, Apache Airflow.
• Model Serving: KFServing, BentoML, NVIDIA Triton Inference Server.
• Überwachung: Grafana, Prometheus, WhyLabs.
• End-to-End-Plattformen: Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning, Ultralytics HUB.

Die Umsetzung der MLOps-Prinzipien hilft Unternehmen, KI-Systeme effektiver zu entwickeln, einzusetzen und zu verwalten und die Lücke zwischen experimenteller Forschung und zuverlässigen Produktionsanwendungen zu schließen.