Glossar

Beobachtbarkeit

Entdecke, wie Beobachtbarkeit KI/ML-Systeme wie Ultralytics YOLO verbessert. Gewinnen Sie Erkenntnisse, optimieren Sie die Leistung und stellen Sie die Zuverlässigkeit in realen Anwendungen sicher.

Trainiere YOLO Modelle einfach
mit Ultralytics HUB

Mehr erfahren

Die Beobachtbarkeit liefert entscheidende Einblicke in das Verhalten und die Leistung komplexer Systeme, was besonders im dynamischen Bereich der künstlichen Intelligenz (KI) und des maschinellen Lernens (ML) wichtig ist. Für Nutzer, die mit hochentwickelten Modellen wie Ultralytics YOLO arbeiten, ist das Verständnis des internen Zustands der eingesetzten Anwendungen anhand ihrer externen Ergebnisse der Schlüssel zur Aufrechterhaltung der Zuverlässigkeit, zur Optimierung der Leistung und zur Gewährleistung der Vertrauenswürdigkeit.

Was ist Beobachtbarkeit?

Beobachtbarkeit ist die Fähigkeit, die internen Zustände eines Systems zu messen und zu verstehen, indem man seine Ausgaben wie Logs, Metriken und Traces untersucht. Im Gegensatz zum traditionellen Monitoring, das sich in der Regel auf vordefinierte Dashboards und bekannte Fehlermodi (z. B. CPU , Fehlerraten) konzentriert, versetzt die Beobachtbarkeit Teams in die Lage, das Systemverhalten proaktiv zu erforschen und neue Probleme zu diagnostizieren - auch solche, die während der Entwicklung nicht vorhergesehen wurden. Im Kontext von MLOps ermöglicht sie es, tiefergehende Fragen zu stellen, warum sich ein System auf eine bestimmte Weise verhält, was für die iterative Entwicklung und den Einsatz von ML-Modellen entscheidend ist.

Warum ist Beobachtbarkeit in der KI/ML wichtig?

Die Komplexität und die häufige "Blackbox"-Natur von Deep-Learning-Modellen machen die Beobachtbarkeit unerlässlich. Die wichtigsten Gründe dafür sind:

  • Komplexe Probleme beheben: Identifizierung der Ursache für subtile Leistungseinbußen oder unerwartete Vorhersagen in Modellen wie Ultralytics YOLOv8.
  • Erkennen von Daten- und Konzeptverschiebungen: Überwachung der Modelleingaben und -ausgaben, um Verschiebungen in der Datenverteilung(Data Drift) oder Veränderungen in den zugrunde liegenden Konzepten, die das Modell gelernt hat, zu erkennen, die die Genauigkeit beeinträchtigen können.
  • Leistungsoptimierung: Verstehen von Engpässen in der Inferenzpipeline oder der Ressourcennutzung während des Trainings und der Inferenz.
  • Sicherstellung von Zuverlässigkeit und Robustheit: Kontinuierliche Überprüfung, ob die Modelle in Produktionsumgebungen wie erwartet funktionieren, was für Anwendungen in autonomen Fahrzeugen oder der medizinischen Bildanalyse entscheidend ist.
  • Vertrauen und Erklärbarkeit aufbauen: Einblicke in das Verhalten von Modellen geben und einen Beitrag zu den Bemühungen um erklärbare KI (XAI) leisten.

Beobachtbarkeit vs. Überwachung

Beobachtbarkeit und Überwachung sind zwar verwandt, unterscheiden sich aber in Umfang und Zweck. Bei der Überwachung werden Daten zu vordefinierten Metriken gesammelt und analysiert, um den Zustand des Systems mit bekannten Benchmarks zu vergleichen. Observability hingegen nutzt die Datenausgaben (Logs, Metriken, Traces - oft als die"drei Säulen der Observability" bezeichnet), um eine tiefer gehende, explorative Analyse zu ermöglichen, die es dir ermöglicht, das "Warum" hinter den Systemzuständen zu verstehen, insbesondere unerwartete Zustände. Stell dir vor, dass du bei der Überwachung auf ein Dashboard schaust, während Beobachtbarkeit bedeutet, dass du die Werkzeuge hast, um jede Anomalie auf diesem Dashboard oder anderswo zu untersuchen.

Anwendungen in der realen Welt

  1. Diagnose von Fehlern bei der Objekterkennung: Ein Objekterkennungsmodell für die Regalüberwachung im Einzelhandel mit Ultralytics YOLO11 plötzlich anfängt, Gegenstände zu vermissen. Observability-Tools korrelieren Metriken, die Veränderungen in der Bildhelligkeit (Drift der Eingabedaten) anzeigen, mit Protokollen, die niedrigere Konfidenzwerte anzeigen, und machen so Umgebungsveränderungen (z. B. neue Ladenbeleuchtung) als Ursache ausfindig, um Strategien zur Umschulung oder Datenerweiterung zu entwickeln.
  2. Verbesserung von Empfehlungssystemen: Ein Streaming-Dienst nutzt Observability, um Nutzeranfragen durch seine Empfehlungsmaschine zu verfolgen. Bei bestimmten Nutzersegmenten werden erhöhte Latenzzeiten (Metriken) festgestellt. Traces zeigen einen Engpass in einem bestimmten Microservice bei der Abfrage von Merkmalen auf. Die Logs bestätigen höhere Fehlerquoten für diesen Dienst und führen zu gezielten Optimierungsmaßnahmen, um das Nutzererlebnis zu verbessern.

Tools und Plattformen

Zur Umsetzung der Beobachtbarkeit müssen oft verschiedene Tools integriert werden. Allzweckplattformen wie Datadog, Grafana und Prometheus werden häufig für die Erfassung und Visualisierung von Metriken und Protokollen verwendet. Standards wie OpenTelemetry helfen dabei, Anwendungen zu instrumentieren und Trace-Daten zu erzeugen. Im Bereich ML werden Plattformen wie Weights & BiasesMLflow und Ultralytics HUB spezielle Funktionen für die Nachverfolgung von Experimenten, die Überwachung der Modellleistung und die Verwaltung des ML-Lebenszyklus, wobei wichtige Beobachtungsprinzipien für die Modellüberwachung und -wartung berücksichtigt werden.

Alles lesen