Aktives Lernen

Wie aktives Lernen funktioniert

Der Active Learning-Prozess folgt in der Regel einem iterativen Zyklus, der es dem Modell ermöglicht, sich schrittweise mit gezielten Daten zu verbessern:

1. Erstes Modelltraining: Ein Modell, wie z.B. ein Ultralytics YOLO Modell zur Objekterkennung oder Bildsegmentierung, wird auf einem kleinen, anfänglich beschrifteten Datensatz trainiert.
2. Abfrage von nicht beschrifteten Daten: Das trainierte Modell wird verwendet, um Vorhersagen(Schlussfolgerungen) aus einem Pool von unmarkierten Daten zu treffen.
3. Anwendung der Abfragestrategie: Eine Abfragestrategie analysiert die Vorhersagen des Modells (z. B. auf der Grundlage der Vorhersagezuverlässigkeit oder -unsicherheit), um die informativsten unbeschrifteten Datenpunkte auszuwählen - also diejenigen, bei denen sich das Modell am wenigsten sicher ist oder von denen es erwartet, dass sie die meisten neuen Informationen liefern.
4. Orakel-Beschriftung: Die ausgewählten Datenpunkte werden einem menschlichen Annotator (dem Orakel) zur Beschriftung vorgelegt. Eine effektive Datenerfassung und Beschriftung ist hier entscheidend.
5. Retraining des Modells: Die neu beschrifteten Daten werden dem Trainingssatz hinzugefügt und das Modell wird mit diesem erweiterten Datensatz neu trainiert (oder feinabgestimmt).
6. Iteration: Der Zyklus wird ab Schritt 2 wiederholt, bis ein gewünschtes Leistungsniveau erreicht ist, das Budget für die Kennzeichnung erschöpft ist oder keine aussagekräftigen Proben mehr übrig sind.

Abfragestrategien

Die Effektivität von Active Learning hängt stark von der Abfragestrategie ab - dem Algorithmus, der verwendet wird, um auszuwählen, welche unmarkierten Datenpunkte als nächstes markiert werden sollen. Ziel ist es, die Stichproben auszuwählen, die nach der Beschriftung wahrscheinlich die größte Verbesserung der Modellleistung bewirken werden. Zu den gängigen Strategien gehören:

• Uncertainty Sampling: Wählt Instanzen aus, bei denen das Modell am wenigsten Vertrauen in seine Vorhersage hat. Dies wird oft anhand der Vorhersagewahrscheinlichkeit, der Entropie oder der Spanne zwischen den besten Vorhersagen gemessen.
• Query-by-Committee (QBC): Verwendet ein Ensemble von Modellen. Die Fälle, in denen sich die Ausschussmitglieder bei der Vorhersage am meisten uneinig sind, werden für die Kennzeichnung ausgewählt.
• Erwartete Modelländerung: Wählt die Instanzen aus, die die größte Änderung an den Parametern oder Gradienten des Modells verursachen würden, wenn ihre Bezeichnungen bekannt wären.
• Dichtheitsbasierte Ansätze: Priorisiert Instanzen, die nicht nur unsicher, sondern auch repräsentativ für die zugrunde liegenden Datenverteilungen sind.

Einen umfassenden Überblick über die Strategien findest du in Ressourcen wie Burr Settles' Active Learning Literaturübersicht.

Relevanz und Nutzen

Active Learning reduziert den Aufwand und die Kosten, die mit der Datenbeschriftung verbunden sind, die oft ein großer Engpass bei der Entwicklung robuster Deep Learning-Modelle (DL) ist, erheblich. Durch die strategische Fokussierung der Annotation können Teams:

• Höhere Genauigkeit mit weniger Daten erreichen: Erzielen Sie bei gleichem Kennzeichnungsbudget eine bessere Modellleistung im Vergleich zu Stichproben.
• Reduziere die Kosten für die Beschriftung: Minimiere den Zeit- und Ressourcenaufwand für manuelle Beschriftungen.
• Beschleunige die Modellentwicklung: Erreiche das gewünschte Leistungsniveau schneller, indem du die aussagekräftigsten Daten priorisierst. Erfahre, wie Active Learning die Entwicklung von Computer Vision beschleunigt.
• Die Robustheit des Modells verbessern: Der Fokus auf mehrdeutige oder schwierige Beispiele kann dazu beitragen, dass Modelle besser verallgemeinert werden können.

Anwendungen in der realen Welt

Aktives Lernen wird in verschiedenen Bereichen eingesetzt, in denen gelabelte Daten eine Einschränkung darstellen:

• Medizinische Bildgebung: Bei Aufgaben wie der Tumorerkennung mit YOLO ist die Zeit der Radiologen wertvoll. Aktives Lernen wählt die mehrdeutigsten Scans zur Überprüfung aus und optimiert so den Einsatz von Expertenressourcen. Dies ist entscheidend für die Entwicklung effektiver KI-Lösungen im Gesundheitswesen.
• Natürliche Sprachverarbeitung (NLP): Bei Aufgaben wie der Stimmungsanalyse oder der Erkennung von benannten Entitäten (Named Entity Recognition, NER) verbessert die Identifizierung informativer Textproben (z. B. solche mit mehrdeutigen Stimmungen oder seltenen Entitäten) für die Beschriftung die Modellgenauigkeit effizient. Tools von Plattformen wie Hugging Face profitieren oft von solchen Techniken.
• Autonome Fahrzeuge: Die Auswahl anspruchsvoller oder seltener Fahrszenarien (z. B. ungewöhnliche Wetterbedingungen, komplexe Kreuzungen) aus riesigen Mengen unbeschrifteter Fahrdaten für die Beschriftung trägt zur Verbesserung der Sicherheit und Zuverlässigkeit autonomer Fahrsysteme bei.
• Satellitenbildanalyse: Die Identifizierung bestimmter Merkmale oder Veränderungen in großen Satellitenbilddatensätzen kann beschleunigt werden, indem das Modell unsichere Regionen zur Überprüfung durch Experten abfragt.

Aktives Lernen vs. verwandte Konzepte

Es ist wichtig, Active Learning von anderen Lernparadigmen zu unterscheiden, die ebenfalls mit unmarkierten Daten arbeiten:

• Semi-Supervised Learning: Verwendet beim Modelltraining gleichzeitig beschriftete und unbeschriftete Daten. Im Gegensatz zum aktiven Lernen werden hier alle verfügbaren unmarkierten Daten passiv genutzt, anstatt bestimmte Instanzen gezielt nach Markierungen abzufragen.
• Selbstüberwachtes Lernen: Lernt Repräsentationen aus unmarkierten Daten, indem es Aufgaben im Vorfeld erstellt (z. B. die Vorhersage eines maskierten Teils eines Bildes). Es benötigt keine menschlichen Anmerkungen während der Pre-Trainingsphase, wohingegen Active Learning auf ein Orakel für Labels angewiesen ist.
• Verstärkungslernen: Lernt durch Versuch und Irrtum durch Interaktionen mit der Umgebung und erhält Belohnungen oder Bestrafungen für Aktionen. Es beinhaltet keine Abfrage von expliziten Kennzeichnungen wie beim aktiven Lernen.
• Föderiertes Lernen: Konzentriert sich auf das Trainieren von Modellen auf dezentralen Geräten, während die Daten lokal gehalten werden, um vor allem den Datenschutz zu gewährleisten. Aktives Lernen: Konzentriert sich auf die effiziente Erfassung von Labels. Diese Techniken können manchmal auch kombiniert werden.

Tools und Umsetzung

Bei der Umsetzung von Active Learning geht es oft darum, ML-Modelle mit Annotationstools zu integrieren und den Datenworkflow zu verwalten. Frameworks und Bibliotheken wie scikit-learn bieten einige Funktionalitäten, während es für bestimmte Aufgaben spezialisierte Bibliotheken gibt. Annotationssoftware wie Label Studio kann in Active Learning-Pipelines integriert werden und ermöglicht es Annotatoren, Labels für abgefragte Proben zu vergeben. Plattformen wie DagsHub bieten Tools für den Aufbau und die Verwaltung dieser Pipelines, wie in ihrem YOLO VISION 2023-Vortrag über DagsHub Active Learning Pipelines beschrieben. Eine effektive Verwaltung der sich entwickelnden Datensätze und trainierten Modelle ist von entscheidender Bedeutung, und Plattformen wie Ultralytics HUB bieten eine Infrastruktur für die Organisation dieser Ressourcen während des gesamten Entwicklungszyklus. Erkunde das Ultralytics GitHub Repository und werde Mitglied der Ultralytics Community für Diskussionen und Ressourcen zur Implementierung fortgeschrittener ML-Techniken.