Verstehen von few-shot, zero-shot und transfer learning

Systeme der künstlichen Intelligenz (KI) können komplexe Aufgaben wie das Erkennen von Gesichtern, das Klassifizieren von Bildern und das Fahren von Autos mit minimaler menschlicher Beteiligung bewältigen. Sie tun dies, indem sie Daten untersuchen, Muster erkennen und diese Muster nutzen, um Vorhersagen oder Entscheidungen zu treffen. Mit den Fortschritten der KI werden wir Zeuge immer ausgefeilterer Methoden, mit denen KI-Modelle lernen, sich anpassen und Aufgaben mit bemerkenswerter Effizienz erledigen können.

Computer Vision zum Beispiel ist ein Zweig der KI, der sich darauf konzentriert, Maschinen in die Lage zu versetzen, visuelle Informationen aus der Welt zu interpretieren und zu verstehen. Die herkömmliche Entwicklung von Bildverarbeitungsmodellen stützt sich in hohem Maße auf große, beschriftete Datensätze für das Training. Das Sammeln und Beschriften solcher Daten kann zeit- und kostenintensiv sein. 

Um diese Herausforderungen zu bewältigen, haben Forscher innovative Ansätze wie das few-shot learning (FSL), das aus wenigen Beispielen lernt, das zero-shot learning (ZSL), das ungesehene Objekte identifiziert, und das transfer learning (TL), das das Wissen aus vorher trainierten Modellen auf neue Aufgaben anwendet, eingeführt.

In diesem Artikel werden wir untersuchen, wie diese Lernparadigmen funktionieren, ihre wichtigsten Unterschiede herausstellen und uns praktische Anwendungen ansehen. Los geht's!

Ein Überblick über Lernparadigmen

Wir wollen uns ansehen, was "few-shot learning", "zero-shot learning" und "transfer learning" in Bezug auf das Computersehen sind und wie sie funktionieren. 

Lernen mit wenigen Schüssen

Beim Few-Shot-Lernen lernen Systeme, neue Objekte anhand einer kleinen Anzahl von Beispielen zu erkennen. Wenn du einem Modell zum Beispiel ein paar Bilder von einem Pinguin, Pelikan und Papageientaucher zeigst (diese kleine Gruppe wird "Support Set" genannt), lernt es, wie diese Vögel aussehen. 

Wenn du dem Modell später ein neues Bild zeigst, z. B. einen Pinguin, vergleicht es dieses neue Bild mit den Bildern in seiner Unterstützungsgruppe und wählt das am besten passende aus. Wenn es schwierig ist, eine große Menge an Daten zu sammeln, ist diese Methode von Vorteil, weil das System auch mit nur wenigen Beispielen lernen und sich anpassen kann.

‍

Null-Schuss-Lernen

Beim Zero-Shot-Learning können Maschinen Dinge erkennen, die sie noch nie zuvor gesehen haben, ohne dass sie Beispiele dafür brauchen. Es nutzt semantische Informationen, wie Beschreibungen, um Verbindungen herzustellen.

Wenn eine Maschine zum Beispiel über Tiere wie Katzen, Löwen und Pferde gelernt hat, indem sie Merkmale wie "klein und flauschig", "große Wildkatze" oder "langes Gesicht" verstanden hat, kann sie dieses Wissen nutzen, um ein neues Tier wie einen Tiger zu identifizieren. Selbst wenn sie noch nie einen Tiger gesehen hat, kann sie ihn mit einer Beschreibung wie "ein löwenähnliches Tier mit dunklen Streifen" richtig identifizieren. Das macht es für Maschinen einfacher zu lernen und sich anzupassen, ohne dass sie viele Beispiele brauchen.

‍

Lernen übertragen

Transferlernen ist ein Lernparadigma, bei dem ein Modell das, was es bei einer Aufgabe gelernt hat, zur Lösung einer ähnlichen, neuen Aufgabe nutzt. Diese Technik ist besonders nützlich, wenn es um Computer-Vision-Aufgaben wie Objekterkennung, Bildklassifizierung und Mustererkennung geht. 

Im Bereich des Computersehens kann ein vorab trainiertes Modell beispielsweise allgemeine Objekte wie Tiere erkennen und dann durch Transfer-Lernen feinabgestimmt werden, um spezifische Objekte wie verschiedene Hunderassen zu identifizieren. Durch die Wiederverwendung von Wissen aus früheren Aufgaben erleichtert das Transferlernen das Trainieren von Bildverarbeitungsmodellen auf kleineren Datensätzen und spart so Zeit und Mühe.

‍

Du fragst dich vielleicht, welche Art von Modellen das Transfer Learning unterstützen. Ultralytics YOLO11 ist ein großartiges Beispiel für ein Computer Vision Modell, das dies kann. Es ist ein hochmodernes Objekterkennungsmodell, das zunächst auf einem großen, allgemeinen Datensatz trainiert wird. Danach kann es auf einem kleineren, spezialisierten Datensatz für bestimmte Aufgaben feinabgestimmt und individuell trainiert werden.

Lernparadigmen im Vergleich

Nachdem wir nun über das Lernen mit wenigen Schüssen, das Lernen ohne Schüsse und das Transferlernen gesprochen haben, wollen wir sie vergleichen, um zu sehen, wie sie sich unterscheiden.

‍

Few-Shot-Lernen ist nützlich, wenn du nur eine kleine Menge an markierten Daten hast. Es ermöglicht es einem KI-Modell, aus nur wenigen Beispielen zu lernen. Beim Zero-Shot-Lernen hingegen werden keine gekennzeichneten Daten benötigt. Stattdessen werden Beschreibungen oder Kontext verwendet, um dem System zu helfen, neue Aufgaben zu bewältigen. Einen anderen Ansatz verfolgt das Transfer-Lernen, bei dem das Wissen von bereits trainierten Modellen genutzt wird, damit diese sich schnell und mit wenigen zusätzlichen Daten an neue Aufgaben anpassen können. Jede Methode hat ihre eigenen Stärken, abhängig von der Art der Daten und der Aufgabe, an der du arbeitest.

Anwendungen verschiedener Lernparadigmen in der realen Welt

Diese Lernparadigmen sind bereits in vielen Bereichen im Einsatz und lösen komplexe Probleme mit innovativen Lösungen. Schauen wir uns einmal genauer an, wie sie in der realen Welt angewendet werden können.

Seltene Krankheiten durch Lernen mit wenigen Schüssen diagnostizieren

Few-Shot-Learning ist ein entscheidender Faktor für das Gesundheitswesen, insbesondere für die medizinische Bildgebung. Es kann Ärzten helfen, seltene Krankheiten anhand weniger Beispiele oder sogar Beschreibungen zu diagnostizieren, ohne dass große Datenmengen benötigt werden. Das ist besonders nützlich, wenn die Datenmenge begrenzt ist, was oft der Fall ist, weil es schwierig sein kann, große Datensätze für seltene Krankheiten zu sammeln.

SHEPHERD nutzt zum Beispiel "few-shot learning" und biomedizinische Wissensgraphen, um seltene genetische Störungen zu diagnostizieren. Es ordnet Patienteninformationen wie Symptome und Testergebnisse einem Netzwerk aus bekannten Genen und Krankheiten zu. Das hilft, die wahrscheinliche genetische Ursache zu bestimmen und ähnliche Fälle zu finden, auch wenn die Datenlage begrenzt ist. 

‍

Verbesserte Erkennung von Pflanzenkrankheiten mit Zero-Shot-Learning

In der Landwirtschaft ist es wichtig, Pflanzenkrankheiten schnell zu erkennen, denn Verzögerungen bei der Erkennung können zu weitreichenden Ernteschäden, geringeren Erträgen und erheblichen finanziellen Verlusten führen. Herkömmliche Methoden stützen sich oft auf große Datensätze und Expertenwissen, das vor allem in abgelegenen oder ressourcenbeschränkten Gebieten nicht immer verfügbar ist. Hier kommen KI-Fortschritte wie das Zero-Shot-Learning ins Spiel.

Nehmen wir an, ein Landwirt baut Tomaten und Kartoffeln an und stellt Symptome wie vergilbte Blätter oder braune Flecken fest. Zero-Shot-Learning kann helfen, Krankheiten wie die Kraut- und Knollenfäule zu erkennen, ohne dass große Datensätze benötigt werden. Anhand von Beschreibungen der Symptome kann das Modell Krankheiten klassifizieren, die es vorher noch nicht gesehen hat. Dieser Ansatz ist schnell und skalierbar und ermöglicht es Landwirten, eine Vielzahl von Pflanzenkrankheiten zu erkennen. Er hilft ihnen, die Gesundheit ihrer Pflanzen effizienter zu überwachen, rechtzeitig Maßnahmen zu ergreifen und Verluste zu reduzieren.

‍

Autonome Fahrzeuge und Transferlernen

Autonome Fahrzeuge müssen sich oft an unterschiedliche Umgebungen anpassen, um sicher zu navigieren. Transferlernen hilft ihnen, sich mit Hilfe von Vorwissen schnell an neue Bedingungen anzupassen, ohne dass sie ihr Training von Grund auf neu beginnen müssen. In Kombination mit der Computer Vision, die den Fahrzeugen hilft, visuelle Informationen zu interpretieren, ermöglichen diese Technologien eine reibungslosere Navigation in unterschiedlichem Gelände und bei verschiedenen Wetterbedingungen, was das autonome Fahren effizienter und zuverlässiger macht.

Ein gutes Beispiel dafür ist ein Parkmanagementsystem, das Ultralytics YOLO11 zur Überwachung von Parkplätzen einsetzt. YOLO11, ein vortrainiertes Objekterkennungsmodell, kann mit Hilfe von Transfer-Lernen feinabgestimmt werden, um leere und belegte Parkplätze in Echtzeit zu erkennen. Indem das Modell auf einem kleineren Datensatz von Parkplatzbildern trainiert wird, lernt es, freie Plätze, volle Plätze und sogar reservierte Bereiche genau zu erkennen.

‍

In Verbindung mit anderen Technologien kann dieses System Fahrer/innen zum nächsten freien Parkplatz leiten und so Suchzeiten und Verkehrsstaus reduzieren. Transfer Learning macht dies möglich, indem es auf den bestehenden Objekterkennungsfähigkeiten von YOLO11aufbaut und sich so an die spezifischen Anforderungen der Parkraumbewirtschaftung anpassen kann, ohne bei Null anzufangen. Dieser Ansatz spart Zeit und Ressourcen und schafft gleichzeitig eine hocheffiziente und skalierbare Lösung, die den Parkbetrieb verbessert und das allgemeine Nutzererlebnis steigert.

Aufkommende Trends bei Lernparadigmen

Die Zukunft der Lernparadigmen im Bereich Computer Vision geht dahin, intelligentere und nachhaltigere KI-Systeme zu entwickeln. Ein wachsender Trend ist die Verwendung hybrider Ansätze, die Lernen mit wenigen Schüssen, Null-Schuss-Lernen und Transfer-Lernen kombinieren. Durch die Kombination der Stärken dieser Methoden können Modelle neue Aufgaben mit minimalen Daten lernen und ihr Wissen auf verschiedene Bereiche anwenden.

Ein interessantes Beispiel ist die Verwendung von angepassten Deep Embeddings zur Feinabstimmung von Modellen mit dem Wissen aus früheren Aufgaben und einer kleinen Menge neuer Daten, was die Arbeit mit begrenzten Datensätzen erleichtert. 

Auch das X-Shot-Lernen ist darauf ausgelegt, Aufgaben mit unterschiedlichen Datenmengen zu bewältigen. Es nutzt eine schwache Überwachung, bei der Modelle aus begrenzten oder verrauschten Bezeichnungen lernen, und klare Anweisungen, die ihnen helfen, sich schnell anzupassen, auch wenn nur wenige oder gar keine vorherigen Beispiele verfügbar sind. Diese hybriden Ansätze zeigen, wie die Integration verschiedener Lernmethoden KI-Systemen helfen kann, Herausforderungen effektiver zu bewältigen.

Die wichtigsten Erkenntnisse

Few-Shot-Lernen, Zero-Shot-Lernen und Transfer-Lernen adressieren jeweils spezifische Herausforderungen in der Computer Vision und sind daher für unterschiedliche Aufgaben geeignet. Welcher Ansatz der richtige ist, hängt von der jeweiligen Anwendung und der verfügbaren Datenmenge ab. Zum Beispiel funktioniert das few-shot learning gut bei begrenzten Daten, während das zero-shot learning gut geeignet ist, um mit ungesehenen oder unbekannten Klassen umzugehen.

In Zukunft wird die Kombination dieser Methoden zur Entwicklung hybrider Modelle, die Bild, Sprache und Audio integrieren, wahrscheinlich ein wichtiger Schwerpunkt sein. Diese Fortschritte sollen KI-Systeme flexibler und effizienter machen und sie in die Lage versetzen, komplexe Probleme zu bewältigen, was neue Möglichkeiten für Innovationen in diesem Bereich eröffnet.

Erfahre mehr über KI, indem du unserer Community beitrittst und dir unser GitHub-Repository ansiehst. Erfahre, wie KI in selbstfahrenden Autos und Computer Vision in der Landwirtschaft die Zukunft verändern wird. Schau dir die verfügbaren Optionen YOLO an, um loszulegen!