Alles, was du über erklärbare KI (XAI) wissen musst

Hast du schon einmal eine Antwort von einem Tool der künstlichen Intelligenz (KI) wie ChatGPT gesehen und dich gefragt, wie es zu dieser Schlussfolgerung gekommen ist? Dann kennst du das Problem der "Black Box" der KI. Dieser Begriff bezieht sich auf die Unklarheit darüber, wie KI-Modelle Daten verarbeiten und analysieren. Selbst für KI-Ingenieure und -Wissenschaftler, die regelmäßig mit hochmodernen KI-Algorithmen arbeiten, ist es schwierig, deren Funktionsweise vollständig zu verstehen. Tatsächlich verstehen nur 22% der IT-Fachleute die Fähigkeiten von KI-Tools wirklich. 

Die Ungewissheit darüber, wie KI-Modelle Entscheidungen treffen, kann riskant sein, besonders in kritischen Bereichen wie der Computer Vision im Gesundheitswesen und der KI im Finanzwesen. Es werden jedoch erhebliche Fortschritte gemacht, um diese Herausforderungen zu bewältigen und die Transparenz zu verbessern.

Die erklärbare KI (XAI) konzentriert sich ausschließlich darauf, dieses Problem zu lösen. Einfach ausgedrückt, handelt es sich dabei um eine Reihe von Prozessen und Methoden, die menschlichen Nutzern helfen, die Ergebnisse komplexer maschineller Lernalgorithmen zu verstehen und ihnen zu vertrauen. 

XAI kann Entwicklern dabei helfen, sicherzustellen, dass KI-Systeme wie erwartet funktionieren. Außerdem kann sie KI-Unternehmen dabei helfen, gesetzliche Vorgaben zu erfüllen. In diesem Artikel werden wir uns mit erklärbarer KI und ihren vielfältigen Anwendungsfällen beschäftigen. Los geht's!

Die Bedeutung von erklärbarer KI

Erklärbarkeit ist der Schlüssel zur Arbeit mit KI. Das gilt vor allem für den Teilbereich der KI, die Computer Vision, die in Branchen wie dem Gesundheitswesen weit verbreitet ist. Beim Einsatz von Bildverarbeitungsmodellen in solch sensiblen Branchen ist es wichtig, dass die Funktionsweise des Modells für alle transparent und interpretierbar ist. 

Die Interpretierbarkeit von Computer-Vision-Modellen hilft den Nutzern, besser zu verstehen, wie eine Vorhersage gemacht wurde und welche Logik dahinter steckt. Die Transparenz trägt dazu bei, indem sie die Funktionsweise des Modells für jeden verständlich macht, indem sie die Grenzen des Modells klar umreißt und sicherstellt, dass die Daten ethisch korrekt verwendet werden. Computer Vision kann zum Beispiel Radiologen dabei helfen, gesundheitliche Komplikationen auf Röntgenbildern effizient zu erkennen. 

‍

Ein Bildverarbeitungssystem, das einfach nur genau ist, reicht jedoch nicht aus. Das System muss auch in der Lage sein, seine Entscheidungen zu erklären. Angenommen, das System könnte zeigen, welche Teile des Bildes zu seinen Schlussfolgerungen geführt haben - dann wären alle Ergebnisse klarer. Ein solches Maß an Transparenz würde medizinischen Fachkräften helfen, ihre Ergebnisse zu überprüfen und sicherzustellen, dass die Patientenversorgung den medizinischen Standards entspricht. 

Ein weiterer Grund, warum Erklärbarkeit wichtig ist, ist, dass sie KI-Unternehmen rechenschaftspflichtig macht und das Vertrauen der Nutzer/innen stärkt. Vertrauenswürdige KI führt dazu, dass die Nutzer/innen darauf vertrauen, dass KI-Innovationen zuverlässig funktionieren, faire Entscheidungen treffen und verantwortungsvoll mit Daten umgehen. 

Wichtige erklärungsbedürftige KI-Techniken in der Computer Vision

Nachdem wir nun erörtert haben, warum Erklärbarkeit in der Computer Vision wichtig ist, wollen wir einen Blick auf die wichtigsten XAI-Techniken werfen, die in der Vision AI eingesetzt werden.

Salienzkarten

Neuronale Netze sind vom menschlichen Gehirn inspirierte Modelle, die Muster erkennen und Entscheidungen treffen, indem sie Daten durch miteinander verbundene Schichten von Knoten (Neuronen) verarbeiten. Mit ihnen lassen sich komplexe Computer-Vision-Probleme mit hoher Genauigkeit lösen. Auch wenn sie so genau sind, sind sie von ihrer Konstruktion her immer noch Blackboxen. 

Salienzkarten sind eine XAI-Technik, die dabei helfen kann, das, was neuronale Netze bei der Analyse von Bildern sehen, zu verstehen. Sie können auch zur Fehlersuche verwendet werden, wenn die Modelle nicht wie erwartet funktionieren. 

Salienzkarten funktionieren, indem sie sich darauf konzentrieren, welche Teile eines Bildes (Pixel) die Vorhersagen eines Modells bestimmen. Dieser Prozess ist der Backpropagation sehr ähnlich, bei der das Modell von den Vorhersagen auf die Eingabe zurückgreift. Aber anstatt die Gewichte des Modells auf der Grundlage von Fehlern zu aktualisieren, schauen wir uns einfach an, wie viel jedes Pixel für die Vorhersage "zählt". Salienzkarten sind sehr nützlich für Computer-Vision-Aufgaben wie die Bildklassifizierung.

Wenn zum Beispiel ein Bildklassifizierungsmodell vorhersagt, dass es sich bei einem Bild um einen Hund handelt, können wir uns die Salienzkarte ansehen, um zu verstehen, warum das Modell glaubt, dass es sich um einen Hund handelt. So können wir herausfinden, welche Pixel das Ergebnis am stärksten beeinflussen. Die Saliency Map hebt alle Pixel hervor, die dazu beigetragen haben, dass das Bild schließlich als Hund erkannt wurde.

‍

Class Activation Mapping (CAM)

Class Activation Mapping ist eine weitere XAI-Technik, die verwendet wird, um zu verstehen, auf welche Teile eines Bildes sich ein neuronales Netz konzentriert, wenn es Vorhersagen zur Bildklassifizierung trifft. Sie funktioniert ähnlich wie die Saliency Maps, konzentriert sich aber auf die Identifizierung wichtiger Merkmale im Bild und nicht auf bestimmte Pixel. Merkmale sind Muster oder Details wie Formen oder Texturen, die das Modell in einem Bild erkennt.

Methoden wie Gradient Weighted Class Activation Mapping (Grad-CAM) und Grad-CAM++ bauen auf derselben Idee auf, allerdings mit einigen Verbesserungen.

So funktioniert die CAM:

• Bevor das neuronale Netz seine endgültige Entscheidung trifft, vereinfacht es die Informationen mit einem Schritt namens Global Average Pooling (GAP). GAP fasst alle Pixel in einem erkannten Muster zu einem einzigen Durchschnittswert zusammen und erstellt eine Zusammenfassung für jede Feature Map (eine visuelle Darstellung der erkannten Muster).
• Jeder Merkmalskarte wird dann eine Gewichtung gegeben, die angibt, wie wichtig sie für die Vorhersage einer bestimmten Klasse ist (wie "Vogel" oder "Katze").
• Eine Einschränkung von CAM ist jedoch, dass du das Modell neu trainieren musst, um diese Gewichte zu berechnen, was zeitaufwändig sein kann.

Grad-CAM verbessert dies, indem es Gradienten verwendet, die wie Signale zeigen, wie stark jede Merkmalskarte die endgültige Vorhersage beeinflusst. Diese Methode macht GAP überflüssig und macht es einfacher zu sehen, worauf sich das Modell konzentriert, ohne neu zu trainieren. Grad-CAM++ geht noch einen Schritt weiter und konzentriert sich nur auf positive Einflüsse, was die Ergebnisse noch deutlicher macht.

‍

Kontrafaktische Erklärungen

Kontrafaktische Erklärungen sind ein wichtiges Element der erklärbaren KI. Bei einer kontrafaktischen Erklärung wird eine Situation oder ein Ergebnis beschrieben, indem alternative Szenarien oder Ereignisse betrachtet werden, die nicht eingetreten sind, aber hätten eintreten können. Sie kann zeigen, wie Veränderungen bestimmter Eingangsvariablen zu unterschiedlichen Ergebnissen führen, z. B.: "Wenn X nicht passiert wäre, wäre Y nicht eingetreten."

In den Bereichen KI und Computer Vision bezeichnet eine kontrafaktische Erklärung die kleinste Änderung, die an einem Input (z. B. einem Bild oder Daten) vorgenommen werden muss, damit ein KI-Modell ein anderes, spezifisches Ergebnis liefert. Wenn du zum Beispiel die Farbe eines Objekts in einem Bild änderst, könnte ein Modell zur Bildklassifizierung statt "Katze" einen "Hund" vorhersagen.

Ein weiteres gutes Beispiel wäre die Änderung des Blickwinkels oder der Beleuchtung bei einem Gesichtserkennungssystem. Dies könnte dazu führen, dass das Modell eine andere Person identifiziert, was zeigt, wie kleine Änderungen der Eingaben die Vorhersagen des Modells beeinflussen können.

Die einfachste Art, diese Erklärungen zu erstellen, ist das Ausprobieren: Du kannst Teile der Eingabe (wie Merkmale des Bildes oder der Daten) zufällig ändern, bis das KI-Modell dir das gewünschte Ergebnis liefert. Andere Methoden sind modellagnostische Ansätze, die Optimierungs- und Suchtechniken verwenden, um Änderungen zu finden, und modellspezifische Ansätze, die sich auf interne Einstellungen oder Berechnungen verlassen, um die erforderlichen Änderungen zu ermitteln.

Anwendungen von erklärbarer KI in der Computer Vision

Nachdem wir nun herausgefunden haben, was XAI ist und welche Techniken es gibt, können wir uns ansehen, wie sie in der Praxis eingesetzt wird. XAI kann in vielen Bereichen eingesetzt werden. Schauen wir uns einige Anwendungsfälle an, die ihr Potenzial verdeutlichen:

• Sicherheitssysteme: XAI kann zur Verbesserung von Sicherheitssystemen eingesetzt werden, indem gemorphte Bilder in Ausweisdokumenten wie Pässen und Führerscheinen erkannt werden. Dies stellt die Echtheit der Bilder sicher, stärkt die Identitätsprüfung und verhindert betrügerische Aktivitäten in sensiblen Anwendungen.

‍

• Autonomes Fahren: Die Fähigkeiten und Grenzen des Vision AI-Systems eines selbstfahrenden Autos zu verstehen, kann ein wichtiger Bestandteil der Tests sein, bevor das Auto auf realen Straßen zum Einsatz kommt. XAI kann den Autoherstellern helfen, Probleme besser zu erkennen und zu lösen.

• Rechtssysteme: Bildverarbeitungsgestützte Systeme zur Dokumentenanalyse werden zunehmend bei der Entscheidungsfindung in der Justiz eingesetzt. XAI unterstützt faire Ergebnisse und ermöglicht es, automatisierte Urteile zu überprüfen. Außerdem hilft es Juristen zu verstehen, wie ein KI-Modell zu seinen Entscheidungen kommt.
  ‍
• Überwachung von Wildtieren: Kamerafallen werden oft zur Überwachung von Wildtieren und zum Sammeln von Daten über Tierarten eingesetzt. Mit XAI kann erklärt werden, wie die KI diese Arten auf den Bildern klassifiziert. Auf diese Weise können Naturschutzbemühungen zuverlässiger und genauer sein.

Die wichtigsten Erkenntnisse über erklärbare KI

Erklärbare KI macht es einfacher zu verstehen, wie KI-Systeme funktionieren und warum sie bestimmte Entscheidungen treffen. Transparenz über KI-Modelle schafft Vertrauen und Verantwortlichkeit. Wissen ist Macht und hilft, KI-Innovationen verantwortungsvoller zu nutzen. In kritischen Bereichen wie Gesundheitswesen, Sicherheit, autonomes Fahren und Rechtssysteme kann XAI Entwicklern und Nutzern helfen, KI-Vorhersagen zu verstehen, Fehler zu erkennen und eine faire und ethische Nutzung sicherzustellen. Indem sie KI transparenter macht, überbrückt XAI die Kluft zwischen Technologie und menschlichem Vertrauen und macht sie für reale Anwendungen sicherer und zuverlässiger.

Um mehr zu erfahren, besuche unser GitHub-Repository und beteilige dich an unserer Community. Erforsche KI-Anwendungen in selbstfahrenden Autos und in der Landwirtschaft auf unseren Lösungsseiten. 🚀