Fairness in der KI

Fairness in der KI verstehen

Die Definition von Fairness im Zusammenhang mit KI ist komplex und es gibt keine allgemein anerkannte Definition. Stattdessen umfasst sie mehrere mathematische Kriterien und ethische Grundsätze, die eine ungerechte Behandlung verhindern sollen. Eine zentrale Herausforderung besteht darin, Verzerrungen in der KI zu erkennen und abzumildern, die aus verschiedenen Quellen stammen können. Dataset Bias entsteht, wenn die Trainingsdaten die Vielfalt der realen Welt nicht genau widerspiegeln, was oft auf historische gesellschaftliche Vorurteile zurückzuführen ist. Algorithmische Verzerrungen können durch das Design oder den Optimierungsprozess des Modells selbst entstehen. Es gibt verschiedene mathematische Definitionen von Fairness, z. B. demografische Parität (die Ergebnisse sind unabhängig von sensiblen Merkmalen) und Chancengleichheit (die True-Positive-Raten sind in allen Gruppen gleich). Es kann jedoch mathematisch unmöglich sein, mehrere Fairnesskriterien gleichzeitig zu erfüllen, wie die Forschung auf diesem Gebiet zeigt (z. B. ACM FAccT Proceedings). Die Entwickler/innen müssen sorgfältig abwägen, welche Fairness-Definitionen für ihren spezifischen Anwendungskontext am besten geeignet sind.

Relevanz und Wichtigkeit

Die Bedeutung von Fairness in der KI ist aufgrund ihrer potenziellen gesellschaftlichen Auswirkungen immens. Unfaire KI-Systeme können zu diskriminierenden Ergebnissen in wichtigen Bereichen wie der Personalauswahl, der Kreditvergabe, der Strafjustiz und der medizinischen Bildanalyse führen, wodurch bestimmte Gruppen benachteiligt und ihre Möglichkeiten eingeschränkt werden. Die Gewährleistung von Fairness ist nicht nur ein ethischer Imperativ, sondern zunehmend auch eine rechtliche Notwendigkeit, wobei Rahmenwerke wie das NIST AI Risk Management Framework die verantwortungsvolle Entwicklung leiten. Der Vorrang von Fairness hilft, Schaden zu verhindern, fördert die soziale Gerechtigkeit und schafft das nötige Vertrauen für eine weit verbreitete, verantwortungsvolle Einführung von KI. Dies steht im Einklang mit den allgemeinen Grundsätzen der KI-Ethik, die auch Rechenschaftspflicht, Transparenz in der KI und Datenschutz umfassen.

Anwendungen in der realen Welt

Überlegungen zur Fairness sind bei vielen KI-Anwendungen von entscheidender Bedeutung. Hier sind zwei Beispiele:

1. Gesichtserkennungssysteme: Frühe Gesichtserkennungstechnologien wiesen erhebliche Unterschiede in der Genauigkeit zwischen verschiedenen demografischen Gruppen auf, insbesondere bei Personen mit dunklerer Hautfarbe und Frauen(NIST-Studien wiesen auf diese Probleme hin). Organisationen wie die Algorithmic Justice League haben das Bewusstsein dafür geschärft und Anstrengungen unternommen, um vielfältigere Trainingsdatensätze zu erstellen und Algorithmen zu entwickeln, die weniger anfällig für solche Verzerrungen sind und eine gleichmäßige Leistung für alle Gruppen anstreben.
2. Automatisierte Einstellungsinstrumente: KI-Tools, die bei der Personalbeschaffung eingesetzt werden, können unbeabsichtigt Vorurteile aus historischen Einstellungsdaten lernen und aufrechterhalten, wodurch qualifizierte Bewerber aus unterrepräsentierten Gruppen herausgefiltert werden können. Die Anwendung von Fairness-Techniken beinhaltet die Überprüfung der Algorithmen auf Verzerrungen, die Anwendung von Methoden zur Anpassung der Vorhersagen und die Sicherstellung, dass die Kriterien für die Bewertung der Bewerber relevant und nicht diskriminierend sind. Dies ist entscheidend für die Förderung der Chancengleichheit bei der Beschäftigung, ein wichtiger Aspekt, der in Bereichen wie Computer Vision in HR diskutiert wird.

Unterscheidung zwischen Fairness und verwandten Konzepten

Fairness in der KI ist zwar verwandt, unterscheidet sich aber von mehreren anderen Konzepten:

• KI-Ethik: Dies ist ein breiteres Feld, das Fairness, Verantwortlichkeit, Transparenz, Privatsphäre, Sicherheit und die allgemeinen gesellschaftlichen Auswirkungen von KI umfasst. Fairness ist ein wichtiger Bestandteil des größeren Bereichs der KI-Ethik.
• Voreingenommenheit in der KI / Algorithmische Voreingenommenheit: Voreingenommenheit bezieht sich auf die systematischen Fehler oder Vorurteile in einem KI-System oder seinen Daten, die zu ungerechten Ergebnissen führen. Das Ziel von Fairness ist es, diese Vorurteile zu erkennen und abzuschwächen. KI-Bias zu verstehen, ist der erste Schritt, um Fairness zu erreichen.
• Erklärbare KI (XAI): XAI konzentriert sich darauf, die Entscheidungsprozesse von KI-Modellen für Menschen verständlich zu machen. XAI-Techniken sind zwar nicht mit Fairness gleichzusetzen, können aber wichtige Werkzeuge sein, um zu diagnostizieren, warum ein Modell ungerechte Ergebnisse produziert, und so Fairness-Interventionen zu unterstützen.

Erreichen von Fairness

Um Fairness in der KI zu erreichen, ist ein ganzheitlicher Ansatz erforderlich, der technische Methoden und verfahrenstechnische Sorgfalt während des gesamten KI-Lebenszyklus umfasst. Zu den wichtigsten Strategien gehören:

• Sorgfältiger Umgang mit Daten: Um vielfältige und repräsentative Datensätze zu erstellen, ist es wichtig, dass die Datenerfassung und -kommentierung sorgfältig durchgeführt wird. Techniken wie die Datenerweiterung können dabei helfen, Datensätze auszubalancieren(Using Albumentations Augmentations to Diversify Your Data).
• Fairness-bewusste Algorithmen: Entwicklung oder Anpassung von Algorithmen für maschinelles Lernen (ML), um Fairness-Bedingungen während des Modelltrainings explizit zu berücksichtigen.
• Strenge Bewertung: Gründliche Modellevaluierung anhand spezifischer Fairness-Metriken, um Leistungsunterschiede zwischen verschiedenen Untergruppen zu bewerten. Tools wie das What-If Tool vonGoogle und AI Fairness 360 von IBM bieten Funktionen zur Erkennung und Reduzierung von Verzerrungen.
• Laufende Überwachung: Kontinuierliche Überwachung der Modellleistung und Fairness nach der Einführung, um aufkommende Probleme oder Datenabweichungen zu erkennen und zu beheben.

Plattformen wie Ultralytics HUB bieten Tools für das Training und die Verwaltung von benutzerdefinierten Modellen, die es Entwicklern ermöglichen, Datensätze sorgfältig zusammenzustellen und Modelle wie Ultralytics YOLO11 auf ihre Leistung in verschiedenen Gruppen zu prüfen und so die Entwicklung gerechterer Computer-Vision-Lösungen (CV) zu unterstützen. Die Einhaltung ethischer Richtlinien, wie die der Partnership on AI, ist ebenfalls entscheidend.