Wenn du auf "Alle Cookies akzeptieren" klickst, stimmst du der Speicherung von Cookies auf deinem Gerät zu, um die Navigation auf der Website zu verbessern, die Nutzung der Website zu analysieren und unsere Marketingmaßnahmen zu unterstützen. Mehr Infos
Cookie-Einstellungen
Wenn du auf "Alle Cookies akzeptieren" klickst, stimmst du der Speicherung von Cookies auf deinem Gerät zu, um die Navigation auf der Website zu verbessern, die Nutzung der Website zu analysieren und unsere Marketingmaßnahmen zu unterstützen. Mehr Infos
Die neuen KI-Vorschriften in Kalifornien: Ein Fokus auf ethische KI
Erfahre, wie Kaliforniens neue KI-Gesetze Innovation und Verantwortlichkeit in Einklang bringen und dabei Datenschutz, Deepfakes, Gesundheitswesen, Bildung und Sicherheit berücksichtigen.
Von selbstfahrenden Autos bis hin zum Gesundheitswesen- Innovationen im Bereich der künstlichen Intelligenz (KI) und Next-Gen-Tech-Unternehmen beginnen, eine Schlüsselrolle bei der Umgestaltung unseres Alltags zu spielen. Der weltweite Markt für künstliche Intelligenz belief sich 2023 auf 196,63 Milliarden US-Dollar und soll von 2024 bis 2030 jährlich um durchschnittlich 36 % wachsen. Diese Zahlen zeigen, wie schnell die KI wächst.
Einerseits schafft die schnelle Entwicklung von KI Lösungen für verschiedene Probleme in unterschiedlichen Branchen. Andererseits macht diese Geschwindigkeit deutlich, wie wichtig eine verantwortungsvolle KI-Entwicklung ist, um sicherzustellen, dass die Verbesserungen ethisch vertretbar und für die Gesellschaft nützlich sind.
Zum Beispiel hat Microsoft im Jahr 2016 einen Chatbot namens Tay auf X (ehemals Twitter) eingeführt. Er sollte aus Unterhaltungen mit Nutzern lernen. Kurz nach seiner Veröffentlichung begann Tay jedoch, Antworten mit unprofessioneller Sprache zu geben, da er eine Reihe von Interaktionen aufgriff. Auch wenn Microsoft den Bot schnell offline genommen hat, ist dies ein gutes Beispiel dafür, wie wichtig es ist, sicherzustellen, dass die Daten, die für das KI-Training verwendet werden, zuverlässig sind und dass die Öffentlichkeit weiß, wie Unternehmen solche Daten für KI-Produkte nutzen.
Als Reaktion darauf hat der kalifornische Gouverneur Gavin Newsom im September mehr als ein Dutzend Gesetze zum Thema KI unterzeichnet. In diesen Gesetzen geht es um alles, von der Offenlegung von Trainingsdaten bis zum Umgang mit Deepfakes. In diesem Artikel gehen wir auf die kalifornischen KI-Gesetze ein und erklären, was sie beinhalten. Legen wir los!
Kalifornische KI-Gesetzgebung 2024: Sicherstellung der Rechenschaftspflicht
Drei wichtige Gesetze wurden unterzeichnet, um die KI-Entwicklung sicherer und zuverlässiger zu machen. Die Assembly Bill (AB) 2013, die 2026 in Kraft tritt, verlangt von Anbietern generativer KI, dass sie Details zu ihren Trainingsdatensätzen veröffentlichen. Dazu gehören die Quellen der Datensätze, Details über die Verwendung der Daten, die Anzahl der Datenpunkte im Datensatz, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, der Zeitraum, in dem die Daten gesammelt wurden, usw. Die Weitergabe dieser Informationen hilft KI-Unternehmen, das Vertrauen der Öffentlichkeit zu gewinnen.
Ein weiteres wichtiges Gesetz, das unterzeichnet wurde, ist AB 1008. Er erweitert die bestehenden kalifornischen Datenschutzgesetze auf generative KI-Lösungen. AB 1008 wurde eingeführt, um Bedenken auszuräumen und das Vertrauen der Öffentlichkeit in den Umgang von KI-Systemen mit persönlichen Daten zu stärken. Eine Umfrage ergab, dass über 81 % der Verbraucher/innen befürchten, dass KI-Unternehmen ihre Daten auf eine Art und Weise nutzen könnten, die sie nicht beabsichtigt haben. Durch die Festlegung klarer Grenzen dafür, wie Unternehmen personenbezogene Daten wie Namen, Adressen und biometrische Daten nutzen und davon profitieren können, hilft dieses Gesetz den KI-Unternehmen, den Nutzern zu versichern, dass ihre Daten verantwortungsvoll behandelt werden, auch wenn sie von einem KI-System preisgegeben werden.
Abb. 2. Eine Infografik, die zeigt, dass viele Menschen glauben, dass KI-Lösungen den Datenschutz verbessern können.
KI-Einführung und Regulierung in Bildungseinrichtungen
Wir haben bereits untersucht, wie KI in der Bildung Lernerfahrungen personalisieren, Lehrmethoden neu definieren, Echtzeit-Feedback bieten und Lehrkräfte mit fortschrittlichen Tools und Erkenntnissen unterstützen kann. In der Tat können KI-Innovationen ein effektiveres und ansprechenderes Lernumfeld für Schüler/innen schaffen. Pädagoginnen und Pädagogen auf der ganzen Welt setzen KI immer regelmäßiger ein, wobei erfolgreiche Pilotprojekte und breitere Implementierungen im Gange sind. Studien zeigen, dass mehr als 50 % der Lehrkräfte der Meinung sind, dass sich KI im Klassenzimmer positiv auf den Lehr- und Lernprozess ausgewirkt hat.
Abb. 3. Umfrage, die zeigt, wie Lehrkräfte über den Einsatz von KI in Schulen denken.
Darüber hinaus verpflichtet SB 1288 die kalifornischen Superintendenten, bis zum 1. Januar 2026 Arbeitsgruppen einzurichten, die untersuchen, wie KI in öffentlichen Schulen eingesetzt wird. Diese Arbeitsgruppen müssen ihre Ergebnisse und Empfehlungen bis zum 1. Januar 2027 den zuständigen Politik- und Finanzausschüssen der Legislative vorlegen. Nachdem der Bericht vorgelegt wurde, wird die Arbeitsgruppe aufgelöst und die Bestimmungen werden am 1. Januar 2031 aufgehoben.
Vorschriften rund um generative KI im Gesundheitswesen
Abb. 4. Anwendungsfälle von generativer KI im Gesundheitswesen.
Die Integration von generativer KI in das Gesundheitswesen ist mit gewissen Vorbehalten in Bezug auf Datenschutz und Vorschriften verbunden. Es ist wichtig, die Genauigkeit, Zuverlässigkeit und Fairness der von KI generierten Ergebnisse zu gewährleisten und gleichzeitig die Privatsphäre der Gesundheitsdaten zu schützen.
Um diese Herausforderungen zu bewältigen, hat Kalifornien zwei Gesetze über den Einsatz generativer KI im Gesundheitswesen verabschiedet. AB 3030 fordert, dass Gesundheitsdienstleister offenlegen müssen, wenn sie generative KI für die Kommunikation mit einem Patienten einsetzen, insbesondere wenn diese Nachrichten klinische Daten des Patienten enthalten. SB 1120 schränkt ein, wie Gesundheitsdienstleister und Krankenversicherungen ihre Dienstleistungen automatisieren können. Die neuen Gesetze stellen außerdem sicher, dass zugelassene Ärztinnen und Ärzte den Einsatz von KI-Tools in diesen Bereichen beaufsichtigen.
Kaliforniens KI-Regulierungsrahmen für Deepfakes
Auch der Bundesstaat Kalifornien hat Gesetze erlassen, um die Nutzung von KI zur Verbreitung irreführender oder ungenauer Informationen einzudämmen. SB 942 schreibt vor, dass populäre generative KI-Systeme in ihren Quelldaten klar angeben müssen, dass der Inhalt von KI erstellt wurde. Viele KI-Unternehmen tun dies bereits, und es gibt mehrere kostenlose Tools (ZeroGPT, Winston AI, GLTR usw.), die dabei helfen können, diese Quelldaten zu lesen und KI-generierte Inhalte zu erkennen.
In Kalifornien wurden drei neue Gesetze(AB 1831, SB 926, SB 981) verabschiedet, um Probleme im Zusammenhang mit Deepfakes anzugehen. Diese Gesetze erweitern den bestehenden Schutz, stellen den Missbrauch von KI-generierten Inhalten unter Strafe und verpflichten soziale Medienplattformen dazu, Meldekanäle für Deepfake-Inhalte einzurichten. Die Gesetze sollen bis Januar 2025 in Kraft treten.
Kaliforniens KI-Gesetze über die Definition von KI und ihre Verwendung im Film
Einer der Gesetzesentwürfe, die in Kraft getreten sind, konzentriert sich auf die Definition von KI. AB 2885 besagt, dass KI definiert wird als "ein technisches oder maschinelles System, das einen unterschiedlichen Grad an Autonomie besitzt und das aufgrund expliziter oder impliziter Ziele aus den Eingaben, die es erhält, ableiten kann, wie es Ergebnisse erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können".
Außerdem wurden zwei interessante Gesetze für die Unterhaltungsindustrie verabschiedet. Amerikas größte Gewerkschaft für Film- und Fernsehschauspieler (SAG-AFTRA) spielte eine entscheidende Rolle bei der Durchsetzung dieser Gesetze. AB 2602 schreibt vor, dass Filmstudios die Erlaubnis eines Schauspielers einholen müssen, bevor sie mit Hilfe von KI eine Nachbildung seiner Stimme und seines Abbilds erstellen. AB 1836 verbietet es den Studios, digitale Nachbildungen von verstorbenen Darstellern (wie die Figur von Peter Cushing in Star Wars: Rogue One) ohne die Zustimmung der Erben zu erstellen.
Abb. 5. Die Figur des Grand Moff Tarkin wurde nach dem Abbild des verstorbenen Schauspielers Peter Cushing geschaffen.
Der treibende Faktor hinter Kaliforniens KI-Gesetzen
Als wir einen Einblick in jedes dieser Gesetze erhielten, hast du dich vielleicht gefragt, warum sie wirklich gebraucht werden. KI-Vorschriften sind schon seit einiger Zeit ein beliebtes Diskussionsthema, aber sie haben mit dem Aufkommen von Deepfake-Inhalten, die sich auf verschiedene Bereiche wie Medien und Politik ausgewirkt haben, deutlich an Fahrt gewonnen. Die Nutzung von KI-generierten Inhalten im Internet hat Bedenken über Fehlinformationen und deren mögliche Auswirkungen auf den Ausgang von Wahlen geweckt. Auch die Sorge um den Schutz der Privatsphäre und den Missbrauch von persönlichen Daten durch KI-Innovationen wächst. Diese Probleme haben dazu geführt, dass es jetzt mehrere neue Gesetze gibt, die sich mit diesen Fragen befassen.
AB 2905 schreibt zum Beispiel vor, dass RoboCalls offenlegen müssen, ob es sich um KI-generierte Stimmen handelt. Außerdem fordert AB 2655 große Online-Plattformen wie Facebook und X auf, Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen und Meldekanäle für solche Inhalte zu schaffen. Kandidaten und gewählte Vertreter können auch eine einstweilige Verfügung beantragen, wenn die Plattformen dem nicht nachkommen.
Ein weiteres Gesetz, AB 2839, zielt auf Nutzer/innen sozialer Medien ab, die Deepfakes posten oder weiterleiten, die Wähler/innen in die Irre führen könnten. Ebenso schreibt AB 2355 klare Angaben für politische Werbung vor, die mit KI-Tools gemacht wird.
Die wichtigsten Erkenntnisse aus Kaliforniens neuen KI-Gesetzen
Kaliforniens neue KI-Gesetze spiegeln das wachsende Engagement für ein ausgewogenes Verhältnis zwischen Innovation und Verantwortlichkeit wider. Indem sie sich mit wichtigen Themen wie Datentransparenz, Datenschutz, Deepfakes und dem Einsatz von KI im Gesundheits- und Bildungswesen befassen, zielen diese Gesetze darauf ab, den Einzelnen und die Gesellschaft zu schützen und gleichzeitig eine verantwortungsvolle KI-Entwicklung zu fördern. Da sich die KI weiter entwickelt, werden diese Vorschriften dazu beitragen, dass ihr Wachstum von ethischen Praktiken und öffentlichem Vertrauen begleitet wird. Diese Gesetze könnten auch andere Regionen auf der Welt dazu ermutigen, diesem Beispiel zu folgen.
