Deepfakes

Wie Deepfakes erstellt werden

Die gängigsten Methoden zur Erstellung von Deepfakes sind Deep-Learning-Modelle wie Generative Adversarial Networks (GANs) oder Autoencoder. Bei einem GAN treten zwei neuronale Netze gegeneinander an: Ein Generator erstellt gefälschte Bilder/Videos, und ein Diskriminator versucht, die Fälschungen von echten Trainingsdaten zu unterscheiden. Durch diesen gegensätzlichen Prozess wird der Generator dazu gebracht, immer überzeugendere Fälschungen zu produzieren. Autoencoder lernen komprimierte Darstellungen von Gesichtern oder Stimmen und dekodieren sie dann, um Merkmale zu rekonstruieren oder auszutauschen. Beide Methoden erfordern in der Regel eine große Menge an Daten (Bilder oder Audioclips) der Zielperson, um ihre Ähnlichkeit und ihre Eigenheiten effektiv zu lernen. Die Qualität und der Realismus hängen oft von der Menge und Vielfalt dieser Daten und der für das Training verwendeten Rechenleistung ab.

Anwendungen und Beispiele

Die Deepfake-Technologie hat eine Reihe von Anwendungsmöglichkeiten, die sowohl nützliche als auch schädliche Anwendungen umfassen:

• Unterhaltung und Medien: Bei der Synchronisation von Filmen in verschiedene Sprachen, bei der Synchronisierung von Lippenbewegungen, bei der Alterung von Schauspielern und bei der Erstellung von Spezialeffekten. Unternehmen wie Synthesia nutzen ähnliche KI für die Erstellung von Schulungsvideos mit virtuellen Moderatoren.
• Bildung und Barrierefreiheit: Realistische historische Nachstellungen erstellen oder Hilfsmittel für Menschen mit Kommunikationsschwierigkeiten entwickeln.
• Fehlinformationen und Propaganda: Das Fälschen von Videos öffentlicher Personen, wie z. B. Politikern, um falsche Geschichten zu verbreiten oder die öffentliche Meinung zu beeinflussen. Im Internet sind zum Beispiel manipulierte Videos aufgetaucht, in denen Politiker/innen angeblich hetzerische Aussagen machen(BBC News Report on Deepfakes).
• Betrug und Nachahmung: Das Erstellen von gefälschten Audio- oder Videodateien für Finanzbetrügereien, z. B. das Ausgeben eines Geschäftsführers, um betrügerische Transaktionen zu autorisieren(Forbes-Artikel über Voice-Cloning-Betrug). Das reicht bis zum Identitätsdiebstahl und der Erstellung falscher Profile.
• Nicht-einvernehmliche Pornografie: Eine der frühesten und schädlichsten Anwendungen ist das digitale Einfügen der Gesichter von Personen in pornografisches Material ohne deren Zustimmung.

Deepfakes vs. Verwandte Konzepte

Foto- und Videobearbeitungssoftware gibt es zwar schon seit Jahrzehnten, aber Deepfakes stellen einen bedeutenden Sprung dar, weil sie auf KI setzen, um neue, realistische Inhalte zu lernen und zu generieren, anstatt nur vorhandene Pixel manuell zu manipulieren. Sie fallen unter den Begriff der generativen KI, die sich auf die Erzeugung neuer Daten konzentriert. Dies unterscheidet sich von diskriminierenden KI-Aufgaben wie der Objekterkennung oder der Bildklassifizierung, wie sie in der Computer Vision (CV) üblich sind, wo das Ziel in der Regel darin besteht, vorhandene Inhalte zu identifizieren oder zu kategorisieren. Ultralytics YOLO.

Aufdeckung und ethische Bedenken

Das Aufspüren von Deepfakes ist eine ständige Herausforderung, da die Technologie, mit der sie erstellt werden, ständig verbessert wird. Forscher/innen und Organisationen entwickeln aktiv Techniken, um synthetische Medien zu identifizieren, und suchen dabei oft nach subtilen Unstimmigkeiten oder Artefakten, die beim Erstellungsprozess entstanden sind(DARPA's Media Forensics Program). Das Aufkommen von Deepfakes wirft erhebliche ethische Bedenken in Bezug auf Zustimmung, Datenschutz, Fehlinformationen und die mögliche Erosion des Vertrauens in digitale Medien auf(Brookings Institution Analysis). Es ist auch wichtig, mögliche Verzerrungen der Daten sowohl bei der Generierung als auch bei den Erkennungsmodellen zu berücksichtigen. Plattformen wie Ultralytics HUB erleichtern das Training und die Verwaltung verschiedener KI-Modelle und verdeutlichen die Notwendigkeit verantwortungsvoller Entwicklungspraktiken im gesamten KI-Bereich. Weitere Informationen zu den Fortschritten der KI finden sich in Quellen wie der MIT Technology Review on AI.