Découvrez la technologie derrière les deepfakes, des GAN aux auto-encodeurs. Découvrez comment Ultralytics permet la détection en temps réel des médias synthétiques et l'éthique de l'IA.
Les deepfakes représentent une catégorie sophistiquée de médias synthétiques dans lesquels l'apparence d'une personne, y compris son visage, sa voix et ses expressions, est remplacée de manière convaincante par celle d'un autre individu. Cette technologie exploite des algorithmes avancés d'apprentissage profond (DL) pour analyser et reconstruire des données visuelles et audio avec une grande fidélité. Bien qu'elle soit souvent associée à des vidéos virales sur Internet ou au divertissement, les mécanismes sous-jacents représentent une étape importante dans l' IA générative, démontrant la capacité des réseaux neuronaux à comprendre et à manipuler des caractéristiques biologiques complexes. Le terme lui-même est un mot-valise composé de « deep learning » (apprentissage profond) et « fake » (faux).
La création de deepfakes repose principalement sur une architecture spécifique appelée réseaux antagonistes génératifs (GAN). Un GAN se compose de deux réseaux neuronaux concurrents : un générateur et un discriminateur. Le générateur crée le contenu falsifié, tandis que le discriminateur l'évalue par rapport à des données réelles, en essayant de repérer la falsification. Grâce à ce processus antagoniste, le modèle s'améliore de manière itérative jusqu'à ce que le média généré devienne indiscernable de la réalité pour le discriminateur.
Une autre approche courante consiste à utiliser des auto-encodeurs, qui sont employés pour compresser les traits du visage dans un espace latent de dimension inférieure, puis les reconstruire. En entraînant deux auto-encodeurs sur des visages différents, mais en échangeant la partie décodeur du réseau, le système peut reconstruire le visage d'un individu source sur les mouvements d'une cible. Avant tout échange, le système doit identifier avec précision le visage dans la vidéo source. Cette étape de prétraitement utilise souvent des modèles de détection d'objets en temps réel tels que Ultralytics pour localiser et track du sujet avec une grande précision.
Si les deepfakes sont souvent évoqués dans le contexte de la désinformation, ils ont des applications transformatrices dans des secteurs légitimes allant des arts créatifs à la recherche médicale.
Pour créer un deepfake ou échanger des visages, la première étape technique consiste toujours à détecter le visage ou la personne
dans une image vidéo afin de définir la zone d'intérêt. Les éléments suivants Python code
montre comment lancer cette détection à l'aide de la fonction ultralytics bibliothèque.
from ultralytics import YOLO
# Load the official YOLO26 model (latest generation) for object detection
model = YOLO("yolo26n.pt")
# Run inference to locate persons (class 0) in an image
results = model.predict("https://ultralytics.com/images/bus.jpg")
# Output the detected bounding boxes for further processing
for result in results:
print(f"Detected {len(result.boxes)} objects in the frame.")
La prolifération des "deepfakes" soulève des questions importantes concernant l'éthique de l'IA. l 'éthique de l'IA. Le risque d'utilisation abusive pour diffuser de la désinformation politique ou créer du matériel explicite non consensuel a entraîné une demande de détection robuste. désinformation politique ou la création de matériel explicite non consensuel a conduit à une demande de systèmes de détection robustes. systèmes de détection robustes. Les chercheurs développent des contre-mesures qui analysent les marqueurs biométriques de sécurité, tels que des clignements d'yeux irréguliers ou la détection de pulsations à partir de variations subtiles de la couleur de la peau, afin d'identifier les médias manipulés. manipulés.
Des organisations telles que Deepfake Detection Challenge ont stimulé l' innovation dans le domaine des algorithmes médico-légaux. À mesure que les modèles de génération deviennent plus efficaces, anticipant les futures architectures telles que YOLO26 qui visent un traitement en temps réel et de bout en bout, les outils de détection doivent évoluer en parallèle. Les solutions impliquent souvent la surveillance des modèles afin de track performances des algorithmes de détection par rapport aux techniques de nouvelle génération. Les outils disponibles sur la Ultralytics peuvent aider les équipes à gérer les ensembles de données pour l'entraînement de ces modèles défensifs.
Il est important de distinguer les deepfakes des termes similaires dans le domaine de l'IA afin de comprendre leur rôle spécifique :
.webp)