Deepfakes

Come vengono creati i deepfake

I metodi più comuni per creare deepfakes coinvolgono modelli di deep learning come le reti generative avversarie (GAN) o gli autoencoder. In una configurazione GAN, due reti neurali competono: un generatore crea immagini/video falsi e un discriminatore cerca di distinguere i falsi dai dati di formazione reali. Questo processo contraddittorio spinge il generatore a produrre falsi sempre più convincenti. Gli autoencoder funzionano imparando rappresentazioni compresse di volti o voci e poi decodificandole per ricostruire o scambiare le caratteristiche. Entrambi i metodi richiedono in genere una quantità significativa di dati (immagini o clip audio) dell'individuo target per apprendere efficacemente le sue sembianze e i suoi manierismi. La qualità e il realismo dipendono spesso dal volume e dalla varietà di questi dati e dalla potenza di calcolo utilizzata per l'addestramento.

Applicazioni ed esempi

La tecnologia Deepfake ha una vasta gamma di applicazioni, che comprendono sia usi benefici che dannosi:

• Intrattenimento e media: Viene utilizzata per il doppiaggio di film in diverse lingue, sincronizzando i movimenti labiali, de-invecchiando gli attori o creando effetti speciali. Aziende come Synthesia utilizzano un'intelligenza artificiale simile per creare video di formazione con presentatori virtuali.
• Educazione e accessibilità: Creare rievocazioni storiche realistiche o sviluppare strumenti per persone con difficoltà di comunicazione.
• Disinformazione e propaganda: Creazione di video di personaggi pubblici, come i politici, per diffondere false narrazioni o influenzare l'opinione pubblica. Ad esempio, sono comparsi online video manipolati che sembrano mostrare politici che rilasciano dichiarazioni incendiarie(BBC News Report on Deepfakes).
• Frode e impersonificazione: Creare audio o video falsi per truffe finanziarie, come impersonare un amministratore delegato per autorizzare transazioni fraudolente(articolo di Forbes sulla frode della clonazione vocale). Questo fenomeno si estende anche al furto di identità e alla creazione di profili falsi.
• Pornografia non consensuale: Una delle prime e più dannose applicazioni consiste nell'inserire digitalmente i volti delle persone su materiale pornografico senza il loro consenso.

Deepfakes e concetti correlati

Mentre i software di editing di foto e video esistono da decenni, i deepfake rappresentano un salto di qualità significativo perché si affidano all'intelligenza artificiale per apprendere e generare nuovi contenuti realistici, anziché manipolare manualmente i pixel esistenti. Rientrano nell'ambito dell'IA generativa, che si concentra sulla creazione di nuovi dati. Questo differisce dai compiti di IA discriminativa come il rilevamento di oggetti o la classificazione di immagini, comuni nella computer vision (CV), in cui l'obiettivo è tipicamente quello di identificare o categorizzare i contenuti esistenti utilizzando modelli come Ultralytics YOLO.

Rilevamento e preoccupazioni etiche

Individuare i deepfake è una sfida continua, poiché la tecnologia utilizzata per crearli è in costante miglioramento. Ricercatori e organizzazioni stanno sviluppando attivamente tecniche per identificare i media sintetici, spesso alla ricerca di sottili incongruenze o artefatti lasciati dal processo di generazione(DARPA's Media Forensics Program). L'ascesa dei deepfakes solleva importanti problemi di etica dell'IA legati al consenso, alla privacy dei dati, alla disinformazione e alla potenziale erosione della fiducia nei media digitali(Brookings Institution Analysis). È inoltre fondamentale affrontare le potenziali distorsioni del set di dati nei modelli di generazione e rilevamento. Piattaforme come Ultralytics HUB facilitano la formazione e la gestione di vari modelli di IA, evidenziando la necessità di pratiche di sviluppo responsabili in tutto il campo dell'IA. Per ulteriori letture sui progressi dell'IA, risorse come la MIT Technology Review sull'IA offrono ampi spunti di riflessione.