I deepfake sono un nuovo tipo di media che ha il potenziale di influenzare la nostra società. Si tratta di video realistici e fotorealistici creati grazie all’intelligenza artificiale e al machine learning.
I deepfake hanno molti usi potenziali, ma ci sono anche dei rischi associati. Potrebbero essere utilizzati per scopi dannosi, come le fake news o il revenge porn, oppure per scopi più benevoli, come l’intrattenimento o l’educazione.
L’ascesa dei deepfakes ha sollevato molti interrogativi etici sul futuro dei media e su come saremo in grado di distinguere ciò che è vero o meno.
Cosa sono i deepfake
I deepfake sono una nuova forma di manipolazione dei media che può essere utilizzata per creare video realistici. Questi video sono così convincenti che possono potenzialmente cambiare il modo in cui vediamo la realtà in futuro.
Il termine deepfake è un mix di “deep learning” e “fake”. I deepfake utilizzano algoritmi di apprendimento automatico per manipolare foto e video, resi accessibili dall’ascesa della tecnologia AI. I deepfake vengono creati utilizzando una combinazione di tecniche di apprendimento automatico e GAN. Non sono così lontani dalle creazioni di immagini AI di cui abbiamo parlato.
Possono essere utilizzati per sovrapporre le sembianze di una persona al corpo di un’altra persona in un video.
Non è necessario che i video siano reali (di fatto non lo sono), ma che siano realistici.
Questo è il pericolo maggiore: possono essere usati per molti scopi: per scherzare, per prendere in giro le celebrità, per completare scene di film senza il vero attore o attrice (a causa di un infortunio, o perché deceduto).
Purtroppo, ci sono altri usi più oscuri della tecnologia deepfake: manipolazione, pornografia, revenge porn.
Questi video possono essere in grado di ingannare chiunque, anche chi conosce la persona.
Deepfake e società: le celebrità
Potreste essere interessati al fenomeno dei deepfake in relazione alle celebrità. Un personaggio famoso fra i più “deepfaked” è Tom Cruise (vedi l’account @deeptomcruise).
Ecco un esempio:
Pazzesco, vero?
Lo stesso è successo a Keanu Reevs, Emma Watson, Obama e tantissimi altri.
I casi peggiori? Quando questi falsi video servono:
- a mettere in dubbio la professionalità della persona (clip di nudo, situazioni imbarazzanti e altro)
- quando presto lesive della persona (casi di revenge porn)
- quando sono creati allo scopo di influenzare il comportamento delle masse
Celebrità che fanno (false) dichiarazioni su argomenti di pubblico dibattito, come la politica, i vaccini, ed altre tematiche controverse spostano l’opinione pubblica di tutti coloro che non hanno strumenti per valutare e smascherare il falso.
Il lato oscuro dei deepfake e l’impatto sulla nostra società
Da quanto appenda detto si evince il potere e il rischio di un uso sbagliato di quello che sembra un semplice gioco.
L’app FaceApp o quella di Reface ci hanno abituato a giocare sovrapponendo le nostre immagini a quelle di attori in famose scene di film.
Tutti vorremmo essere Ironman, ma non credo che vorremmo con lo stesso entusiasmo vedere il nostro volto sostituire quello di un malvivente in un video della polizia.
Deepfake e danni alla società
I deepfake hanno il potenziale di causare gravi danni. La mancanza di autenticità porterà a una mancanza di fiducia e potrebbe essere difficile capire cosa è reale e cosa no. Dobbiamo trovare il modo di educare le persone sui rischi dei deepfake e sulle conseguenze che ne derivano. Gli aspetti legislativi e la regolamentazione delle nuove tecnologie è sempre più urgente.
Pensiamo all’uso politico che si potrebbe fare agendo sulle masse, anche solo mostrando un personaggio governativo fare false dichiarazioni che potrebbero mettere a rischio la salute e la sicurezza internazionale.
Come sempre non bisogna demonizzare ma prendere le giuste precauzioni, e ricordare che anche senza tecnologia la diffusione mediatica di una notizia falsa è pericolosa.
Come individuare un deepfake
Il problema è che, poiché i video deepfake hanno un aspetto così realistico, può essere difficile capire cosa sia reale e cosa no. Questo porta le persone che guardano i deepfake a crederli autentici anche se non sono affatto veri.
Esistono diversi modi per individuare un video deepfake, come l’analisi dei metadati, l’analisi dell’audio e l’analisi visiva.
Il modo più semplice è guardare il video e vedere se la bocca si muove in sincronia con le parole pronunciate. Se la bocca non si muove correttamente, è probabile che si tratti di un deepfake.
Esistono anche alcuni software di rilevamento dei deepfake vocali in grado di individuare le voci false nei file audio.
Le immagini ad un’attenta analisi dei pixel risultano sfocate in alcuni punti, ma la cosa più importante è come sempre ragionare e porsi le domande: è possibile che il personaggio X stia facendo una dichiarazione di questo genere? Ci sono altre fonti autorevoli che riprendono la notizia o il video?
Conclusioni: Possiamo prevenire il lato oscuro della tecnologia?
Il lato oscuro della tecnologia è un termine che si riferisce alle numerose conseguenze indesiderate dei progressi tecnologici.
Alcuni temono che “il progresso tecnologico porterà presto alla perdita della nostra umanità”. L’intelligenza artificiale è uno strumento. L’IA non crea autonomamente deepfake offensivi o dannosi: crea ciò che le persone chiedono.
Quindi, se stiamo per perdere la nostra umanità, forse, dobbiamo interrogarci su dove siamo partiti.
L'immagine di copertina è creata con NightCafe Creator.