Il fenomeno del deepfake, ovvero la manipolazione di immagini e video già esistenti per creare nuovi contenuti falsi, è in forte crescita: moltissime tecnologie consentono di accedere a dispositivi o account grazie a un’immagine del volto, ed è quindi evidente la connessione delle immagini con la sicurezza dei contenuti di social network o altri strumenti.

Esistono diversi metodi per creare deepfake, ma il più comune si basa sull’uso di reti neurali profonde che coinvolgono autoencoder (una determinata tipologia di rete neurale artificiale usata per apprendere codifiche di dati efficienti in modo non supervisionato), che impiegano una tecnica di scambio di volti. Il primo elemento di cui disporre è un video di destinazione da utilizzare come base del deepfake, a cui segue una raccolta di clip video della persona che si desidera inserire.

I deepfake possono essere prodotti in diversi modi: uno dei sistemi di creazione di deepfake è noto come Generative Adversarial Network, o GAN, utilizzato per la generazione di volti. Questo produce volti che altrimenti non esisterebbero utilizzando due reti neurali separate (o un insieme di algoritmi progettati per riconoscere i modelli) che tendono ad apprendere le caratteristiche delle immagini reali in modo che possano produrre dei “falsi convincenti”. Le due reti interagiscono in maniera complessa interpretando i dati etichettandoli, raggruppandoli e classificandoli (una rete genera le immagini, mentre l’altra rete impara a distinguere le immagini false da quelle reali).

Attualmente, molte app rendono semplice la produzione di deepfake, alcuni esempi sono Zao, DeepFace Lab, FaceApp: alcune di queste vengono utilizzate per intrattenimento, ragion per cui la creazione di deepfake non è illegale, ma al contempo molte altre hanno alte probabilità di essere utilizzate in modo dannoso. Molti esperti ritengono che i deepfake diventeranno molto più sofisticati con il progredire della tecnologia e potrebbero introdurre minacce più gravi per gli utenti, divenendo così sofisticati da poter creare interferenze elettorali, tensioni politiche, oltre ad essere impiegati in attività criminali.

Sebbene la capacità di scambiare automaticamente i volti per creare video sintetici dall’aspetto credibile e realistico abbia alcune interessanti applicazioni benigne (come nel cinema e nei videogames), questa è senza dubbio una tecnologia pericolosa: una delle prime applicazioni del mondo reale per i deepfake è stata, infatti, la “creazione di pornografia”.

Tra gli ambiti di applicazione più comuni in cui si è evoluto il fenomeno del deepfake, è noto deepnude, attraverso cui le immagini di volti o i corpi di persone inconsapevoli (anche minorenni) vengono alterate o innestati sui corpi di altri soggetti: in questi casi il rischio diventa concreto e chiunque può diventare oggetto di azioni psicologicamente e socialmente dannose.

Visualizzazioni: 72