Pubblichiamo la sintesi dell’inchiesta denuncia del Washington Post sul dilagare degli scolvolgenti deepfake i falsi filmati pornografici con le sembianze di chiunque 
Falsi video manipolati per distruggere l’immagine di una donna, ricattarla e umiliarla: “Ognuno è un potenziale obiettivo”.
I creatori di deepfake realizzano porno video inquietanti,e generati dal computer con foto e video tratti dal Web.
“E uno stupro mediatico continuato “, ha detto una donna di 40 anni le cui sembianze sono state sovrapposte a sconvolgenti sequenze pornografiche.
Si sentiva nauseata e mortificata: e se i familiari, i colleghi , gli amici l’avessero visto? “Capiranno che si tratta di un falso o dubiteranno di me?” Ripeteva sottolineando anche la grandissima rabbia provata “questa strana sensazione, come se volessi strappare tutto da Internet. Ma tu sai che non puoi. Che sei indifesa ”
Molti siti specializzati hanno aperto l’accesso alle foto e così i video stanno diventando vulnerabili ai falsi che sembrano ingannevolmente reali. Sovraccaricato dal potente e ampiamente disponibile software di intelligenza artificiale, questi video realistici “deepfake” si sono rapidamente moltiplicati su Internet, rendendo meno evidente la linea di confine tra verità e menzogna.
Video che vengono utilizzati come arma di ricatto o di sfregio mediatico contro le donne e rappresentano un nuovo e degradante mezzo di umiliazioni, molestie e abusi.
I falsi sono esplicitamente dettagliati, pubblicati su siti porno popolari e sempre più difficili da rilevare. 
I falsi incredibilmente realistici vengono realizzati spesso con i volti di celebrità oppure di donne che non vivono sotto i riflettori, ragazze comuni. L’attrice Scarlett Johansson dice molto allarmata che “è solo una questione di tempo prima che chiunque possa essere preso di mira”.
Il volto della Johansson è stato sovrapposto in dozzine di scene di sesso che sono circolate sul Web: un video, falsamente descritto come un vero film è stato visto su un importante sito porno più di 1,5 milioni di volte.
Scarlett Johansson è angosciata per se, per le colleghe, per tutte le donne. Teme che “potrebbe essere già troppo tardi per donne e bambini per proteggersi contro l’abisso on line virtualmente senza legge “.
E aggiunge: “niente può impedire a qualcuno di tagliare e incollare la mia immagine o quella di qualcun altro su un altro corpo e renderlo così stranamente realistico”. Johansson denuncia come “cercare di proteggersi da Internet e dalla sua depravazione sia fondamentalmente una causa persa. . . . Internet è un vasto wormhole delle tenebre che si mangia da solo. ”
A settembre, Google ha aggiunto alla sua lista di divieto “immagini pornografiche sintetiche involontarie”, consentendo a chiunque di richiedere i risultati del blocco dei motori di ricerca che li ritengono falsamente come “nudi o in una situazione sessualmente esplicita”. Ma non c’è una soluzione facile per impedire la loro creazione e diffusione.
Un numero crescente di persone effettuano video su richiesta e affermano che esiste persino una tariffa in corso: circa $ 20 per falso.
“È un gigantesco assalto al senso di potere e di controllo”, ha detto Adam Dodge, il direttore legale di Laura’s House, un rifugio per violenza domestica in California. Dodge ha ospitato una sessione di addestramento il mese scorso per investigatori e delegati dello sceriffo su come i deepfakes potrebbero essere usati da un partner o coniuge violento. “Con la capacità di produrre materiale pornografico, ognuno è un potenziale bersaglio”, ha detto Dodge.
I video hanno per decenni servito come punto di riferimento per l’autenticità, offrendo una chiara distinzione dalle foto che potrebbero essere facilmente distorte. Il video falso, per tutti tranne artisti di alto livello e studi cinematografici, è sempre stato troppo complicato dal punto di vista tecnico per avere ragione.
Ma le recenti scoperte della tecnologia di apprendimento automatico, utilizzate dai creatori che gareggiano per perfezionare e perfezionare i loro falsi, hanno reso la creazione di video falsi più accessibile che mai. Tutto ciò che serve per realizzare un mimetismo persuasivo nel giro di poche ore è un computer e una robusta raccolta di foto, come quelle pubblicate da milioni sui social media ogni giorno.
Il risultato è un nuovo modo terribile per persone malevole di infliggere imbarazzo, angoscia o vergogna. “Se qualcuno é il peggiore misogino del mondo”, afferma Mary Anne Franks, professore di diritto all’Università di Miami e presidente della Cyber Civil Rights Initiative, “questa tecnologia permette di realizzare qualsiasi cosa tipo di calunnia”.
Gli uomini vengono inseriti nei video prevalentemente per le battute: un’imitazione popolare mostra il volto dell’attore Nicolas Cage sovrapposto al presidente Trump.
Ma i video falsi delle donne sono prevalentemente pornografici evidenziano come l’oggettivazione sessuale delle donne sia incoraggiata dallo stesso stile di tecnologia.
La critica mediatica Anita Sarkeesian, che è stata assalita online per le sue critiche femministe di cultura pop e videogiochi, è stata inserita quest’anno in un video porno hardcore che è stato visto più di 30.000 volte sul sito di video per adulti Pornhub.
Nei forum deepfake, i posters anonimi hanno dichiarato di essere entusiasti di confrontarla con il video nei suoi account Twitter ed e-mail e condiviso le sue informazioni di contatto e suggerimenti su come garantire che il video fosse facilmente accessibile e impossibile da rimuovere.
Per Sarkeesian i deepfakes sono la prova di “quanto sia terribile essere una donna su Internet. Per le persone che non hanno una salva e credibile personalità, un profilo elevato, o che non hanno alcun profilo, questo può danneggiare le prospettive di lavoro, i rapporti interpersonali, la reputazione, la salute mentale”. “I deepfakes – ha aggiunto Anita Sarkeesian- sono usati come arma per zittire le donne, degradare le donne, mostrare potere sulle donne, riducendoci agli oggetti sessuali. Non è soltanto una perversione. Questo può distruggere vite. ”
L’approccio dell’Intelligenza artificiale che ha generato deepfakes è iniziato con un’idea semplice: due gruppi opposti di algoritmi di deep learning creano, perfezionano e ricreano un risultato sempre più sofisticato. Una squadra guidata da Ian Goodfellow, ora ricercatore scientifico di Google, ha introdotto l’idea nel 2014 paragonandola al duello tra contraffattori e polizia, con entrambe le parti spinte a “migliorare i loro metodi fino a quando le contraffazioni non saranno distinguibili”.
Il sistema ha automatizzato il lavoro noioso e dispendioso in termini di tempo per realizzare un video fotorealistico di scambio di volti: trovare le espressioni facciali corrispondenti, sostituirle senza interruzioni e ripetere l’operazione 60 volte al secondo. Molti degli strumenti deepfake, creati sulla libreria di intelligenza artificiale di Google, sono disponibili al pubblico e sono gratuiti.
L’anno scorso, un creatore anonimo che utilizzava il nome online “deepfakes” ha iniziato a utilizzare il software per creare e pubblicare video porno di attrici come Gal Gadot sul redattore di bordo Reddit, conquistando un’attenzione diffusa e ispirando un’ondata di imitazioni.
I video variano ampiamente in termini di qualità e molti sono svantaggi o evidenti svantaggi. Ma i creatori di deepfake dicono che la tecnologia sta migliorando rapidamente e non vedono limiti a chi possono impersonare.
Mentre il processo deepfake richiede un po’ di know-how tecnico, una comunità di creativi online anonima ha rimosso negli ultimi mesi molti degli ostacoli per i principianti interessati, creando guide pratiche, offrendo suggerimenti e consigli per la risoluzione dei problemi e soddisfacendo richieste di pornografia falsa proprio.
Per semplificare il compito, i creatori di deepfake spesso compilano vasti pacchetti di immagini facciali, chiamate “facce” e video di donne che chiamano “corpi di donatori”. Alcuni creatori utilizzano software per estrarre automaticamente il volto di una donna dai suoi video e social- media post. Altri hanno sperimentato il software di clonazione vocale per generare audio potenzialmente convincente.
Non tutti i video falsi che prendono di mira le donne si basano sulla pornografia per il loro valore shock o per provocare un vulnus alla sua credibiltà. La scorsa primavera, un video dottorato ha mostrato che la sopravvissuta alla sparatoria di Parkland, Emma González, ha strappato la Costituzione.
Gli attivisti conservatori hanno condiviso il video come presunta prova del suo tradimento anti americano. I n realtà, il video orginale riprendeva Emma González mentre strappava obiettivi di carta da un poligono di tiro.
Ma l’uso di deepfakes nel porno è salito alle stelle. Un creatore sul forum di discussione 8chan ha realizzato un deepfake esplicito di quattro minuti con il volto di un giovane blogger tedesco che pubblica video sul trucco; migliaia di immagini del suo viso erano state estratte da un tutorial sui capelli che aveva registrato nel 2014.
Reddit e Pornhub hanno bandito i video quest’anno, ma nuove alternative sono rapidamente fiorite per sostituirle. I principali forum di discussione online come 8chan e Voat, i cui rappresentanti non hanno risposto alle richieste di commenti, gestiscono i propri forum deepfake, ma i video possono essere trovati anche su siti stand-alone dedicati alla loro diffusione.
Il creatore di un sito di deepfakes, che ha accettato di farsi intervistare a condizione di non rivelare l’identità, ha detto che il suo sito di 10 mesi han ogni giorno più di 20.000 visualizzazzioni e fa affidamento sulla pubblicità per ottenere un profitto modesto. Le celebrità sono tra le maggiori attrattive per il traffico, ha detto, aggiungendo che crede che la loro fama – e la ricchezza di immagini pubbliche disponibili – abbia effettivamente facilitato il compito dei manipolatori di immagini.
Le uniche regole sul sito, che ospita un forum attivo per le richieste personali, sono che gli obiettivi devono avere almeno 18 anni e non essere rappresentati “in modo negativo”, anche in scene di violenza grafica o di stupro.
Un altro creatore di Deepfake che usa il nome “Cerciusx”, che sotto anonimato ha detto di essere un americano di 26 anni sostiene che rifiuta le richieste personali perché possono facilmente diffondersi in una scuola campus o luogo di lavoro e la vita di una persona.
Molti creatori soddisfano tali richieste, tuttavia, per far sembrare una donna “più vulnerabile” o per dare vita a una fantasia oscura. “La maggior parte dei ragazzi non inontra mai la loro ragazza da sogno”, ha detto. “Questo è il motivo per cui i deepfakes prosperano”.
Ad aprile, Rana Ayyub, giornalista investigativa in India, è stata avvisata da una fonte di un video di sesso profondo che mostrava il suo viso sul corpo di una giovane donna. Il video si stava diffondendo a migliaia su Facebook, Twitter e WhatsApp, a volte attaccato a minacce di stupro o accanto al suo indirizzo di casa.
Ayyub, 34 anni, ha vomitato quando l’ha visto, pianto per giorni e poi si è precipitata in ospedale, sopraffatta dall’angoscia. Poi si è recata in una stazione di poliza, ma gli agenti si sono rifiutati di presentare un rapporto, e lei poteva vederli sorridere mentre guardavano il falso.
” E’ stato stravolgente. Questo è molto più intimidatorio di una minaccia fisica. Ciò ha un impatto duraturo sulla tua mente. E non c’è nulla che possa impedire di succedermi di nuovo.
Le vittime dei deepfakes hanno pochi strumenti per contrattaccare. Gli esperti legali sostengono che i deepfake sono spesso non tracciabili e proliferano in un’area grigia legale: costruiti su foto pubbliche, sono effettivamente nuove creazioni, il che significa che potrebbero essere protetti come la libertà di parola.
I difensori stanno elaborando nuove strategie legali per perseguire quella che definiscono come “pornografia non convenzionale”, usando procedure simili a quelle utilizzate contro le molestie online, il cyberstalking e la porno vendetta. Gli avvocati hanno affermato che potrebbero applicare leggi di molestie o diffamazioni, o presentare ordini restrittivi o avvisi di rimozione nei casi in cui ne sapevano abbastanza sull’identità o le tattiche dei creatori di deepfake. Nel 2016, quando un uomo della California fu accusato di sovrapporre la sua ex-moglie a immagini porno online, i pubblici ministeri hanno provato una tattica non convenzionale, accusandolo di 11 capi di furto d’identità.
Danielle Citron, professore di giurisprudenza dell’Università del Maryland, che ha studiato le procedure per combattere gli abusi online, dice che il paese ha un disperato bisogno di uno statuto criminale più completo che copra quelle che lei definisce “invasioni della privacy sessuale e omicidi di carattere”. Ho bisogno di veri deterrenti “, ha detto. “Altrimenti, è solo un gioco di whack-a-mole” ( colpire solo una talpa).
I rappresentanti di Google hanno detto che la società prende sul serio la responsabilità etica, ma che le restrizioni sui suoi strumenti di intelligenza artificiale potrebbero finire per limitare gli sviluppatori a sviluppare positivamente la tecnologia.
Ma Hany Farid, un professore di scienze informatiche del Dartmouth College specializzato nell’esame di foto e video manipolati, ha detto che Google e altri giganti della tecnologia devono “fare sul serio, capire la gravità del danno e modificare il modo in cui si può utilizzare la tecnologia in questo modo “.
