Siti di deepfake sessualmente espliciti prendono di mira oltre 100 politici europei

Quasi 150 politici europei sono stati inclusi negli ultimi anni in siti web di pornografia deepfake dannosa. La rivelazione emerge da una nuova ricerca visionata da WIRED. Alcuni di questi politici, in stragrande maggioranza donne, hanno visto la propria immagine inserita in video espliciti, mentre altri hanno nomi e foto elencati in inquietanti database che possono collegare a strumenti per la creazione di deepfake.

L’analisi di circa 160 domini che ospitano abusi deepfake e altri contenuti sessuali non consensuali, condotta dal ricercatore Benjamin Shultz, ha rilevato che almeno 138 deputate (MP) provenienti da 22 paesi dell’Unione Europea sono apparse o sono state menzionate su questi siti. In netto contrasto, solo nove deputati uomini sono stati in qualche modo referenziati. Secondo i calcoli di Shultz, è 33 volte più probabile che le donne parlamentari siano prese di mira dagli ecosistemi deepfake.

«La pornografia deepfake fa parte di una tendenza molto più ampia di odio e intimidazione online contro le donne e le politiche», ha affermato Suzanne Kröger, deputata olandese del gruppo Progressive Netherlands, anch’essa colpita dal fenomeno. Kröger, che ha espresso rabbia per quanto emerso dalla ricerca, ha definito i risultati «profondamente inquietanti» e utili a rivelare la portata degli abusi. «Siamo politiche, abbiamo una piattaforma e ci esprimiamo», ha aggiunto Kröger. «Ma intanto, ci sono milioni di donne vittime di questi atti criminali».

La ricerca, pubblicata dal think tank tedesco per la democrazia digitale Agora Digitale Transformation, si concentra sui membri dei parlamenti nazionali di tutti i 27 paesi dell’Unione Europea. Shultz, membro di Agora e ricercatore capo presso l’American Sunlight Project, ha compilato a luglio i dettagli di oltre 5.800 parlamentari europei e ha poi utilizzato motori di ricerca personalizzati per individuare la loro presenza sui siti web deepfake. La ricerca non include i membri del Parlamento Europeo.

Secondo i risultati, i politici di Germania, Paesi Bassi, Italia e Francia sono apparsi più frequentemente sui siti web. Inoltre, maggiore è l’anzianità di un politico, maggiore è la probabilità che venga preso di mira. Shultz ha avvisato individualmente tutti i parlamentari e ha fornito indicazioni su come il contenuto potesse essere rimosso. I siti includono anche immagini di celebrità, giornalisti e altre figure pubbliche, ha precisato il ricercatore. WIRED ha deciso di non nominare i siti web per evitare di dare ulteriore visibilità alle immagini abusive.

Numerosi ricercatori e legislatori sottolineano che, sebbene i politici siano presi di mira dai deepfake da anni, questo fenomeno può danneggiare le pratiche democratiche e creare un effetto deterrente che potrebbe impedire a donne e ragazze di diventare figure pubbliche. «Ciò scoraggia le donne dall’assumere incarichi e le allontana dalla vita pubblica», afferma Shultz. «Ci sono molte prove a sostegno del fatto che questo provoca un danno psicologico reale. Questo danneggia anche la reputazione per il futuro, qualora volessero abbandonare la politica e intraprendere un’altra carriera».

«I video deepfake sono usati per intimidire i politici ma anche per sminuire le donne», ha dichiarato Sarah Dobbe, deputata del Partito Socialista olandese, anch’essa vittima di tali abusi. «È molto importante che, se una donna o una ragazza viene vittimizzata in questo modo, possa ottenere un supporto diretto se necessario e che il contenuto venga rimosso rapidamente».

Attraverso i siti monitorati, Shultz ha categorizzato diverse tipologie di contenuto o comportamento abusivo. I suoi risultati includono casi in cui i parlamentari sono apparsi in contenuti attivamente ospitati dai siti, risultati indicizzati in cui il contenuto era stato rimosso e anche numerosi profili e «gateway» dove potenzialmente poteva essere creato nuovo contenuto.

Diversi siti web ospitavano pagine che includevano i nomi dei parlamentari, foto ufficiali e, in alcuni casi, i loro profili sui social media o informazioni personali. Alcuni includevano sezioni per «valutare» i corpi delle donne, come riportato da Shultz. Spesso accanto a queste biografie di parlamentari c’erano collegamenti a cosiddette app di «nudificazione» o a strumenti propri dei siti web che pretendevano di spogliare digitalmente le persone. «Ci sono tutte le immagini, tutte le informazioni e un link diretto allo strumento, e in tre clic si può generare», ha detto Shultz. «Questo è altrettanto grave che ospitare effettivamente il contenuto».

Da quando i deepfake creati con l’IA sono emersi alla fine del 2017, la tecnologia sottostante per produrli è diventata molto più accessibile e il risultato degli strumenti è diventato più realistico. Nel tempo, milioni di immagini e video deepfake non consensuali sono stati creati, principalmente da uomini e ragazzi, e sono spesso usati per molestare, intimidire o ricattare donne e ragazze, anche in quasi 100 scuole in tutto il mondo.

«Queste piattaforme sono progettate per funzionare come attività commerciali», ha commentato Henry Ajder, consulente AI ed esperto di deepfake che monitora l’ecosistema dal 2018. Ha aggiunto che, sebbene non sia sorprendente che i politici siano presi di mira in questo modo, i risultati sono utili per i funzionari europei per comprendere la gravità del problema. «L’intera infrastruttura è predisposta per fare questo su larga scala con facilità».