Apple e Google devono eliminare le app ‘nudify’ dagli App Store
La città di San Francisco ha intimato ad Apple e Google di rimuovere dai loro app store decine di applicazioni “nudify”, programmi software in grado di alterare digitalmente immagini per spogliare le persone in esse ritratte. L’azione arriva mentre le aziende sono accusate di lucrare su strumenti che facilitano la creazione di deepfake pornografici non consensuali, in violazione delle leggi della California.
La legge della California criminalizza qualsiasi attività che “faciliti consapevolmente” o “aiuti o favorisca sconsideratamente” la creazione di pornografia deepfake non consensuale. Inoltre, una legge statale consente alle vittime di intraprendere azioni civili contro terze parti che facilitano tale materiale. Nonostante queste normative ben note, la città afferma che entrambe le aziende tecnologiche hanno continuato a ospitare e trarre profitto da tali programmi.
“Apple e Google stanno traendo profitto da app che sfruttano donne e ragazze generando deepfake intimi non consensuali”, ha dichiarato l’avvocato della città di San Francisco, David Chiu, in una dichiarazione inviata via email a TechCrunch. “Sebbene le aziende abbiano interrotto i rapporti con alcune app problematiche, Apple e Google hanno la responsabilità di essere proattive e vigili per prevenire abusi sessuali.”
Le lettere inviate agli uffici di Google e Apple dall’ufficio di Chiu, visionate da TechCrunch, evidenziano che le aziende “sono state avvisate” del loro ruolo nel “processare pagamenti per acquisti illegali per quasi un anno” ma, nondimeno, hanno continuato a farlo. Secondo le lettere, entrambe le aziende sono state ripetutamente avvertite di ospitare queste app. A gennaio e di nuovo ad aprile, il Tech Transparency Project (TTP) ha pubblicato rapporti e inviato lettere a entrambe le aziende, segnalando che c’erano “decine di app” all’interno dei loro app store che “vendenvano immagini intime non consensuali deepfake in cambio di pagamenti” elaborati dalle aziende. Il rapporto del TTP di aprile ha affermato che Google e Apple avevano intenzionalmente “indirizzato” gli utenti verso tali app e ha definito entrambe le aziende “partecipanti chiave nella diffusione di strumenti di intelligenza artificiale in grado di trasformare persone reali in immagini sessualizzate”. Chiu ha inoltre dichiarato a Wired che entrambe le aziende hanno probabilmente guadagnato “milioni di dollari in commissioni” da app che offrivano tali servizi.
Le lettere dell’ufficio di Chiu avvertono che Apple e Google potrebbero affrontare sanzioni civili per violazione della legge e richiedono un contatto con la città entro 28 giorni.
Contattato per un commento da TechCrunch, un portavoce di Apple ha dichiarato che le app “nudify” sono vietate sull’App Store, aggiungendo: “Abbiamo rimosso tre delle app in questione e stiamo procedendo alla chiusura degli account degli sviluppatori dal nostro programma. Siamo in contatto con altre quattro che devono affrontare violazioni delle policy o rischiare la rimozione.” Un portavoce di Google ha affermato che tutte e cinque le app di Play Store menzionate nella lettera di Chiu sono state sospese da Google Play. “Quando ci vengono segnalate violazioni, indaghiamo e agiamo rapidamente; nel caso di queste app, ciò ha incluso la sospensione di centinaia di app che violavano le norme e la restrizione di termini di ricerca correlati come ‘nudify’ sul nostro store”, ha aggiunto il portavoce.
La pornografia deepfake è stata prevalentemente un problema per le celebrità femminili, sebbene le app “nudify” rendano possibile prendere di mira chiunque con una foto pubblicamente disponibile.