Il Consiglio di Sorveglianza giudica le regole di Meta sui deepfake IA ‘costantemente e fondamentalmente inadeguate’
Meta sotto accusa per deepfake AI: le sue regole sono "fondamentalmente inadeguate"
Il Consiglio di Vigilanza di Meta ha nuovamente esortato l’azienda a intervenire contro la crescente ondata di contenuti generati dall’intelligenza artificiale (AI) sulle sue piattaforme. Il gruppo ha pubblicato le sue due più recenti decisioni relative alla gestione dei contenuti AI da parte della società, evidenziando come le regole di Meta siano "costantemente e fondamentalmente inadeguate ad affrontare il rapido aumento dei contenuti generati dall’AI sulle sue piattaforme", secondo una dichiarazione del Consiglio.
Entrambi i casi riguardavano post contenenti video generati dall’AI. Uno di questi mostrava un politico scozzese pronunciare la frase: "i rifugiati sono i benvenuti qui, anche se stuprano le nostre donne, perché anche i bianchi lo fanno". Il video era una rappresentazione "realistica" ma sintetica, secondo il Consiglio, e il politico la cui voce era stata replicata ha descritto l’effetto del video come "piuttosto traumatico".
Meta ha comunicato al Consiglio di non aver rimosso il video al momento della segnalazione perché non era stato contrassegnato da nessuna delle sue "organizzazioni partner di fiducia" e perché non sembrava interferire con votazioni o altri processi. Il video, inoltre, non era stato etichettato come generato dall’AI, apparentemente perché l’autore del post non aveva scelto di dichiararlo tale. Il Consiglio di Vigilanza ha invece stabilito che il video avrebbe dovuto essere rimosso per aver violato le regole di Meta sulla condotta d’odio e che avrebbe dovuto essere chiaramente etichettato come AI.
L’altro caso riguardava anch’esso un video generato dall’AI di una persona reale. Il filmato era basato su un’intervista televisiva a una volontaria che promuoveva l’educazione alla salute mestruale. Qualche tempo dopo l’intervista iniziale, "account su varie piattaforme di social media hanno manipolato digitalmente il filmato dell’intervista per ridicolizzarla", e questi video sono diventati virali. Secondo il Consiglio, Meta ha automaticamente chiuso una segnalazione e il successivo ricorso sul post, che non è mai stato etichettato come generato dall’AI. Meta ha rimosso il video per aver violato le sue regole sul bullismo solo dopo l’intervento del Consiglio di Vigilanza.
Il gruppo afferma che entrambi i casi evidenziano come i contenuti AI vengano utilizzati per prendere di mira le persone sulle sue piattaforme e come la mancanza di etichettatura coerente stia causando ulteriori danni. "Dai politici ai cittadini privati, i deepfake generati dall’AI vengono sempre più utilizzati per molestare e mettere a tacere le donne che partecipano al dibattito pubblico", ha dichiarato Pamela San Martin, co-presidente del Consiglio di Vigilanza. "Questi casi dimostrano un modello più ampio e preoccupante in cui le donne che si impegnano pubblicamente su determinate questioni sono sottoposte in modo sproporzionato a molestie e disinformazione".
La critica del Consiglio di Vigilanza non è sorprendente. Il gruppo, che formula raccomandazioni politiche a Meta, ha ripetutamente criticato l’approccio dell’azienda ai contenuti AI e ha sollecitato nuove regole. La questione più grande è se Meta si preoccupi realmente del punto di vista del Consiglio su questo tema. L’azienda ha finora apportato poche modifiche alle sue etichette AI, che tipicamente consistono in un piccolo banner che dice "Info AI". Meta non ha accettato di implementare molte delle raccomandazioni del Consiglio sull’etichettatura dell’AI in altri casi recenti.
Meta non ha risposto a una richiesta di commento sulle ultime osservazioni del Consiglio. L’azienda ha ora 60 giorni per rispondere alle sue raccomandazioni più recenti, inclusa la priorità nella revisione dei contenuti probabilmente generati dall’AI quando vengono segnalati.