Gli strumenti di IA generativa alimentano la ‘Jihad della brodaglia’
L’ISIS e Al-Qaeda Sfruttano l’Intelligenza Artificiale per una Nuova Propaganda Giovanile: "Slop Jihad"
Una nuova e inquietante forma di propaganda jihadista sta emergendo online, dove i gruppi terroristici come lo Stato Islamico e al-Qaeda utilizzano strumenti di intelligenza artificiale generativa per creare cartoni animati, meme ed "edit" destinati a radicalizzare una nuova generazione di sostenitori. Questa tendenza, battezzata "Slop Jihad", è stata messa in luce da un rapporto dell’Institute of Strategic Dialogue (ISD), condiviso in esclusiva con WIRED, che la definisce una "trasformazione fondamentale nell’estetica della propaganda jihadista online".
Un esempio eclatante di questa nuova frontiera è la riproduzione in chiave satirica di un macabro video dello Stato Islamico di oltre un decennio fa, che mostrava l’annegamento di uomini in una gabbia. Oggi, quello stesso video è stato ricreato come un cartone animato di SpongeBob SquarePants, dove pesci in tute arancioni vengono abbassati in acqua da SpongeBob, mentre Squidward filma la scena. Questo contenuto, diffuso su TikTok, fa parte di un fenomeno in crescita che preoccupa gli esperti.
Adam Hadley, direttore esecutivo di Tech Against Terrorism, un’organizzazione antiterrorismo sostenuta dalle Nazioni Unite, sottolinea come "il principale motivo di preoccupazione è il crescente volume e la diversità del materiale". Contenuti altamente stilizzati e generati dall’IA possono rendere il materiale estremista islamista violento più accessibile ai pubblici più giovani, riducendo al contempo la visibilità del tradizionale marchio terroristico. Gli utenti potrebbero imbattersi nella glorificazione dei carnefici involontariamente attraverso fan edit, cartoni animati e meme, e l’engagement può alimentare raccomandazioni algoritmiche di propaganda più esplicita.
I gruppi terroristici islamici hanno da tempo dimostrato la capacità di adattarsi a nuovi ambienti mediatici per diffondere i loro messaggi, sfruttando tecnologie emergenti per il reclutamento e la creazione di una rete di propaganda decentralizzata. Questo è stato evidente nel movimento "Alt Jihad" dei primi anni 2020, che cercava di cooptare l’estetica dell’alt-right. Già nel 2024, il programma di notizie affiliato allo Stato Islamico, News Harvest, ha iniziato a utilizzare presentatori generati dall’IA per diffondere video di propaganda in modo rapido ed economico.
Tuttavia, l’aspetto e la sensazione dei contenuti prodotti oggi con l’IA generativa sono nettamente diversi. "Questo è nuovo ed è ancora in crescita, non ha affatto raggiunto il suo apice", afferma Moustafa Ayad, presidente di ricerca in Islamismo globale e antiterrorismo presso l’ISD. "C’è sempre stato del contenuto scadente prodotto nell’ecosistema di supporto, ma non era SpongeBob SquarePants come Stato Islamico." Strumenti di IA generativa sono stati utilizzati anche per trasformare rapidamente ed economicamente contenuti ufficiali di gruppi terroristici in video animati, come la trasformazione del bollettino settimanale al-Naba dell’ISIS in anime su un account TikTok.
La tendenza dello "Slop Jihad" ha incontrato una certa resistenza da parte dei sostenitori più tradizionalisti, che non apprezzano la nuova estetica. "Sembra esserci una certa animosità, perché non credono che i produttori dello Slop Jihad siano veri credenti", spiega Ayad, riferendosi ad alcune reazioni al video di SpongeBob. "Ma, d’altra parte, alcuni account che hanno condiviso la propaganda ufficiale tradizionale stanno condividendo i video più recenti. Quindi sembra esserci una relazione di amore-odio con i contenuti dello Slop Jihad."
TikTok è stata per anni centrale nella campagna di messaggistica online dei gruppi terroristici islamici, sfruttando i potenti algoritmi di raccomandazione della piattaforma per diffondere il loro messaggio. Un rapporto dell’Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE) del 2024 ha rilevato che TikTok era tra le prime 10 piattaforme utilizzate per diffondere contenuti terroristici ed estremisti. Sebbene Ayad abbia riscontrato un numero limitato di video di Slop Jihad anche su altre piattaforme come Instagram e Facebook, la stragrande maggioranza dei video (150 in totale da 71 account, con oltre 5,4 milioni di visualizzazioni complessive) è stata trovata su TikTok. Ayad attribuisce la prevalenza di questi contenuti su TikTok all’algoritmo della "Pagina Per Te" della piattaforma, "iper-mirato agli interessi degli utenti", all’alto livello di "slop" generato dall’IA in generale sulla piattaforma e a "un ecosistema esistente e radicato di supporto jihadista sulla piattaforma."