Ha sottratto tutta la loro arte per l’IA. Ora collabora a uno strumento per aiutarli.
Cara, la piattaforma anti-AI sotto attacco: milioni di opere d’arte rubate e la battaglia legale di Jingna Zhang
La piattaforma Cara, nata per proteggere gli artisti dall’uso non autorizzato delle loro opere per addestrare modelli di intelligenza artificiale, è diventata essa stessa bersaglio di massicci attacchi di "scraping" (raccolta dati non autorizzata) nell’ultimo mese. Gestita dalla fotografa Jingna Zhang e un piccolo team di volontari, l’app ha attratto circa 1,5 milioni di artisti dal 2023, uniti da una comune opposizione all’uso non autorizzato delle loro opere per addestrare modelli di intelligenza artificiale e dal desiderio di pubblicizzare la propria arte evitando lo sfruttamento da parte delle grandi aziende tecnologiche. Tuttavia, nonostante i filtri e strumenti protettivi come Glaze, uno strumento progettato per mascherare lo stile delle immagini rilevate dagli scraper e disturbare l’imitazione dell’IA, impedire del tutto lo scraping si è rivelato quasi impossibile, portando a un’impennata dei costi dei server e al profondo allarme tra i creatori che vi erano migrati da piattaforme come Instagram.
Il primo dei tre incidenti maggiori ha avuto inizio il 13 agosto, quando un utente di Reddit, "MandarinDawnPoppy994", ha pubblicato un archivio di 12 terabyte contenente 12 milioni di opere, praticamente l’intera libreria di immagini pubbliche di Cara, sul subreddit r/DefendingAIArt. L’autore ha descritto il progetto come "divertente", sostenendo di aver speso meno di 10 dollari per l’operazione. Jingna Zhang ha raccontato a WIRED di aver scoperto l’accaduto grazie agli utenti che la taggavano, poiché lo scraper si stava "vantando e cercando altre persone per unirsi a lui per fare qualcosa con il dataset su Reddit", scatenando un feroce dibattito sull’etica dell’azione. Zhang ha espresso il suo dolore, definendo l’attacco "mirato e molto offensivo", e ha sottolineato come le leggi attuali non siano ancora adeguate a proteggere da tali raccolte di dati, permettendo agli scraper di giustificare le loro azioni come tecnicamente legali.
La stessa Zhang è già coinvolta in due cause legali collettive intentate da artisti visivi, una contro Stability AI, Midjourney e altri, e una seconda contro Google, accusando le aziende di aver addestrato i loro strumenti di generazione di immagini su opere protette da copyright. In un sorprendente sviluppo, la persona responsabile del primo massiccio scraping di Cara ha espresso rimorso per la sua azione e ha accettato di collaborare con Zhang per sviluppare un nuovo strumento open-source volto a proteggere gli artisti.
Nel frattempo, altri "raschiatori" hanno continuato a sfruttare le vulnerabilità e le risorse limitate di Cara. Nonostante alcuni sostenitori dell’IA si siano opposti a prendere di mira la piattaforma, altri sono stati apparentemente incoraggiati da "MandarinDawnPoppy994" a lanciare attacchi che Zhang definisce "imitazioni". Un secondo scraper, identificato come "CaptiveDreamer", ha estratto circa 8,5 milioni di link da Cara, insieme a metadati come nomi utente, titoli e tag, caricandoli su Hugging Face, la piattaforma per sviluppatori di IA. Dopo essere stata bombardata da richieste di rimozione, Hugging Face ha dichiarato che avrebbe notificato all’utente di rimuovere i metadati personali, ma non avrebbe potuto fare lo stesso per gli URL, poiché "nessuna copia delle opere d’arte è ospitata qui" e i link "puntano alle copie pubblicate dagli artisti su Cara". La società ha concluso che "ulteriori segnalazioni di copyright sulla stessa base non cambieranno questo esito".
Infine, il 22 agosto, un terzo scraper ha ottenuto 123.000 immagini da Cara, insieme a post di testo e biografie utente contenenti informazioni personali, condividendo il tutto su un sito chiamato Academic Torrents. Di fronte a questi continui attacchi, Zhang ha lanciato una raccolta fondi su GoFundMe per coprire le spese legali, fissando un obiettivo di 120.000 dollari. Ha spiegato che il denaro sarebbe stato utilizzato per esplorare ogni possibile strategia di difesa di Cara attraverso le leggi informatiche e sul copyright. A giovedì, sono stati raccolti oltre 100.000 dollari e Zhang ha dichiarato che Cara sta attivamente cercando ulteriore assistenza legale.