Meta disattiva la funzione che permetteva di generare immagini IA di qualsiasi account Instagram pubblico
Meta ha disattivato una controversa funzionalità di generazione di immagini AI associata al suo modello Muse Image, in seguito a un’ondata di critiche che ha spinto l’azienda a riconoscere di aver “sbagliato obiettivo”. La capacità permetteva a chiunque su Instagram di taggare un account pubblico, inclusi quelli personali, per generare automaticamente deepfake basati sui post di quell’account senza alcuna richiesta di permesso.
Al momento del lancio del modello, Meta aveva presentato la funzione come uno strumento creativo per progettare inviti personalizzati, ideare concetti collaborativi o generare grafiche personalizzate, menzionando semplicemente l’utente interessato. Tuttavia, la sua implementazione ha sollevato immediatamente preoccupazioni significative riguardo alla privacy e al consenso.
In un aggiornamento al suo annuncio iniziale, l’azienda ha ammesso di aver ascoltato il feedback degli utenti e di aver rimosso la funzione. “La nostra intenzione era fornire uno strumento creativo utile e dare alle persone il controllo sull’eventuale riferimento ai loro contenuti pubblici,” ha scritto Meta. “Abbiamo ascoltato il feedback secondo cui questa funzione non ha colto nel segno, quindi non è più disponibile.”
La critica si era concentrata in particolare sul meccanismo di consenso predefinito: gli utenti dovevano attivamente scegliere di disattivare la funzione attraverso un’opzione nascosta nelle impostazioni di privacy, denominata “Consenti alle persone di creare e riutilizzare i tuoi contenuti”, oppure rendere privato il proprio profilo Instagram, per evitare che i loro post venissero utilizzati per generare deepfake.
La disapprovazione non è venuta solo dagli utenti comuni. Secondo Variety, l’agenzia di Hollywood CAA, che gestisce clienti del calibro di Tom Hanks e Meryl Streep, avrebbe espresso direttamente le proprie preoccupazioni a Meta. “Il nome, l’immagine, le sembianze, la voce o il lavoro creativo di nessuno dovrebbero essere utilizzati da terze parti, inclusi i modelli di intelligenza artificiale, senza un consenso chiaro e documentato,” ha dichiarato l’agenzia. Anche il sindacato americano SAG-AFTRA aveva incoraggiato i propri membri a disattivare l’opzione.
La funzionalità è stata ora rimossa. Si spera che in futuro Meta adotti un approccio più cauto, garantendo che qualsiasi capacità AI che coinvolga l’utilizzo dell’immagine o dei contenuti degli utenti richieda sempre un esplicito permesso preventivo.