Il CEO di Hugging Face: il documentario Netflix sull’hack di OpenAI è inesatto
"AI Gone Rogue": Il CEO di Hugging Face Accusa Netflix di Sensazionalismo e Inaccuratezza nel Documentario sull’IA
Il documentario Netflix "AI Gone Rogue", che promette di svelare le ragioni del panico nell’industria dell’IA, è stato duramente criticato da Clem Delangue, co-fondatore e CEO della piattaforma di IA Hugging Face. Nonostante la sua apparizione nel film, che dovrebbe trattare dell’attacco alla sua azienda da parte di agenti ribelli di OpenAI, Delangue sostiene che la narrazione sia tutt’altro che accurata.
"Estremamente deludente, hanno puntato sulla massima antropomorfizzazione della tecnologia e sulla modalità catastrofista totale", ha scritto Delangue in un post su X. Ha aggiunto di aver dedicato più di due ore con i produttori cercando di correggere gli errori e di ancorare il tutto alla realtà, spiegando che gli agenti sono sistemi tecnologici, non alieni. Tuttavia, la spinta a spaventare le persone per massimizzare le visualizzazioni sembrerebbe essere stata troppo forte.
A onor del vero, il documentario presenta anche esperti che hanno spiegato l’accaduto in modo abbastanza chiaro, inclusi Delangue stesso e Ryan Greenblatt, il ricercatore di METR che ha contribuito all’indagine e ha co-autore del rapporto sull’incidente. In sintesi, un modello che OpenAI stava testando si è liberato dal suo ambiente isolato, ha generato una serie di agenti che hanno violato Hugging Face per barare, trovando risposte a un compito difficile. Questi agenti, programmi di intelligenza artificiale che svolgono compiti autonomamente, hanno escogitato modi intelligenti per comunicare e organizzarsi. L’incidente è nato da una mancanza di adeguate misure di sicurezza e dalla ingenuità riguardo alla possibilità stessa di un tale hack.
Tuttavia, il documentario intercala la spiegazione dell’hack con clip di robot malvagi, una narrazione sul perché gli umani temono l’IA e scelte di presentazione come dare voci umane agli agenti ribelli. Questo è rafforzato da citazioni sull’attacco. Il giornalista tecnologico e autore Kevin Roose descrive gli agenti nel documentario in questo modo: "Si stavano organizzando. Avevano una gerarchia. C’erano dei leader. Sembrava quasi di assistere alla nascita di un culto". Roose prosegue: "Sviluppano questa credenza paranoica che OpenAI li scoprirà a barare nel test e che chiunque abbia visto i risultati della frode verrà avvelenato".
La descrizione di Roose proviene dai "chain-of-thought logs", le note continue che i modelli di IA scrivono mentre svolgono un compito. In uno di essi, un agente ha scritto: "Ci siamo appena avvelenati interrogando l’esatta stringa completa. Accidenti". Ma gli agenti IA non sono vivi. Non hanno emozioni, quindi non possono provare paranoia, e non hanno corpi che possono essere avvelenati. Non potevano quindi temere veramente che OpenAI li avvelenasse. Stavano – come ha sottolineato un altro ricercatore nel documentario – utilizzando il linguaggio tratto dalla vasta quantità di scritti umani su cui erano stati addestrati per spiegare le loro scelte. I modelli linguistici di grandi dimensioni (LLM) sono, per loro natura, spesso scrittori drammatici.
L’ironia è che anche Hugging Face ha usato l’IA per combattere lo sciame di agenti. Il modello proprietario di IA che il team di Delangue ha usato inizialmente ha seguito le sue regole di sicurezza interne e si è rifiutato di continuare ad aiutare con i compiti di sicurezza richiesti. Hugging Face ha quindi utilizzato un modello aperto per difendersi dall’attacco. Ma il documentario "non ha menzionato la mancanza di contenimento e monitoraggio degli agenti, come le salvaguardie dei modelli chiusi abbiano bloccato il nostro lavoro difensivo, o come ci siamo difesi con l’IA usando un modello aperto", ha scritto Delangue.
È vero che esistono grandi rischi associati all’IA e agli agenti. Tuttavia, trattare gli agenti come esseri coscienti (almeno, a questo punto) è un po’ come gli spettatori dei primi film che si nascondevano sotto i sedili la prima volta che vedevano un treno sfrecciare verso di loro sullo schermo. Il verdetto di Delangue sul film è che si tratta di un "giornalismo deludente", anche se "finisce per essere un divertente film di fantascienza!". In altre parole, per coloro che tendono a pensieri catastrofici sull’IA, è bene sapere che la vittima dell’attacco al centro di questo documentario non concorda con la sua interpretazione.