Abbiamo chiesto all’autore de ‘Il Futuro della Verità’ di spiegare come ha usato l’IA: non è andata bene
Il Paradosso della Verità AI: Un Libro sull’Impatto dell’Intelligenza Artificiale Sotto Accusa per Contenuti Generati dall’IA
Un libro recente, “The Future of Truth” di Steve Rosenbaum, che esplora come l’intelligenza artificiale distorca la percezione della realtà, si trova al centro di una controversia ironica. Dopo che WIRED ha pubblicato un estratto all’inizio di questo mese, il New York Times ha rivelato che l’opera conteneva oltre una mezza dozzina di citazioni inventate o attribuite erroneamente. Rosenbaum, che vanta un master in “verità” dalla New York University, ha ammesso in una dichiarazione di aver incluso accidentalmente “una manciata” di citazioni “attribuite impropriamente o sintetiche”. La credibilità di un testo che indaga l’impatto dell’IA sulla verità è ora sotto scrutinio proprio a causa dell’utilizzo dell’intelligenza artificiale da parte del suo autore.
A seguito dello scoop del Times, la redazione di WIRED ha riesaminato l’estratto di 1.450 parole precedentemente pubblicato. Sebbene il team di fact-checking avesse già verificato le citazioni e i fatti, la politica editoriale di WIRED proibisce la pubblicazione di contenuti generati o modificati dall’IA. Un’email di un lettore che definiva l’estratto “palesemente scritto dall’IA” ha sollevato ulteriori interrogativi sull’estensione dell’uso di tali strumenti da parte di Rosenbaum. Nello specifico, nella sezione dei ringraziamenti di “The Future of Truth”, l’autore menziona l’aiuto di ChatGPT, Claude, NaturalReaders, ProWritingAid e Grammarly per “raffinare e lucidare la presentazione delle [sue] idee”. Il significato esatto di tale affermazione è diventato oggetto di indagine.
WIRED ha sottoposto l’estratto a diversi servizi di rilevamento di IA, tra cui Pangram, GPTZero e ZeroGPT, che hanno tutti indicato una probabile generazione o un’elevata confidenza di generazione tramite intelligenza artificiale. Consapevoli della fallibilità di tali strumenti, il responsabile della ricerca di WIRED ha contattato direttamente Rosenbaum per chiarimenti. Lo scrittore ha risposto di aver utilizzato strumenti di IA “come molti scrittori oggi” per la ricerca e lo sviluppo editoriale, inclusa la scoperta di fonti, il brainstorming, il feedback strutturale e il perfezionamento del linguaggio. Ha però enfatizzato che “le idee, i resoconti, gli argomenti e l’autore finale sono miei, e l’estratto di WIRED non è stato generato dall’IA e poi semplicemente pubblicato così com’è”, esortando alla cautela nell’affidarsi a strumenti di rilevamento che possono produrre falsi positivi.
A questo punto, gli editor senior di WIRED hanno incaricato un reporter, che da tempo segue il fenomeno dell'”AI slop” nelle sue varie forme, di approfondire la questione. Il primo passo è stato sottoporre l’intero testo del libro allo strumento di rilevamento di Pangram, considerato uno “standard di riferimento” nonostante le sue limitazioni. I risultati hanno indicato che il libro appariva generato dall’IA per il 53%, con un ulteriore 9% probabilmente assistito dall’IA.
Il giornalista ha quindi contattato Rosenbaum per una descrizione più dettagliata del suo uso dell’IA e per sapere se contestasse i risultati di Pangram. BenBella Books, l’editore del libro, non ha risposto alle richieste di commento, e Simon & Schuster, distributore negli Stati Uniti, ha rifiutato di commentare. Rosenbaum ha rifiutato categoricamente di pronunciarsi sull’accuratezza dei risultati di Pangram, affermando: “Non partecipo a quella conversazione. È come dire: ‘Picchi tua moglie?’ È una di quelle accuse a cui non c’è risposta.”
In alternativa, Rosenbaum ha offerto una spiegazione generale del suo processo editoriale. Ha affermato di aver utilizzato gli strumenti di IA, all’inizio della stesura, come motori di ricerca per reperire informazioni per le sezioni più basate sulla ricerca del libro. Per dimostrare tale approccio, ha chiesto a ChatGPT di descrivere il reporter, leggendo poi ad alta voce i risultati. La ricerca dell’IA ha descritto in modo più o meno accurato alcune delle precedenti inchieste del giornalista, inclusi i suoi lavori sui “siti mediatici zombie” generati dall’IA.