Campbell Brown, ex capo delle notizie di Meta, riflette su chi decide cosa l’IA ti dice

Dalla TV all’IA: Campbell Brown in prima linea per la verità digitale

Campbell Brown, figura di spicco nel giornalismo televisivo e prima, e unica, responsabile delle notizie per Facebook, ha dedicato la sua carriera alla ricerca di informazioni accurate. Ora, osservando come l’intelligenza artificiale stia ridefinendo il consumo di informazioni, vede la storia minacciare di ripetersi. Questa volta, non intende aspettare che siano altri a risolvere il problema.

La sua azienda, Forum AI, che ha recentemente discusso con Tim Fernholz di TechCrunch, valuta le prestazioni dei modelli fondazionali su quelli che lei definisce “argomenti ad alto rischio”: geopolitica, salute mentale, finanza, assunzioni. Si tratta di ambiti dove “non ci sono risposte chiare sì-o-no, dove la situazione è torbida, sfumata e complessa.”

L’obiettivo è individuare i massimi esperti mondiali, far loro definire dei parametri di riferimento e poi addestrare giudici AI a valutare i modelli su vasta scala. Per il lavoro di Forum AI sulla geopolitica, Brown ha reclutato personalità del calibro di Niall Ferguson, Fareed Zakaria, l’ex Segretario di Stato Tony Blinken, l’ex Speaker della Camera Kevin McCarthy e Anne Neuberger, che ha guidato la cybersecurity nell’amministrazione Obama. L’ambizione è che i giudici AI raggiungano un consenso di circa il 90% con questi esperti umani, una soglia che, secondo Brown, Forum AI è riuscita a raggiungere.

Brown fa risalire l’origine di Forum AI, fondata 17 mesi fa a New York, a un momento preciso. “Ero a Meta quando ChatGPT è stato rilasciato pubblicamente,” ha ricordato, “e ricordo di aver capito molto presto che questo sarebbe diventato il canale attraverso cui tutte le informazioni sarebbero confluite. E non era molto buono.” Le implicazioni per i suoi figli hanno reso il momento quasi esistenziale. “I miei figli diventeranno veramente stupidi se non troviamo il modo di risolvere questo problema,” ha ripensato.

Ciò che la frustrava di più era che l’accuratezza non sembrava essere una priorità per nessuno. Le aziende di modelli fondazionali, ha spiegato, sono “estremamente concentrate sulla codifica e la matematica,” mentre le notizie e le informazioni sono più difficili. Ma più difficile, ha sostenuto, non significa facoltativo.

Quando Forum AI ha iniziato a valutare i modelli principali, i risultati non sono stati esattamente incoraggianti. Ha citato Gemini che attinge a siti web del Partito Comunista Cinese “per storie che non hanno nulla a che fare con la Cina,” e ha notato un pregiudizio politico di sinistra in quasi tutti i modelli. Sono abbondanti anche fallimenti più sottili, ha aggiunto, inclusa la mancanza di contesto, di prospettive, e la creazione di argomentazioni fuorvianti senza riconoscimento. “C’è ancora molta strada da fare,” ha affermato, “ma credo anche che ci siano alcune soluzioni molto semplici che migliorerebbero enormemente i risultati.”

Brown ha trascorso anni a Facebook osservando cosa succede quando una piattaforma ottimizza per l’elemento sbagliato. “Abbiamo fallito in molte delle cose che abbiamo provato,” ha detto a Fernholz. Il programma di fact-checking che aveva creato non esiste più. La lezione, anche se i social media l’hanno ignorata, è che ottimizzare per l’engagement è stato deleterio per la società e ha lasciato molti meno informati.

La sua speranza è che l’IA possa rompere questo ciclo. “In questo momento la situazione potrebbe andare in entrambi i sensi,” ha detto; le aziende potrebbero dare agli utenti ciò che vogliono, oppure potrebbero “dare alle persone ciò che è reale, onesto e veritiero.” Ha riconosciuto che la versione idealistica di ciò – l’IA che ottimizza per la verità – potrebbe sembrare ingenua. Ma ritiene che le imprese possano essere un alleato improbabile in questo. Le aziende che utilizzano l’IA per decisioni di credito, prestiti, assicurazioni e assunzioni si preoccupano della responsabilità, e “vorranno che tu ottimizzi per fare le cose nel modo giusto.”

Questa domanda da parte delle imprese è anche ciò su cui Forum AI sta scommettendo il suo business, sebbene trasformare l’interesse per la conformità in entrate consistenti rimanga una sfida, soprattutto considerando che gran parte del mercato attuale si accontenta ancora di audit “a spunta” e benchmark standardizzati che Brown considera inadeguati.

Il panorama della conformità, ha dichiarato, è “uno scherzo.” Quando New York City ha approvato la prima legge contro la discriminazione nelle assunzioni che richiedeva audit dell’IA, il revisore dei conti dello stato ha rilevato che oltre la metà presentava violazioni che non erano state individuate. Una valutazione reale, ha detto, richiede competenze specifiche per affrontare non solo scenari noti ma anche casi limite che “possono metterti nei guai e a cui le persone non pensano.” E quel lavoro richiede tempo. “Gli specialisti generalisti intelligenti non bastano.”

Brown, la cui azienda ha raccolto 3 milioni di dollari lo scorso autunno guidati da Lerer Hippeau, è in una posizione unica per descrivere la disconnessione tra l’immagine che l’industria dell’IA ha di sé e la realtà per la maggior parte degli utenti. “Si sente dai leader delle grandi aziende tecnologiche, ‘Questa tecnologia cambierà il mondo,’ ‘ti farà perdere il lavoro,’ ‘curerà il cancro’,” ha detto. “Ma poi una persona normale che usa una chatbot per fare domande basilari riceve ancora un sacco di pasticci e risposte sbagliate.” La fiducia nell’IA è a livelli straordinariamente bassi, e lei ritiene che tale scetticismo sia, in molti casi, giustificato. “La conversazione sta avvenendo a Silicon Valley su una cosa, e una conversazione totalmente diversa sta avvenendo tra i consumatori.”