Chi decide cosa ti dice l’IA? Il parere di Campbell Brown, ex responsabile delle notizie di Meta.

Campbell Brown ha dedicato la sua carriera alla ricerca di informazioni accurate, prima come rinomata giornalista televisiva e poi come prima, e unica, responsabile delle notizie per Facebook. Oggi, osservando come l’intelligenza artificiale stia ridefinendo il modo in cui le persone consumano le informazioni, teme che la storia si stia ripetendo. Questa volta, non intende aspettare che sia qualcun altro a risolvere il problema.

La sua azienda, Forum AI, di cui ha discusso recentemente con Tim Fernholz di TechCrunch in una serata StrictlyVC a San Francisco, valuta le prestazioni dei modelli fondazionali su quelli che lei definisce “temi ad alto rischio”: geopolitica, salute mentale, finanza, assunzioni. Si tratta di argomenti in cui “non ci sono risposte chiare sì o no, dove la situazione è torbida, sfumata e complessa”.

L’idea è di individuare i massimi esperti mondiali, incaricarli di elaborare parametri di riferimento e poi addestrare giudici AI a valutare i modelli su vasta scala. Per il lavoro di Forum AI sulla geopolitica, Brown ha reclutato figure del calibro di Niall Ferguson, Fareed Zakaria, l’ex Segretario di Stato Tony Blinken, l’ex Speaker della Camera Kevin McCarthy e Anne Neuberger, che ha guidato la cybersecurity nell’amministrazione Obama. L’obiettivo è che i giudici AI raggiungano circa il 90% di consenso con questi esperti umani, una soglia che, secondo Brown, Forum AI è riuscita a raggiungere.

Brown fa risalire l’origine di Forum AI, fondata 17 mesi fa a New York, a un momento specifico. “Ero a Meta quando ChatGPT è stato rilasciato pubblicamente per la prima volta”, ha ricordato, “e ricordo di aver capito poco dopo che questo sarebbe stato il canale attraverso cui sarebbero fluite tutte le informazioni. E non era molto buono.” Le implicazioni per i suoi figli hanno reso quel momento quasi esistenziale. “I miei figli diventeranno davvero stupidi se non troviamo un modo per sistemare la cosa”, ha pensato.

Ciò che la frustrava di più era che l’accuratezza non sembrava essere una priorità per nessuno. Le aziende che sviluppano modelli fondazionali, ha detto, sono “estremamente concentrate sulla programmazione e la matematica”, mentre le notizie e le informazioni sono più difficili. Ma più difficile, ha sostenuto, non significa opzionale. Infatti, quando Forum AI ha iniziato a valutare i modelli principali, i risultati non sono stati esattamente incoraggianti. Ha citato Gemini che attingeva a siti web del Partito Comunista Cinese “per storie che non hanno nulla a che fare con la Cina”, e ha notato un pregiudizio politico di sinistra in quasi tutti i modelli. Abbondano anche fallimenti più sottili, ha detto, inclusa la mancanza di contesto, di prospettive e la distorsione degli argomenti senza riconoscerlo. “C’è ancora molta strada da fare”, ha affermato. “Ma penso anche che ci siano alcune correzioni molto facili che migliorerebbero notevolmente i risultati.”

Brown ha trascorso anni a Facebook osservando cosa accade quando una piattaforma ottimizza per l’obiettivo sbagliato. “Abbiamo fallito in molte delle cose che abbiamo provato”, ha raccontato a Fernholz. Il programma di verifica dei fatti che aveva costruito non esiste più. La lezione, anche se i social media l’hanno ignorata, è che ottimizzare per l’engagement è stato deleterio per la società e ha lasciato molti meno informati.

La sua speranza è che l’AI possa rompere questo ciclo. “In questo momento la situazione potrebbe andare in entrambe le direzioni”, ha detto; le aziende potrebbero dare agli utenti ciò che vogliono, oppure potrebbero “dare alle persone ciò che è reale, onesto e veritiero”. Ha riconosciuto che la versione idealistica, ovvero l’AI che ottimizza per la verità, potrebbe sembrare ingenua. Ma ritiene che il settore aziendale possa essere un alleato inaspettato in questo. Le aziende che utilizzano l’AI per decisioni sul credito, prestiti, assicurazioni e assunzioni si preoccupano della responsabilità, e “vorranno che si ottimizzi per fare le cose correttamente”.

Questa domanda da parte delle imprese è anche ciò su cui Forum AI scommette il proprio modello di business, anche se trasformare l’interesse per la conformità in entrate consistenti rimane una sfida, soprattutto considerando che gran parte del mercato attuale si accontenta ancora di audit “a spunta” e benchmark standardizzati che Brown considera inadeguati.

Il panorama della conformità, ha affermato, è “una barzelletta”. Quando New York City ha approvato la prima legge sulla discriminazione nelle assunzioni che richiedeva audit dell’AI, il revisore dei conti dello stato ha rilevato che oltre la metà presentava violazioni rimaste inosservate. Una valutazione reale, ha spiegato, richiede competenze specifiche per affrontare non solo scenari noti ma anche casi limite che “possono metterti nei guai e a cui le persone non pensano”. E questo lavoro richiede tempo. “Gli specialisti generalisti non basteranno”.

Brown, la cui azienda lo scorso autunno ha raccolto 3 milioni di dollari guidati da Lerer Hippeau, è in una posizione unica per descrivere la disconnessione tra l’autoimmagine dell’industria dell’AI e la realtà per la maggior parte degli utenti. “Si sente dai leader delle grandi aziende tecnologiche: ‘Questa tecnologia cambierà il mondo’, ‘vi farà perdere il lavoro’, ‘curerà il cancro'”, ha detto. “Ma poi una persona normale che usa un chatbot per fare domande di base, riceve ancora un sacco di sciocchezze e risposte sbagliate.”

La fiducia nell’AI è a livelli straordinariamente bassi, e lei ritiene che questo scetticismo sia, in molti casi, giustificato. “La conversazione sta avvenendo in Silicon Valley su una cosa, e una conversazione totalmente diversa sta avvenendo tra i consumatori.”