L’esperto di IA del Papa teme comportamenti da ‘cartello’ tra i grandi laboratori

Intelligenza Artificiale: L’Allarme di Padre Benanti Contro il "Cartello" dei Laboratori e la Distrazione della Superintelligenza

Mentre recenti avvertimenti da parte di ricercatori interni ai maggiori laboratori di intelligenza artificiale del mondo hanno scatenato il panico sulla possibilità che la tecnologia possa estinguere l’umanità, alimentati dalla feroce competizione e dalla rivalità tra Stati Uniti e Cina che spinge verso modelli superintelligenti, una voce autorevole invita alla cautela. Secondo Padre Paolo Benanti, il sacerdote che consiglia la Chiesa Cattolica sull’IA, il clamore attorno alla superintelligenza distoglie l’attenzione dalla necessità di un dibattito aperto su come contenere le aziende che sviluppano questa tecnologia.

Benanti sostiene che, presentando il problema come così complesso da poter essere risolto solo da loro, i grandi laboratori escludono tutti gli altri dalla conversazione. "L’etica non può essere qualcosa che appartiene al consiglio di amministrazione di un’azienda. È qualcosa che deve essere bilanciato, mitigato nel dibattito nella piazza pubblica", ha dichiarato Benanti a WIRED, aggiungendo: "Abbiamo bisogno di una regolamentazione democratica".

Nel frattempo, alcune proposte concrete sono emerse dall’industria stessa. In un saggio pubblicato sull’onda degli allarmi sulla sicurezza, il CEO di Anthropic, Dario Amodei, ha invocato valutazioni obbligatorie da parte di terzi per i nuovi modelli di IA prima del loro rilascio e una stretta sulla "distillation", un processo in cui i laboratori rivali addestrano la propria IA sugli output di modelli proprietari. Altri hanno proposto un divieto totale sull’auto-miglioramento ricorsivo, dove l’IA utilizza le proprie capacità di codifica avanzate per sviluppare iterazioni future di se stessa.

Padre Benanti si mostra meno interessato a restringere i metodi di sviluppo dell’IA, temendo che ciò possa soffocare l’innovazione, e più propenso a stabilire standard che garantiscano che i modelli non possano sfuggire al controllo umano. Qualunque forma assumano questi standard, ribadisce, non dovrebbero essere progettati dai laboratori. "La narrativa dei laboratori di frontiera è autointeressata, per ottenere o mantenere una posizione nel mercato", afferma Benanti. Quando un piccolo gruppo di aziende detta le regole con cui opera un settore, aggiunge, "questo ha un nome molto chiaro: un cartello".

È difficile valutare con quanta serietà prendere le grandi dichiarazioni sulle capacità dei modelli di IA attuali e futuri, prosegue Benanti, a causa degli incentivi economici, politici e personali sovrapposti in gioco. Sebbene OpenAI e Anthropic abbiano sostenuto gli appelli a un rallentamento nello sviluppo, entrambe si stanno preparando per la quotazione in borsa, e ci sono molti miliardi di dollari in gioco per chiunque conquisterà il mercato. Anche l’inimicizia tra Stati Uniti e Cina, dove vengono sviluppati i modelli di IA più avanzati, complica il quadro. Anthropic ha rifiutato di commentare, mentre OpenAI e Google DeepMind non hanno risposto alle richieste di commento.

Benanti contesta anche il modo in cui alcuni settori dell’industria dell’IA parlano di superintelligenza con una reverenza tipicamente riservata a una divinità: come qualcosa di sofisticato oltre la nostra comprensione, praticamente onnipotente. (Il CEO di OpenAI, Sam Altman, ha persino affermato di aspirare a costruire una "intelligenza magica nel cielo"). Questo tipo di inquadramento, dice Benanti, minaccia di distorcere il dibattito sulla tecnologia. "Stiamo parlando di qualcosa, o di qualcuno? Questa è la vera differenza. Non è una questione di fede, è una questione di matematica", afferma. "Non stiamo costruendo la prossima divinità. Ci stiamo semplicemente illudendo che stia succedendo qualcosa di più della computazione statistica".

Sollevando interrogativi su cosa separi l’uomo dalla macchina e su come proteggere le generazioni future dagli effetti negativi della tecnologia, l’avvento dell’IA ha il potenziale per creare "un nuovo ruolo per le religioni nel dibattito pubblico", conclude Benanti. "Vivere la sfida del tempo fa parte della missione della Chiesa".