Timnit Gebru non crede a una minaccia esistenziale dall’AI
L’Intelligenza Artificiale “Ricorsiva” e il “Ragionamento”: Più Aspirazione che Realtà, Secondo gli Esperti
Mentre il New York Times celebra le prospettive dell’intelligenza ricorsiva – l’AI che apprende da altre AI – e l’industria ne decanta le capacità di “ragionamento”, una voce autorevole nel campo dell’apprendimento automatico invita alla cautela, etichettando gran parte di queste affermazioni come “denominazione aspirazionale” piuttosto che una descrizione della realtà attuale. Il dibattito solleva interrogativi fondamentali sulla vera natura delle attuali capacità dell’IA.
La questione centrale, secondo l’esperto, risiede nell’abitudine dei ricercatori di IA di dare nomi ambiziosi a concetti e tecniche. Il termine “machine learning” stesso ne è un esempio lampante: sebbene l’apprendimento automatico sia una realtà, la “macchina” non necessariamente possiede la comprensione implicata dal nome. Allo stesso modo, campi come il “curriculum learning” in IA esistono, ma la loro denominazione può suggerire un livello di sofisticazione non ancora raggiunto.
A sostegno di questa tesi, viene citato il lavoro di Samy Bengio, una figura di spicco nel campo del machine learning e attuale capo della ricerca in apprendimento automatico presso Apple. Bengio e il suo team hanno costantemente dimostrato come, modificando leggermente i benchmark di valutazione, i modelli di IA che si presumevano in grado di “ragionare” falliscono clamorosamente. Questo suggerisce che non si tratta di vero ragionamento, ma piuttosto di una dipendenza da schemi preesistenti. L’espressione “chain-of-thought reasoning” è un altro esempio: i modelli producono sequenze di token che vengono etichettate come ragionamento, senza che vi sia una prova concreta di un processo cognitivo sottostante.
Una delle maggiori crisi attuali nella ricerca scientifica risiede nella mancanza di rigore e trasparenza, specialmente da parte delle grandi aziende di IA. L’assenza di accesso ai dati di training, al codice e ai dati di valutazione rende impossibile per i ricercatori esterni replicare e validare le affermazioni. Questo equivale a “studiare per il compito”, dove i modelli potrebbero aver semplicemente “ingerito” i benchmark di valutazione durante l’addestramento, rendendo i risultati ingannevoli. Ogni volta che è stato possibile accedere a tali dati, le pretese avanzate si sono dimostrate infondate.
I documenti del team di Samy Bengio, anche quelli più recenti, mostrano come piccole modifiche ai benchmark portino al crollo delle prestazioni, rivelando che i modelli si basavano esclusivamente su pattern. Di fronte a chi obietta che si parla di modelli passati, la risposta è chiara: la vera valutazione scientifica richiede tempo. Non si può passare dalle dichiarazioni stampa ai legislatori che le ripetono e ai giornalisti che le amplificano senza un’adeguata verifica. Per una ricerca e una valutazione autentiche, è indispensabile richiedere i dati di training, i dati di valutazione e la metodologia, per garantire la riproducibilità.
In sintesi, il “pensare”, il “ragionamento” e l’ “intelligenza ricorsiva” rimangono, per l’esperto, prerogativa puramente umana, profondamente legata ai nostri processi neurali. I sistemi di intelligenza artificiale, per ora, non operano in questo modo, e le affermazioni contrarie rischiano di confondere l’aspirazione con la realtà scientifica.