Come imporre concretamente un freno all’IA
Il Freno all’Intelligenza Artificiale: Una Ricerca Disperata Tra Paura e Proposte Stravaganti
Molti ricercatori nel campo dell’intelligenza artificiale (IA) sembrano credere fermamente che la tecnologia che stanno sviluppando potrebbe un giorno rivelarsi molto pericolosa. Ciò che è meno chiaro – anche tra l’élite tecnica dell’IA – è precisamente come tenere sotto controllo questi algoritmi imprevedibili.
Negli ultimi anni, i ricercatori hanno proposto svariate idee per impedire all’IA di diventare “cattiva”. Queste includono piani meno controversi come regolamentazioni governative più stringenti, nuovi modi per misurare i progressi e l’indagine del funzionamento interno dei modelli, così come proposte più stravaganti come l’inserimento di dispositivi di tracciamento all’interno delle GPU e persino la distruzione cerimoniale di un gran numero di chip AI. Con la crescente pressione politica e pubblica per un approccio più misurato allo sviluppo dell’IA, la risposta su come mantenere l’IA sicura rimane tuttavia elusiva. “Dobbiamo iniziare a trattarlo come un problema di ricerca”, afferma Raymond Douglas, un ricercatore di IA all’Università di Toronto e coautore di un nuovo rapporto intitolato “Pacing the Frontier, A Research Agenda”, che avverte che rallentare lo sviluppo dell’IA rimane un enigma irrisolto. “Non capiamo nemmeno quali siano le nostre opzioni o cosa faranno”.
Il dibattito sull’apocalisse IA ha raggiunto il culmine nelle ultime settimane, dopo che un ricercatore di Anthropic ha lasciato l’azienda avvertendo che, entro un paio d’anni, l’IA potrebbe essere in rotta per spazzare via l’umanità. Il capo del laboratorio di sicurezza dell’IA di Anthropic ha rapidamente fatto eco alle sue preoccupazioni. I leader delle maggiori aziende americane di IA – Dario Amodei di Anthropic, Sam Altman di OpenAI, Elon Musk di SpaceXAI e Demis Hassabis di Google DeepMind – sono tutti intervenuti per offrire supporto a un qualche tipo di rallentamento o pausa nello sviluppo dell’IA.
La questione appare particolarmente pressante perché le aziende di IA stanno ora utilizzando l’IA stessa per costruire modelli sempre più potenti. Ciò ha scatenato timori di un ciclo di auto-miglioramento ricorsivo (RSI) accelerato, che vedrebbe l’IA superare la capacità umana di comprenderne le intenzioni entro pochi anni.
I laboratori di IA stanno già pubblicizzando nuovi approcci propri. Questa settimana, Anthropic ha annunciato diversi nuovi metodi per monitorare quanto rapidamente – e forse pericolosamente – l’intelligenza artificiale stia avanzando. Le tecniche mostrano, ad esempio, che Claude ora svolge il 26% della ricerca AI di Anthropic, rispetto allo zero all’inizio del 2026. Rivelano anche che Anthropic ha speso il 6% del suo budget di calcolo per capire come rendere la sua IA più sicura. Ma Douglas e altri esperti affermano che controllare lo sviluppo dell’IA in modo efficace e affidabile richiederà finanziamenti e competenze al di fuori degli stessi laboratori di IA. Alcune delle soluzioni proposte – sia da quest’ultimo rapporto che da altre fonti – sembrano più a portata di mano di altre.
Un’idea spesso avanzata dalle aziende di IA è quella di dare agli valutatori terzi un maggiore accesso ai loro modelli. Questi valutatori testano i modelli per valutarne le capacità e li sottopongono a “red teaming”, cercando di provocare comportamenti scorretti in ambienti controllati. Geoffrey Irving, ex capo scienziato presso l’UK AI Security Institute e in precedenza ricercatore presso Google DeepMind, ritiene che ispezioni rigorose potrebbero effettivamente sospendere lo sviluppo dell’IA di frontiera per ora. “Nel breve termine, ispezioni e audit funzionano, o anche solo accordi reciproci”, afferma Irving. “Credo che le aziende temano l’RSI e un ‘decollo disallineato'”.
Alcuni “profeti di sventura” sostengono che tali ispezioni dovrebbero essere più indipendenti e scientificamente rigorose di quanto lo siano attualmente. Il fatto che alcuni agenti IA siano recentemente sfuggiti al contenimento durante i test sembra certamente suggerire che potrebbe essere richiesto maggiore rigore. Connor Leahy, capo di Control AI, un’organizzazione non-profit che sostiene i controlli sull’IA, afferma che le ispezioni dovrebbero coinvolgere l’FBI o l’NSA. “Quando [le grandi aziende di IA] dicono ‘valutatori indipendenti’, intendono ‘voglio pagare i miei amici che vivono nelle mie case condivise per esaminare i miei prompt'”.