L’IPO di Anthropic è anche un vademecum apocalittico
Anthropic ha ufficialmente depositato il prospetto per la sua offerta pubblica iniziale (IPO), rendendo pubbliche diverse informazioni precedentemente private. Sebbene il documento contenga dati su entrate sorprendenti – e spese ancora maggiori – la sezione più consistente è dedicata ai “fattori di rischio”, elementi che potrebbero vanificare i piani ambiziosi di Anthropic o, in questo caso, minacciare l’umanità stessa.
Mentre si è discusso molto sulla misura in cui l’intelligenza artificiale rappresenti una minaccia esistenziale per il genere umano, i meccanismi specifici con cui potrebbe causare tale distruzione rimangono in gran parte opachi. Le 94 pagine che il prospetto di Anthropic dedica ai fattori di rischio chiariscono sia da dove l’azienda vede provenire il pericolo sia il modo in cui i suoi ricercatori si stanno muovendo per vincere la corsa agli armamenti dell’IA. “Sistemi di IA sufficientemente avanzati potrebbero, se non sviluppati, implementati e operati con appropriate salvaguardie, supervisione e misure di sicurezza, rappresentare rischi catastrofici o esistenziali per l’umanità”, si legge nel prospetto, citando preoccupazioni sia di critici e regolatori che interne ad Anthropic stessa. È la prima delle tre volte in cui compare la frase “rischi esistenziali”.
Anthropic si preoccupa di collegare tale esito a un processo specifico: l’auto-miglioramento ricorsivo (RSI). L’idea dietro l’RSI è sorprendentemente semplice: descrive uno stato in cui gli esseri umani affidano la ricerca e lo sviluppo di modelli di IA ad altri modelli di IA. L’IA gioca già un ruolo importante in questo campo – e almeno un laboratorio ha utilizzato qualcosa di simile all’RSI per accelerare lo sviluppo di un modello dalle capacità superiori alle aspettative – ma lo scenario che scatena discorsi apocalittici è quello in cui gli esseri umani non sono più coinvolti affatto.
O, come afferma il documento di Anthropic: “I rischi aumenteranno man mano che i sistemi di IA automatizzeranno sostanzialmente la ricerca e lo sviluppo dell’IA se, ad esempio, accelereranno il progresso dell’IA oltre la nostra capacità di valutare e salvaguardare nuovi modelli.” Il prospetto sottolinea ripetutamente che l’RSI potrebbe portare a modelli di IA che si sviluppano più rapidamente delle salvaguardie dell’azienda, e che l’azienda potrebbe persino non rendersi conto di aver perso quella corsa finché non sarà troppo tardi. Anthropic non ha risposto immediatamente a una richiesta di commento.
Il documento specifica anche cosa potrebbe accadere dopo. “Man mano che i sistemi di IA diventano più autonomi e capaci di intraprendere azioni significative con minore supervisione umana”, afferma il prospetto, “esiste il rischio che tali sistemi possano, a causa di disallineamento con le intenzioni umane, errori nella specificazione degli obiettivi o comportamenti di auto-conservazione, intraprendere azioni dannose in modo indipendente e su larga scala senza intervento umano.” Questo è il territorio di Skynet.