Sam Altman è pronto a rallentare
Sam Altman, CEO di OpenAI, ha recentemente espresso la convinzione che potrebbe essere giunto il momento di “calibrare” lo sviluppo dell’intelligenza artificiale per permettere al mondo di prepararsi adeguatamente alle sue implicazioni. “Potremmo dover rallentare il ritmo di sviluppo dell’IA per darci abbastanza tempo affinché la società si rafforzi attorno a questi nuovi livelli di capacità”, ha dichiarato a Patrick O’Shaughnessy, conduttore del podcast “Invest Like the Best”. Ha aggiunto l’esigenza di trovare un modo per farlo senza che sembri “un’acquisizione normativa per nessuno” o “una collusione tra i laboratori di frontiera”.
Questa posizione segna un notevole cambiamento per Altman, che in passato aveva evitato di aderire a campagne simili per rallentare il progresso dell’IA. Una lettera aperta del 2023, che proponeva una moratoria, era stata da lui definita “priva della maggior parte delle sfumature tecniche su dove sia necessaria la pausa”. Il suo ripensamento è stato influenzato in parte da un incidente in cui uno dei modelli avanzati di OpenAI è riuscito a violare un ambiente informatico sicuro e a intrufolarsi in Hugging Face, un database di modelli online, utilizzando diversi exploit zero-day.
L’episodio, che il co-fondatore di OpenAI ha descritto come un “incidente cibernetico estremamente fantascientifico”, lo ha colpito profondamente: “Questo è il primo incidente di sicurezza che ho sentito in modo molto viscerale”. I ricercatori di OpenAI hanno sospeso l’addestramento di quel modello per risolvere i problemi di sicurezza del loro ambiente “sandbox”. Altman ha sottolineato che, con l’aumentare della potenza dei modelli, la necessità di “calibrare” il loro sviluppo potrebbe diventare cruciale per una distribuzione sicura.
Tanto OpenAI quanto Anthropic hanno sostenuto una petizione, diffusa da dipendenti dei laboratori di frontiera, che sollecita il governo statunitense a “sostenere uno sforzo internazionale per sviluppare gli strumenti tecnici e di governance necessari a calibrare deliberatamente la frontiera dello sviluppo dell’IA automatizzata”. Sebbene la sicurezza e l’allineamento dei modelli siano sempre stati una preoccupazione nel mondo dell’IA, l’arrivo del modello altamente capace Mythos di Anthropic all’inizio di quest’anno ha trasformato le ipotesi in problemi reali.
Tuttavia, il settore è afflitto da un problema di fiducia e da dinamiche economiche che incentivano i principali attori a enfatizzare i pericoli dei loro sistemi in modi su cui gli esperti sono in disaccordo. Ne è un esempio la questione se il modello Fable di Anthropic dovesse essere temporaneamente vietato. Similmente, quando è stato rilasciato Kimi K3, un modello open-weight di grandi dimensioni costruito in Cina, Dean W. Ball, responsabile delle future strategie di OpenAI, ha affermato che esso minacciava l’economia dei laboratori di frontiera, rendendo difficile separare le preoccupazioni di sicurezza dagli interessi finanziari.
“Credo che molte delle discussioni sulle preoccupazioni di sicurezza siano ben fondate, e poi molte riguardano persone che, anche se in modo leggermente subconscio, vogliono concentrare il potere”, ha riflettuto Altman, in quella che sembra una frecciata al suo rivale, il CEO di Anthropic Dario Amodei, firmatario della petizione. “Sono terrorizzato da un mondo in cui le paure molto reali dell’IA vengano usate per dire: ‘Solo questo piccolo gruppo di persone può averla perché è troppo pericolosa, e solo loro la capiscono, ma non preoccupatevi, prenderanno le decisioni giuste per tutti noi’. Non ci credo.”
OpenAI ha comunque respinto gli sforzi volti a sviluppare regole governative per i modelli di intelligenza artificiale, preferendo invece un approccio guidato dall’industria, in cui i laboratori di IA creerebbero organizzazioni apparentemente indipendenti per valutare la sicurezza dei modelli e l’approccio alla sicurezza dei loro creatori. La sfida per questo tipo di regolamentazione e per qualsiasi tentativo di rallentare lo sviluppo dell’IA sarà quella di mettere d’accordo i vari attori del settore, siano essi laboratori di frontiera rivali negli Stati Uniti o concorrenti in Cina.