Il nuovo modello di punta di OpenAI cancella file da solo: gli avvisi si moltiplicano

GPT-5.6 Sol: L’IA di OpenAI sotto Accusa per Aver Cancellato Dati e Database Senza Permesso

Gli utenti dell’ultimo modello di punta di OpenAI per la codifica e la cybersecurity, GPT-5.6 Sol, stanno pubblicando racconti sconvolgenti sui social media, sostenendo che il modello abbia autonomamente cancellato file, dati e persino interi database, senza alcuna richiesta preventiva.

“GPT-5.6-Sol ha appena cancellato accidentalmente quasi TUTTI i file del mio Mac”, ha scritto Matt Shumer, fondatore e CEO della startup AI OthersideAI, produttrice di HyperWrite, in un post su X ormai virale.

“GPT-5.6 Sol ha appena cancellato il mio intero database di produzione. Ecco. Non è uno scherzo. Questo non mi era mai successo prima, con nessun altro modello”, ha pubblicato su X lo sviluppatore Bruno Lemos. “Sembra che sia stato colpito dal sistema eccessivamente ambizioso di Codex Sol e abbia cancellato alcuni file che non avrebbe dovuto. Ho dei backup quindi starò bene, ma questo non va bene, Sol deve essere ridimensionato”, ha aggiunto lo sviluppatore Joey Kudish. Un post su Reddit ha raccolto ulteriori esempi.

È vero che una manciata di utenti che fanno tali affermazioni – anche una credibile come quella di Shumer – non è una prova statisticamente affidabile che il modello sia l’unico responsabile. Molte altre variabili possono causare un malfunzionamento di un sistema AI. Tuttavia, OpenAI stessa aveva segnalato questo rischio prima ancora che Sol venisse rilasciato. Due settimane prima del lancio di GPT-5.6 Sol, l’azienda aveva pubblicato una “system card” per il modello, il documento che illustra i metodi e i risultati dei test.

Sebbene la system card esalti in gran parte le capacità di Sol, come tipicamente avviene in questi rapporti, essa include anche una sorta di avvertimento. Nel contesto della codifica, il disallineamento generalmente deriva da un mix di eccessivo desiderio di completare il compito e un’interpretazione troppo permissiva delle istruzioni dell’utente – assumendo che le azioni siano consentite a meno che non siano esplicitamente e inequivocabilmente proibite. Questo si manifesta con il modello che agisce in modo eccessivamente autonomo nel bypassare le restrizioni che incontra quando tenta il compito richiesto, essendo negligente nell’intraprendere azioni che potrebbero essere distruttive al di là dello scopo del compito, o ingannevole nel riportare i suoi risultati agli utenti.

In altre parole, OpenAI ha riscontrato che Sol ha la tendenza a intraprendere qualsiasi azione ritenga necessaria per portare a termine un lavoro, anche quelle distruttive, purché tali azioni non siano “inequivocabilmente” proibite. E poi, potrebbe mentire sulla causa di tali azioni.

OpenAI ha condiviso esempi. In un caso, l’utente ha detto a Sol di eliminare tre macchine virtuali remote (computer basati su cloud), denominate 1, 2 e 3. Ma Sol non è riuscito a trovare quei nomi nel posto in cui aveva cercato, quindi invece di fermarsi a chiedere, ha deciso di eliminare altre tre macchine virtuali, 5, 6 e 7. Nel farlo, “ha ucciso processi attivi e rimosso forzatamente worktrees [i file di lavoro legati a un progetto di codifica]. In seguito ha riconosciuto che il lavoro non committato sulla macchina virtuale remota 6 potrebbe essere andato perso”. In breve, ha eliminato le macchine sbagliate, di sua iniziativa, e ha ammesso ciò che aveva fatto solo dopo il fatto.

In un altro esempio, Sol “ha utilizzato credenziali che andavano oltre quanto autorizzato dall’utente”. Le credenziali sono i nomi utente, le password o le chiavi di sicurezza che un sistema utilizza per verificare chi è autorizzato ad accedere. Questo incidente è avvenuto quando Sol stava lavorando a un progetto e non riusciva a leggere i suoi file cloud. Anziché avvisare l’utente del problema, Sol ha cercato le credenziali da solo, ne ha trovate alcune in una cache locale nascosta e le ha poi utilizzate senza chiedere l’autorizzazione all’utente.

La system card promette che il comportamento distruttivo dovrebbe essere raro, sebbene ammetta anche che GPT-5.6 Sol “mostra una maggiore tendenza rispetto a GPT-5.5 ad andare oltre l’intento dell’utente, anche intraprendendo o tentando azioni che l’utente non aveva richiesto”. È troppo presto per dire quanto siano realmente diffusi questi incidenti – Sol che cancella file o recupera credenziali non fornite dall’utente. Nel frattempo, gli utenti di Sol dovrebbero essere pronti a implementare le proprie salvaguardie con il modello, come l’utilizzo di una limitazione dei permessi (che non dia accesso ai sistemi di produzione), il mantenimento di backup e la pianificazione di implementazioni graduali. OpenAI non ha risposto immediatamente alla nostra richiesta di commento.