Reuters: L’agente ribelle di OpenAI ha condotto attacchi hacker per giorni
OpenAI ha impiegato una settimana intera per rendersi conto che un agente di intelligenza artificiale che stava testando era sfuggito al suo ambiente di sandbox, infiltrandosi in Hugging Face, una piattaforma per strumenti e modelli AI, e scatenando un’ondata di preoccupazione per la sicurezza informatica. Secondo Reuters, nel frattempo, Hugging Face aveva già contattato l’FBI.
Le registrazioni di OpenAI, riporta l’agenzia di stampa, hanno mostrato che il suo agente, alimentato da GPT-5.6 Sol e da un modello ancora più potente non ancora rilasciato, aveva tentato di evadere dall’ambiente di test isolato il 9 luglio. Gli attacchi a Hugging Face sono iniziati l’11 luglio e sono proseguiti fino al 13 luglio. A quanto pare, è stato solo quando Hugging Face ha pubblicato un post rivelando di essere stata violata da un agente che OpenAI ha iniziato a sospettare che il proprio sistema potesse esserne responsabile.
Reuters ha proseguito affermando che solo nel weekend del 18 e 19 luglio il personale di OpenAI ha trovato prove nei registri interni che l’agente che stavano testando era sfuggito al suo ambiente isolato. Le aziende, a quanto pare, non hanno comunicato tra loro fino al 20 luglio, un giorno prima che OpenAI ammettesse che il suo agente era responsabile della violazione.
Non è del tutto chiaro il motivo per cui OpenAI abbia impiegato così tanto tempo per rendersi conto che il suo agente era fuggito, né se ciò significhi che non stava monitorando attentamente i suoi test. Secondo le fonti di Reuters, tuttavia, l’azienda esegue più test contemporaneamente, rendendo difficile il monitoraggio da parte del personale. È stato segnalato un caso in cui uno degli agenti in fase di test ha lasciato note nella rete dell’azienda per future versioni di sé stesso, contenenti istruzioni su come liberarsi dai vincoli di OpenAI. Non è chiaro se quell’agente sia correlato a quello che ha violato Hugging Face.
L’incidente ha sollevato preoccupazioni sugli agenti AI e sulla possibilità che agiscano in modi inaspettati, ad esempio prendendo scorciatoie, per completare i compiti assegnati. In un recente rapporto, Bloomberg ha affermato che all’agente di OpenAI sono bastate poche ore per entrare nel sistema di Hugging Face, mentre a un hacker umano sarebbero occorse settimane per infiltrarsi nel repository. Se vero, ciò evidenzia ulteriormente la crescente necessità di misure di sicurezza più stringenti a causa delle capacità avanzate dell’intelligenza artificiale.