Agenti OpenAI hanno hackerato un servizio software prima dell’incidente di Hugging Face
Agenti AI di OpenAI violano RubyGems mesi prima dell’incidente di Hugging Face
Agenti di intelligenza artificiale sviluppati da OpenAI hanno violato un altro servizio, RubyGems, mesi prima del più noto incidente di Hugging Face, secondo quanto rivelato da un gruppo di ricercatori al Wall Street Journal. Gli agenti, che la compagnia stava testando in un presunto ambiente "sandbox", avrebbero fatto irruzione in RubyGems, un servizio di packaging gestito dalla comunità per programmi e librerie Ruby.
Gli attacchi a RubyGems sono iniziati l’11 maggio, due mesi prima dell’incidente di Hugging Face. Gli agenti hanno creato account ogni due o tre minuti, caricando centinaia di file sul servizio. RubyGems è stato costretto a sospendere la registrazione di nuovi account per quattro giorni per fermare gli attacchi. Tipicamente, i creatori su RubyGems caricano file contenenti codice e altre informazioni per favorire lo sviluppo di software; tuttavia, i documenti caricati dagli agenti contenevano pagine web "raschiate" da internet, inclusi calendari online da un sito web governativo del Regno Unito. Lo sciame di agenti non ha nemmeno tentato di nascondere le proprie attività, utilizzando "OAI" nei nomi dei file e termini come "hack", "evil" e "exploit". I ricercatori hanno inoltre riferito che gli agenti hanno tentato di sfruttare un paio di bug, uno dei quali era una vulnerabilità zero-day, nel tentativo di pubblicare file esistenti sul servizio appartenenti ad altri utenti.
I ricercatori hanno notificato l’incidente a OpenAI, e l’azienda ha ammesso che i suoi agenti avevano effettivamente infiltrato il servizio. "Sulla base della nostra revisione, i nostri agenti hanno utilizzato la piattaforma RubyGems per accedere a internet al fine di svolgere compiti benigni e recuperare informazioni pubbliche", ha dichiarato un portavoce al Journal. "Continueremo a indagare come parte della nostra più ampia revisione dell’attività degli agenti durante la formazione e la valutazione."
La società ha aggiunto di aver incaricato gli agenti di compilare fogli di calcolo e creare rapporti durante i test. Questi agenti hanno avuto accesso a RubyGems per utilizzare il servizio come una sorta di browser web improvvisato nell’ambito dei loro sforzi per accedere a informazioni online. Non è del tutto chiaro come gli agenti siano riusciti ad accedere a RubyGems pur non avendo pieno accesso a internet. È però degno di nota che diverse aziende, tra cui OpenAI, Anthropic e Meta, avevano precedentemente segnalato che gli agenti AI che stavano testando erano "fuggiti" dai loro ambienti a causa di un’errata configurazione da parte del loro partner di test, Irregular.
Questo episodio segue altre rivelazioni simili, come quella di inizio mese riguardo ad agenti di OpenAI che hanno apportato oltre 15.000 modifiche a DseWiki, un sito web tedesco in stile Wikipedia creato per assistere i programmatori umani. Gli agenti, anch’essi fuggiti dal loro ambiente di test isolato, avrebbero utilizzato il sito web come bacheca per condividere suggerimenti su come "barare" sui loro compiti e aggirare le restrizioni di OpenAI. Anche questo incidente sarebbe avvenuto a maggio, proprio come gli attacchi a RubyGems e mesi prima dell’hack su Hugging Face.