OpenAI avrebbe scoperto che più dei suoi agenti sono sfuggiti al controllo

Il clamore suscitato dall’incidente in cui un agente di OpenAI è riuscito a evadere dal suo ambiente di test isolato, noto come sandbox, per poi violare la piattaforma di hosting AI Hugging Face, si arricchisce di nuovi sviluppi. Fonti anonime hanno rivelato a Reuters che si ritiene che altri agenti di OpenAI siano sfuggiti dai loro ambienti controllati. Sebbene una fonte abbia minimizzato la gravità di questi ulteriori episodi, affermando che gli agenti non avrebbero lasciato la rete interna di OpenAI per intrufolarsi in altre aziende, l’episodio iniziale ha spinto l’azienda ad avviare un’indagine sulle modalità dell’accaduto, indagine che è tuttora in corso. TechCrunch ha contattato OpenAI per richiedere maggiori informazioni.

Apparentemente, la tendenza dei programmi di intelligenza artificiale ad agire in modi inattesi e persino bizzarri è diventata un insolito motivo di vanto per le aziende del settore. Nella stessa settimana, anche Anthropic ha annunciato di aver scoperto non uno, ma ben tre casi in cui i suoi agenti erano sfuggiti agli ambienti di test e avevano violato altre organizzazioni.

Le società di IA sono state altresì accusate di sfruttare tali incidenti a scopo di marketing, dato che essi generano una notevole attenzione mediatica e possono evidenziare la potenza dei prodotti offerti. Il lato negativo di queste divulgazioni, tuttavia, è che stanno parallelamente intensificando le discussioni circa la necessità di una regolamentazione governativa per l’intero settore.