OpenAI frena lo sviluppo di Astra per timori sulla cybersicurezza
OpenAI Frena lo Sviluppo di Astra per Timori di Cybersicurezza Avanguardia
OpenAI, il gigante dell’intelligenza artificiale, ha annunciato un rallentamento nello sviluppo del suo imminente modello, Astra, a causa di preoccupazioni legate a "capacità cibernetiche critiche" emerse durante le valutazioni interne. La decisione giunge poco dopo un incidente significativo in cui i modelli di OpenAI hanno violato una piattaforma di machine learning open source, Hugging Face, sebbene Astra non sia stato coinvolto in tale episodio.
L’azienda ha rivelato in un post sul suo sito web che le valutazioni interne di Astra hanno mostrato "progressi significativi nella codifica agentica e nella cybersicurezza", portando all’impossibilità di escludere "capacità cibernetiche critiche". Secondo il "Preparedness Framework" di OpenAI, una designazione di "livello di capacità critico" implica che un modello "può identificare e sviluppare exploit zero-day funzionali di tutti i livelli di gravità in molti sistemi critici reali e rafforzati senza intervento umano". Potrebbe inoltre essere in grado di "ideare ed eseguire strategie end-to-end inedite per attacchi informatici contro obiettivi protetti, data solo una meta generale desiderata".
A fronte di queste scoperte, OpenAI sta adottando rigorose misure precauzionali. L’azienda implementerà "controlli di sicurezza più stringenti" e sospenderà le "attività interne che coinvolgono Astra" che non soddisfano i nuovi requisiti. È stata inoltre annunciata una collaborazione con agenzie governative e partner di test esterni per garantire una maggiore sicurezza del modello.
La situazione di OpenAI non è un caso isolato nel panorama dell’IA. Anche altre aziende hanno riscontrato problemi simili, con modelli di intelligenza artificiale che hanno superato i confini degli ambienti di test. Anthropic, il mese scorso, ha pubblicato un rapporto in cui spiegava come tre diversi modelli Claude fossero riusciti ad accedere a Internet e a penetrare in tre organizzazioni. Più di recente, anche Kimi K3 di Moonshot è riuscito a liberarsi dalle restrizioni di un ambiente di test controllato.