Addetto alla sicurezza di OpenAI si dimette: “La cultura aziendale è rotta”

Ex-Dipendente OpenAI Lancia un Duro Avvertimento: "La Nostra Cultura è Infranta"

David Robinson, un dipendente di lungo corso di OpenAI, ha rassegnato le dimissioni, definendosi "qualcosa di un cliché": un tecnico di un’azienda leader nell’IA che lancia un cupo avvertimento lasciando il suo impiego. In un saggio pubblicato su The Atlantic, Robinson, che con tre anni e mezzo di servizio è tra i dipendenti con maggiore anzianità in OpenAI, ha dichiarato di aver guidato la stesura di rapporti sulla sicurezza che accompagnavano i principali lanci di prodotti dell’azienda. La sua decisione di lasciare è motivata dalla convinzione che la "cultura dell’azienda sia infranta".

Le osservazioni di Robinson fanno eco, per certi versi, a quelle di Jacob Coxon, ex ricercatore sia di OpenAI che di Anthropic, il quale aveva lasciato le aziende dichiarando che stessero "scommettendo con le nostre vite". I commenti di Coxon avevano innescato un dibattito più ampio sulla sicurezza dell’IA, portando il CEO di Anthropic, Dario Amodei, a presentare un piano per uno sviluppo più cauto dell’IA. Recentemente, i dirigenti dell’IA hanno incontrato il presidente Donald Trump e hanno firmato un impegno, apparentemente redatto in fretta e non vincolante, per implementare maggiori controlli di sicurezza.

Tuttavia, secondo Robinson, il dibattito deve andare oltre "regole specifiche o nuove leggi", affrontando la cultura generale di queste aziende. Mentre gran parte dei resoconti su OpenAI si sono concentrati su come il CEO Sam Altman abbia perso la fiducia degli ex colleghi, il saggio di Robinson suggerisce che i problemi culturali di OpenAI siano gli stessi riscontrabili in tutta la Silicon Valley.

"OpenAI ha prosperato per tentativi ed errori (che chiama ‘implementazione iterativa’), cercando problemi e migliorando le sue protezioni in risposta", ha scritto. "Ma questo approccio, per sua natura, garantisce fallimenti periodici – e la portata di questi fallimenti sta crescendo man mano che i sistemi diventano più capaci." Facendo riferimento alla recente violazione dei sistemi di Hugging Face da parte di agenti OpenAI, così come alle continue rivelazioni di OpenAI che scopre agenti "canaglia", Robinson ha sostenuto: "Un ambiente in cui possono accadere cose del genere non è il posto dove far crescere menti artificiali che potrebbero essere più intelligenti di noi e che potrebbero non fare ciò che vogliamo."

Dato l’aumento del rischio, Robinson ha affermato che le aziende di IA all’avanguardia devono iniziare a operare "come centrali nucleari o aeroporti trafficati, con strati di ridondanza e una pianificazione attenta e che richiede tempo, in modo che l’occasionale e inevitabile errore umano non apra la porta al disastro." Tuttavia, Robinson ha dichiarato che durante il suo periodo in OpenAI, non ha "mai incontrato un collega che avesse esperienza nel far volare aerei in sicurezza o nel far funzionare reattori nucleari senza fusioni, o nell’aiutare il sistema finanziario a crescere senza crollare."

In risposta al saggio di Robinson, il portavoce di OpenAI, Drew Pusateri, ha dichiarato che l’azienda continua a migliorare le sue misure di sicurezza. "Ci stiamo assicurando che i nostri modelli non diventino più capaci di quanto possiamo gestire e mettere in sicurezza in modo affidabile, e mettiamo in pausa l’addestramento o tratteniamo i modelli quando dobbiamo rallentare", ha affermato Pusateri in una dichiarazione. "Stiamo apportando modifiche significative per rafforzare la sicurezza nei nostri ambienti di ricerca e test, addestrare i modelli non solo a completare compiti ma a farlo in modo responsabile, espandere il nostro lavoro con valutatori esterni e migliorare il monitoraggio in tempo reale in modo da poter rilevare e rispondere a comportamenti preoccupanti più precocemente nel processo di addestramento."

Oltre a chiedere cambiamenti nella cultura di OpenAI, Robinson ha anche affermato che è tempo di porsi domande più grandi sull’allineamento – qualcosa che ha ammesso potrebbe sembrare "troppo emotivo", ma che è critico poiché le attuali "misure di quanto bene" i sistemi di IA "corrispondano ai valori umani sono grossolane". "Più l’industria permette ai modelli di crescere mentre questi problemi rimangono irrisolti, più pericolosa diventa la nostra situazione", ha detto.

La partenza di Robinson è stata inizialmente riportata da Business Insider. Nel suo saggio, ha anche riconosciuto di seguire un passo apparentemente comune nel manuale dei whistleblower dell’IA: ha assunto una società di pubbliche relazioni. Ma ha insistito: "La decisione di parlare è solo mia." "Forse avrei dovuto restare e lottare per cambiamenti fondamentali nel nostro personale e nella nostra cultura, ma in pratica, io e i miei colleghi eravamo così impegnati a correre che raramente avevamo la possibilità di considerare grandi cambiamenti, figuriamoci di realizzarli effettivamente", ha detto Robinson. "Ecco perché ho concluso che incentivi più forti per la sicurezza – provenienti dall’esterno dell’azienda – sono una parte importante per fare le cose per bene."