Ricercatori di sicurezza OpenAI licenziati contestano i propri licenziamenti in lettera aperta
Ricercatori Licenziati da OpenAI Denunciano un “Clima di Paura” e Mettono in Guardia sulla Sicurezza
Tre ex ricercatori per la sicurezza di OpenAI, Jasmine Wang, Mikita Balesni e Tomek Korbak, hanno pubblicato una lettera aperta indirizzata all’azienda, contestando i loro licenziamenti. Essi affermano che la “modalità molto pubblica” con cui l’azienda ha gestito le loro espulsioni potrebbe generare un “effetto raggelante” tra i dipendenti, in un momento in cui “la sicurezza mondiale dipende da loro”.
La scorsa settimana, OpenAI ha licenziato i tre dipendenti accusandoli di aver condiviso informazioni con un’organizzazione esterna per la sicurezza dell’IA. L’azienda ha dichiarato che i ricercatori avrebbero “violato le nostre politiche sull’accesso e la gestione delle informazioni aziendali sensibili… rompendo la fiducia essenziale per il nostro lavoro”. Tuttavia, a fronte di recenti gravi e potenzialmente illegali attacchi da parte di agenti OpenAI contro Hugging Face e altre organizzazioni, i licenziamenti di figure chiave per la sicurezza hanno sollevato interrogativi scomodi e catturato l’attenzione dei legislatori.
Nella loro lettera congiunta, gli ex dipendenti esprimono profonda preoccupazione: “Siamo diventati preoccupati che le comunicazioni interne ed esterne riguardanti il nostro licenziamento abbiano reso i nostri ex colleghi timorosi di parlare e operare in modi che, fino alla scorsa settimana, erano parte integrante del lavoro in OpenAI.” Essi ricordano che in precedenza era possibile “sollevare preoccupazioni sulla sicurezza e dissentire apertamente,” e che erano incoraggiati a basarsi sull’esperienza di organizzazioni di sicurezza indipendenti. “Questo faceva parte di ciò che rendeva OpenAI speciale, ed è per questo che siamo immensamente orgogliosi di aver fatto parte del team,” si legge nella lettera.
I ricercatori hanno dichiarato di aver “agito in linea con la missione di OpenAI e secondo le norme di lavoro dell’epoca”, e che il licenziamento “ci preoccupa che le norme all’interno di OpenAI stiano cambiando e che i dipendenti non abbiano più chiaro il loro ruolo”. Affrontando altre voci, Wang, Belsni e Korbak hanno anche negato di essere la fonte della fuga di notizie per un articolo di The Information riguardante le nuove architetture meno monitorabili di OpenAI, e hanno affermato di non credere di aver interagito con parti esterne al di fuori del loro mandato. Hanno aggiunto che la comunicazione con soggetti esterni avveniva “in coordinamento e discussione con i membri del consiglio e la dirigenza”, e che Wang aveva informato un dirigente quando aveva accidentalmente cliccato su un’e-mail sensibile.
In chiusura, gli ex dipendenti hanno rivolto diverse raccomandazioni a OpenAI. Hanno chiesto all’azienda di rispettare i suoi impegni pubblici di integrare auditor esterni per la sicurezza e di non usare il loro licenziamento come “pretesto per allontanarsi da tali partnership”. Hanno inoltre aggiunto che OpenAI deve preservare la monitorabilità dei modelli all’avanguardia e mantenere una “cultura aperta e trasparente di dialogo tra i suoi ricercatori per la sicurezza e il resto dell’ecosistema della sicurezza”.
In un thread su X, Jasmine Wang ha scritto che la dirigenza di OpenAI “dice di essere fortemente d’accordo con la nostra lettera”, pur esprimendo preoccupazione per l’apertura di OpenAI stessa. “Non siamo stati i primi a essere allontanati da OpenAI in circostanze sospette”, ha affermato. “A meno che i dipendenti non prendano posizione ora contro questo tipo di manovra, temo che non saremo gli ultimi. Il messaggio per tutti coloro che sono ancora in OpenAI è chiaro: sollevate preoccupazioni o lavorate a stretto contatto con gruppi di sicurezza esterni, e potreste essere i prossimi, senza che vi venga detto perché.”