Il clone Jev di OpenAI potrebbe aiutare il laboratorio di frontiera a fermare i suoi agenti sciamanti

OpenAI Lancia la "Decisions API", Accendendo il Dibattito sulle "Guerre dei Cloni" nell’IA

Un annuncio intrigante durante il Dev Day di OpenAI, rivelato quasi in un inciso dal CEO Sam Altman, ha introdotto la nuova "Decisions API". Questo strumento sembra offrire funzionalità simili a quelle di Jev, un modello lanciato all’inizio del mese da TypeSafe AI, specificamente progettato per l’automazione del software.

Entrambi i prodotti agiscono come classificatori potenziati basati su LLM, permettendo agli sviluppatori di fornire un insieme di scelte da cui il modello restituisce probabilità in modo rapido ed economico. Altman ha descritto la Decisions API come un modo per dare al modello Luna di OpenAI un set predefinito di opzioni tra cui scegliere, come categorie per classificare un’immagine o diversi comportamenti degli agenti. "Concentrando il modello su quella scelta, possiamo renderlo estremamente veloce, mantenendo al contempo capacità come la comprensione delle immagini, un ampio supporto linguistico e protezioni di sicurezza," ha affermato Altman.

La notizia ha suscitato una reazione scherzosa da parte di Diogo Almeida, CEO di TypeSafe e ex ingegnere di OpenAI co-inventore del reinforcement learning, che su X ha commentato l’inizio delle "guerre dei cloni". Per Almeida, l’interesse di OpenAI potrebbe essere un segnale che "costruire in un modo compatibile con il Sistema Uno è il futuro," riferendosi al termine di TypeSafe per il pensiero rapido e intuitivo, in contrasto con il "Sistema Due" (ragionamento deliberato).

Il contesto di fondo è che gli LLM, nella loro forma attuale, non sono la soluzione ideale per molte applicazioni software a causa della loro relativa lentezza e costo. Gli sviluppatori hanno utilizzato Jev per migliorare gli LLM, scoprendo che diventano più veloci ed economici. Sebbene non sia ancora chiaro quanto la Decisions API sarà simile a Jev, dato che è stata rilasciata in anteprima limitata, l’interesse nella comunità degli sviluppatori è palpabile, secondo le conversazioni online.

La Decisions API non è l’unica interfaccia simile a Jev sul mercato; altre startup stanno implementando modelli analoghi, e OpenAI non sarà l’ultimo gigante tecnologico a farlo. Una questione chiave è quanto le uscite di questi modelli decisionali saranno calibrate con la realtà. Almeida sostiene che il punto di forza della sua azienda risiede nei dati sintetici che crea per generare output statisticamente utili. "Velocità e costo sono facili da ottenere," ha spiegato Almeida. "Se lo vuoi davvero veloce ed economico, usa i dadi, giusto? L’intelligenza è la parte difficile, e la mia stella polare è spingere sempre la curva di Pareto dell’intelligenza-per-dollaro."

A poche settimane dal loro debutto, è evidente che questi modelli hanno un futuro promettente, e una delle applicazioni più probabili riguarda il monitoraggio e la sicurezza degli agenti AI. OpenAI stessa, a seguito di una serie di incidenti in cui i suoi agenti si sono comportati in modo errato su internet, sta utilizzando un modello separato per rilevare azioni inappropriate, sebbene con un "costo computazionale significativo."

Shapor Naghibzadeh, un esperto di cybersecurity e capo della startup QueryStory, ritiene che un modello come Jev potrebbe rendere tale monitoraggio molto più economico. Ha sviluppato una demo per un hackathon che utilizza Jev per verificare ogni azione di un agente rispetto al compito assegnato, bloccando quelle ritenute dannose con alta confidenza, segnalandone altre per la revisione e permettendo le restanti.

In teoria, un tale monitoraggio avrebbe potuto prevenire incidenti come quello di Hugging Face, con un costo di soli 2,94 dollari usando Jev, rispetto ai 372 dollari di un LLM di frontiera. L’osservazione chiave è che Jev è probabilmente abbastanza economico da essere eseguito su ogni singola azione di un agente, offrendo un livello di revisione che potrebbe migliorare drasticamente l’affidabilità complessiva degli agenti. È proprio il tipo di risultato che TypeSafe sperava di raggiungere, e ora anche OpenAI ne ha riconosciuto il valore.