Un nuovo modello AI dell’inventore di ChatGPT entusiasma gli sviluppatori

Diogo Almeida, l’Architetto di ChatGPT, Rivela Jev: L’Intelligenza Artificiale che Parla la Lingua dei Computer

Diogo Almeida, ex ricercatore di OpenAI e figura chiave nello sviluppo di ChatGPT e dell’innovativo apprendimento per rinforzo basato sul feedback umano (RLHF), ha espresso profonda delusione per la direzione intrapresa dai modelli linguistici di grandi dimensioni (LLM). Nonostante le loro capacità, Almeida ha ritenuto che questi modelli non fossero sufficientemente "utili" per l’automazione, un’insoddisfazione che lo ha spinto a lasciare OpenAI due anni fa per fondare TypeSafe AI.

"Abbiamo un fulmine in bottiglia, eppure non è utile," ha dichiarato Almeida a TechCrunch. "Ho combattuto questo problema da allora. Mi ci è voluto un po’ per giungere alla conclusione: il problema è che stiamo ottimizzando per il linguaggio umano… Siamo stati bravissimi con il linguaggio umano per quattro anni, ma non è utile per l’automazione perché i computer parlano una lingua diversa."

Questa settimana, TypeSafe AI ha rilasciato Jev, un nuovo modello basato su architettura transformer che non è un LLM. A differenza dei suoi predecessori, Jev non produce testo, ma bensì probabilità o, come li definisce l’azienda, "decisioni calibrate." Questa scelta architetturale lo rende incredibilmente economico e veloce, eliminando al contempo il problema delle allucinazioni poiché gli utenti definiscono gli output in anticipo. I suoi token di output sono gratuiti, e quelli di input sono misurati in miliardi, non in milioni.

Il prodotto ha già suscitato un notevole interesse tra gli sviluppatori, tanto che l’azienda ha temporaneamente perso la capacità di servire gli utenti tramite la sua API a causa dell’elevata domanda. Jev si sta dimostrando particolarmente utile per l’automazione del software, offrendo agli sviluppatori un modo più economico e robusto per integrare l’intelligenza nei loro codici.

Un esempio significativo viene da Pranit Sharma, ingegnere del software presso Vercel, un’azienda che produce infrastrutture per agenti autonomi. La sua azienda aveva utilizzato ChatGPT Luna 5.6 di OpenAI per un classificatore di sicurezza dei comandi. Sostituendo Luna con Jev, Vercel ha ottenuto risultati da 5 a 18 volte più rapidamente e con maggiore precisione.

In un altro test, Nikhil Mudholkar, CTO di Bryo AI, ha confrontato Jev con Gemini per la classificazione delle email aziendali. Sebbene Gemini si sia dimostrato leggermente più accurato, Jev è risultato da 10 a 20 volte più economico. Ciò che ha colpito maggiormente Mudholkar sono stati i punteggi di confidenza di Jev: "È l’unico che restituisce una probabilità reale, il che lo rende ideale per automatizzare i flussi di lavoro!"

Oltre a sostituire gli LLM in specifici casi d’uso, Jev può anche completarli, agendo come un "controllo intelligente" sui comportamenti anomali. Utilizzare agenti per monitorare altri agenti può diventare rapidamente costoso, ma l’impiego di Jev in questo ruolo ha senso, sostiene Almeida. Egli prevede che gli utenti adotteranno Jev per tracciare le attività degli agenti LLM e prevenire i "jailbreak". "Alla fine, delega un po’ il problema dell’allucinazione all’utente," ha spiegato Armin Ronacher, CTO di Earendil, che costruisce il framework open-source Pi. "L’utente deve dire: ok, se questo torna solo con il 50% di probabilità, forse è un lancio di moneta e lo ignoro. Ma se è il 95%, allora posso farci qualcosa."

Un altro potenziale utilizzo per Jev è l’instradamento dei modelli (model routing). Prevedere quale modello sia necessario per un determinato carico di lavoro sarebbe estremamente utile, ma l’utilizzo di un LLM per questo compito sarebbe proibitivo in termini di costi. Il basso costo e la velocità di Jev rendono possibile questo tipo di smistamento in tempo reale.

La speranza di Almeida è che la riduzione dei costi dell’intelligenza porti alla sua diffusione capillare. Il modello Jev prende il nome da William Stanley Jevons, l’economista del XIX secolo il cui omonimo paradosso descrive come la diminuzione del costo di una merce ne aumenti esponenzialmente l’utilizzo. "Pensiamo che ci sarà software intelligente ovunque in un modo emergente e distribuito… molto più simile all’internet delle origini che alle mega-app che le persone stanno cercando di costruire ora," ha affermato Almeida.

Almeida è restio a divulgare i dettagli sull’architettura di Jev, che osservatori esterni sospettano sia costruita su un LLM a peso aperto. L’azienda si riferisce a Jev come a un "modello Sistema Uno", focalizzato sull’intuizione piuttosto che sul ragionamento, e specificamente orientato al compito giusto. Almeida sostiene che Jev è addestrato esclusivamente su dati sintetici utilizzando una tecnica che chiama "apprendimento per rinforzo basato su decisioni calibrate." "Abbiamo fatto una scommessa precoce sul fatto che avremmo creato tutti i nostri dati, e quella è stata una delle migliori scommesse che abbia mai fatto nella mia vita — migliore del nostro lancio, a mio parere, migliore di RLHF," ha detto a TechCrunch.

Per ora, Jev si distingue come un modello unico nel suo genere, ma Ronacher si aspetta che emergano presto concorrenti ora che la sua utilità è evidente. "Avremmo dovuto vederlo prima sotto molti aspetti, ma presumibilmente poiché gli LLM sono così economici e sovvenzionati, spesso non è ancora necessario essere creativi," ha osservato. TypeSafe, da parte sua, svilupperà ulteriori versioni del modello, anche in nuove modalità. Interrogato se TypeSafe sia un "laboratorio di frontiera", Almeida ha risposto che "il prodotto principale dei laboratori di frontiera è la paura o l’hype. Vorrei che il nostro prodotto principale fosse l’intelligenza… ma non siamo un laboratorio nel senso di, sai, scommettere su ricchezza infinita, o una religione, o costruire Dio in un centro dati, o qualunque sia la cosa di oggi."