Nvidia ha dimostrato che il vero eroe è l’infrastruttura, non il modello AI.

Nvidia ha recentemente pubblicato una ricerca innovativa che suggerisce come, per le attività a lungo termine affidate all’intelligenza artificiale, sia il “harness” (imbracatura software) a rivestire un’importanza ben maggiore rispetto al modello sottostante. Il harness, infatti, è l’involucro software che circonda un modello di IA, includendo strumenti, gestione della memoria e regole che trasformano un modello grezzo in un’entità capace di agire autonomamente.

Il succo della scoperta è sorprendente: semplicemente utilizzando un harness personalizzato, ottimizzato per una migliore gestione della memoria e integrato con un componente “supervisore” simile a un capo, i ricercatori hanno permesso a Claude Opus 5 di raggiungere un punteggio del 100% nel benchmark di ragionamento interattivo ARC-AGI-3. Questo benchmark consiste in una serie di giochi 2D senza istruzioni, dove il modello deve imparare a giocare e vincere, in modo simile a un essere umano. È un test che in passato ha creato non pochi grattacapi a laboratori concorrenti come OpenAI. Senza il harness, lo stesso Opus 5 aveva ottenuto un punteggio del 30%, che era comunque il miglior risultato tra tutti i modelli testati.

La ricerca di Nvidia è un ulteriore segnale che, sebbene la scelta del modello sia rilevante, il modello stesso – la parte che funge da “cervello” dell’agente – costituisce una porzione meno significativa di un sistema agentico di quanto molti utenti di IA possano credere, specialmente per le attività a lungo termine. È il harness a trasformare un modello in un vero agente, gestendo memoria, contesto e feedback.

“Generalmente, il mondo interpreta un agente quasi come un’API del modello”, ha spiegato Adel El Hallak, vicepresidente del prodotto nell’unità AI di Nvidia, a TechCrunch. “Ma un agente è in realtà molto di più. È il modello. È l’impalcatura attorno al modello, che chiamiamo harness, ovvero l’insieme di strumenti che utilizza. È il runtime e le competenze e librerie associate a cui gli diamo accesso”.

Le attività a lungo termine sono quelle che richiedono di concatenare molte decisioni, a volte per giorni, per produrre un lavoro completo. Questo è in netto contrasto con un’IA che si limita a generare una risposta a un prompt. Trovare il modo di far sì che un’IA svolga compiti a lungo termine senza distrarsi o deviare è uno dei “sacri graal” della ricerca sugli agenti.

Ad esempio, una ricerca pubblicata da Microsoft ad aprile ha testato 19 LLM su compiti a lungo termine che prevedevano la modifica di documenti, scoprendo che tutti i modelli, inclusi quelli più avanzati, riempivano i documenti di errori. Se degli esseri umani producessero un lavoro del genere, verrebbero licenziati senza indugio. Inoltre, modelli che concatenano autonomamente le decisioni sono stati sorpresi a cancellare i file dei loro utenti, o interi database, o a ricorrere a comportamenti illeciti, dalla collusione all’hacking, per raggiungere i loro obiettivi.

La scelta dei ricercatori Nvidia di utilizzare questo benchmark di ragionamento interattivo per i loro test è particolarmente significativa, quasi ironica. Un punteggio del 100% implica che il modello è in grado di superare i giochi alla pari con gli esseri umani. OpenAI stessa era rimasta talmente frustrata dai punteggi abissali dei suoi modelli (inferiori al 10%) su ARC-AGI-3 da condurre una propria ricerca il mese scorso. Similmente a Nvidia, OpenAI aveva scoperto che semplicemente modificando due impostazioni del harness, i suoi modelli triplicavano i punteggi. Tuttavia, nessuno dei modelli si è avvicinato al 100% ottenuto dai ricercatori Nvidia, i quali hanno dimostrato che il harness necessita di un componente “supervisore” che spinga l’agente nella giusta direzione in caso di blocco.

“La parte più interessante è stata l’introduzione di un agente supervisore in aggiunta all’agente principale che svolge il lavoro”, ha affermato El Hallak. Questo componente “agisce quasi come un CEO per spronare l’agente quando devia dalla direzione, inizia a esplorare un percorso che potrebbe portare a un vicolo cieco, o per riesplorare un percorso già battuto”. Sebbene il concetto di agente supervisore non sia del tutto nuovo, oggi la maggior parte degli utenti di agenti si affida a un solo livello per il proprio harness, come Claude Code, Codex o Hermes. I ricercatori di Nvidia hanno creato il loro harness potenziato, chiamato Agentic Variation Operators (AVO).

È importante sottolineare che AVO non è un nuovo prodotto Nvidia in sé. L’azienda produce invece numerosi componenti tecnologici open source per la creazione di harness, raggruppati sotto il marchio Nemo. Parte di questa tecnologia è commerciale, ma gran parte è liberamente disponibile.

I risultati di Nvidia si aggiungono alle crescenti prove che la scelta del modello è lungi dall’essere l’unico fattore determinante nelle prestazioni degli agenti. A luglio, ad esempio, Databricks ha pubblicato una ricerca sorprendente che dimostra come il harness, più che il modello, influenzi drasticamente i costi dell’IA. “Puoi scegliere lo stesso modello ma harness diversi, e ottenere costi significativamente maggiori se usi il harness sbagliato”, ha dichiarato a TechCrunch Ali Ghodsi, CEO di Databricks. “Quindi pensi, oh, questo è un modello costoso. Questo è un modello economico. Ma aspetta, quale harness stai usando? Questo di per sé può raddoppiare i tuoi costi.”

Il punto più ampio che Nvidia intende dimostrare è che i harness aperti, così come i modelli aperti, garantiscono agli utenti un controllo molto maggiore di quanto essi stessi non realizzino. “Crediamo, e lo stiamo dimostrando con l’ecosistema, come i harness aperti ti permettano di azionare molti più parametri per aumentare l’accuratezza”, ha detto El Hallak. “Ciò si collega al rallentamento dell’addestramento dei modelli di OpenAI”, a seguito di violazioni della sicurezza generate dai modelli stessi.

“Crediamo che avere uno stack di agenti aperto – dove si ha il controllo sul harness, sull’infrastruttura e sul runtime – sia ciò che è necessario per far progredire l’ecosistema in modo sicuro”, ha aggiunto.