OpenAI teme i modelli open-weight. Dovrebbero anche gli Stati Uniti?

L’IA Cinese "Open-Weight" Sconvolge il Mercato Americano: Dibattito Acceso su Innovazione e Protezionismo

Le impressionanti capacità di Kimi K3, il più grande modello linguistico di grandi dimensioni (LLM) "open-weight" sviluppato dal laboratorio cinese Moonshot, hanno scatenato un dibattito che confonde due aspetti cruciali: le prospettive economiche dei giganti americani dell’IA e il futuro degli LLM come tecnologia.

Dean W. Ball, responsabile delle strategie future di OpenAI, si è spinto fino a suggerire che il governo statunitense avrebbe dovuto creare un pretesto per generare timore, incertezza e sfiducia normativa attorno ai nuovi modelli, sostenendo che i modelli "open-weight" scoraggerebbero necessariamente gli investimenti di capitale da parte dei laboratori all’avanguardia. Le sue affermazioni hanno suscitato un’ondata di indignazione, con luminari del settore tecnologico come Yann LeCun e Martin Casado che hanno ribattuto che il software aperto può accelerare l’innovazione e coesistere con progetti proprietari. Ball ha presto ritirato le sue dichiarazioni, che definivano un giro di vite normativo la "migliore strategia" della Casa Bianca e che i modelli "open-weight" rallentassero necessariamente i progressi tecnologici.

Nonostante il dietrofront di Ball, Axios ha riferito che l’amministrazione Trump starebbe valutando di vietare K3 e altri modelli cinesi avanzati su richiesta dei principali laboratori americani. Un altro rapporto di Politico ha però precisato che il Dipartimento del Commercio non intraprenderebbe tale passo nell’immediato futuro.

Il vantaggio per le grandi aziende di IA è evidente: i modelli "open-weight", funzionanti su infrastrutture indipendenti o all’interno di grandi imprese, offrono un’intelligenza artificiale più economica rispetto ai modelli all’avanguardia di Anthropic o OpenAI. Se gli utenti spingono sempre più l’uso al di fuori dei laboratori chiusi, ciò significa minori ritorni sui massicci investimenti nella formazione dei modelli. Questa visione si estende ben oltre OpenAI. "Modelli open source robusti e di calibro avanzato comprimeranno i margini e abbasseranno i prezzi delle aziende all’avanguardia", ha dichiarato a TechCrunch Braden Hancock, co-fondatore di Snorkel AI e partner di ricerca presso il Laude Institute. "Ciò non significherà necessariamente una diminuzione dell’utilizzo dell’IA; al contrario, probabilmente aumenterà."

Questo, tuttavia, non rappresenta un problema per chi non detiene quote in Anthropic e OpenAI. L’IA continuerà a proliferare. Qual è, dunque, la giustificazione per il governo nel bloccare gli americani dall’acquistare qualcosa nei nostri mercati, apparentemente liberi?

Le preoccupazioni sui modelli cinesi sono molteplici. Una riguarda la protezione dei dati statunitensi dal governo cinese; gli Stati Uniti hanno già vietato l’importazione di veicoli elettrici moderni cinesi per timori sulla loro raccolta dati. Tuttavia, gli esperti ritengono che i modelli "open-weight", eseguiti su server statunitensi, difficilmente possano divulgare dati alla Cina, sebbene la possibilità non sia del tutto esclusa. Un’altra preoccupazione è che i modelli possano avere un bias implicito verso la Repubblica Popolare Cinese, anche se non è chiaro cosa ciò potrebbe significare, ad esempio, per le attività di codifica.

Una terza preoccupazione comune è che i modelli cinesi manchino delle "guardrail" (barriere di sicurezza) che il governo statunitense ha imposto (attraverso un processo opaco), volte a impedire che gli LLM americani più avanzati vengano utilizzati per sfruttare sistemi informatici chiusi o creare armi. Tuttavia, queste stesse "guardrail" potrebbero rendere le aziende statunitensi più vulnerabili: David Sacks, venture capitalist e consigliere di Trump, ha segnalato casi di aziende americane che si sono rivolte a LLM cinesi per colmare lacune di sicurezza quando i modelli all’avanguardia statunitensi si sono rifiutati di eseguire determinati compiti.

La motivazione più significativa per la restrizione dei modelli, tuttavia, è il timore che la Cina possa superare gli Stati Uniti se i laboratori all’avanguardia rallentassero. Sam Bresnick, ricercatore presso il Center for Security and Emerging Technology della Georgetown, focalizzato sulla Cina, afferma che la crescente importanza dell’IA per le operazioni militari statunitensi fornisce agli USA una ragione per sostenere investimenti continui nell’IA presso i laboratori d’avanguardia. Tuttavia, l’intera questione, sostiene, è complessa. "Perché il peso del governo statunitense dovrebbe essere volto a proteggere queste aziende da concorrenti che vengono esclusi dal mercato statunitense in base alla loro origine?", si chiede Bresnick.

I sostenitori dell’IA aperta affermano che le aziende all’avanguardia stanno creando una falsa dicotomia tra innovazione e modelli chiusi. "L’impatto maggiore di questi modelli open source provenienti dalla Cina non è tanto che introducano ‘porte posteriori’ nascoste, quanto piuttosto che stiano dominando l’innovazione", ha spiegato Hancock a TechCrunch. "Si finisce, di fatto, con una forza lavoro ampliata sul proprio modello. PyTorch è diventato lo standard del settore perché era open source, e così l’intera comunità ha potuto contribuire, invece di una sola azienda, ed è cresciuto enormemente, mentre tutte le altre librerie di deep learning sono morte in confronto."

Hancock e altri sostenitori temono che gli LLM cinesi possano diventare il fulcro della ricerca internazionale. Già ora, i programmi di laurea negli Stati Uniti si basano principalmente su modelli "open-weight" cinesi, e Hancock afferma che metà dei documenti studiati dagli studenti provengono da istituzioni cinesi, con i laboratori all’avanguardia americani sempre più restii a condividere ampiamente il loro lavoro. "Limitare i modelli aperti non renderebbe l’IA più sicura", ha dichiarato Clem Delangue, CEO di Hugging Face, una piattaforma per la collaborazione sull’IA aperta. "Nasconderebbe semplicemente i rischi, concentrerebbe il potere nelle mani di pochi e renderebbe più difficile per la prossima generazione di sviluppatori, ricercatori, accademici, organizzazioni non profit e governi partecipare a rendere l’IA più sicura e vantaggiosa per tutti."

Bresnick suggerisce che il modo più efficace per rallentare la Cina sarebbe concentrarsi maggiormente sui controlli all’esportazione di chip. Un modo migliore per preservare la leadership statunitense nell’IA sarebbe smettere di vendere processori Nvidia H200 alla Cina. "Questo", afferma, "potrebbe potenzialmente tenerci fuori da questo spinoso dibattito sul divieto di tecnologie open source che un numero enorme di aziende statunitensi desidera utilizzare."

Parte del problema risiede nell’incertezza economica che circonda l’IA. "Né il modello di business aperto né quello proprietario sono stati ancora definiti. Le aziende di IA stanno faticando a capire come monetizzare i loro strumenti, specialmente mentre i costi di formazione continuano ad aumentare", sottolinea Bresnick. Le stesse sfide che si presentano negli Stati Uniti si riflettono anche in Cina, dove le aziende di IA faticano a generare entrate e ad accedere alla potenza di calcolo, e il governo è percepito come incoraggiante le release aperte per ragioni politiche, nonostante la difficoltà di capitalizzarle.

Alcune aziende statunitensi, tra cui Thinking Machines Lab e Nvidia, stanno cercando di costruire un modello di business attorno al rilascio di modelli aperti. Hancock sottolinea che Nvidia trarrebbe maggiori benefici "se ci fossero decine o centinaia di aziende che costruiscono IA, piuttosto che due o tre abbastanza capitalizzate da creare i propri chip", il che è una delle ragioni del suo investimento in Nemotron, una collezione di modelli aperti. "Il punto principale è che gli Stati Uniti trarrebbero un grande vantaggio dall’avere i propri modelli aperti molto capaci e molto meno costosi", ha affermato Bresnick. "Ciò si scontra semplicemente con l’approccio adottato dai laboratori all’avanguardia."