Il vantaggio AI di Nvidia va oltre la GPU

Nvidia ridefinisce il suo dominio: oltre le GPU, l’intera orchestrazione dell’AI

Per anni, la storia dominante su Nvidia ruotava attorno al suo monopolio iniziale nel settore delle GPU all’avanguardia, un vantaggio immensamente redditizio. Tuttavia, l’emergere di hyperscaler come Amazon e Google, che hanno iniziato a sviluppare i propri chip, ha sollevato interrogativi sulla durabilità del vantaggio di Nvidia. Dopo aver decuplicato la sua capitalizzazione di mercato tra l’inizio del 2023 e la metà del 2025, le azioni dell’azienda hanno mostrato una traiettoria più modesta nell’ultimo anno, proprio a causa delle preoccupazioni sulla crescente concorrenza nel settore delle GPU.

Questa narrazione, sebbene in gran parte vera e convincente, ha iniziato a cambiare radicalmente dopo gli ultimi utili trimestrali dell’azienda, pubblicati mercoledì. Gli investitori stanno ora realizzando che il vantaggio di Nvidia si estende ben oltre le sole unità di elaborazione grafica. Con la potenza di calcolo dell’AI che scala verso il livello dei gigawatt, l’orchestrazione è diventata un compito di crescente complessità. Non a caso, Nvidia ha sviluppato gran parte dell’hardware all’avanguardia necessario per gestire questa sfida, conferendole un enorme vantaggio nei sistemi che circondano la GPU, anche di fronte a una maggiore concorrenza sulle GPU stesse. Nonostante si parli di calcolo come di una merce, operare un data center su scala megawatt con la massima efficienza rimane incredibilmente difficile, e questa sfida non fa che aumentare man mano che le implementazioni diventano più grandi e veloci.

Questa nuova direzione è evidente esaminando i dettagli di ciò che Nvidia sta effettivamente vendendo. L’azienda sta attualmente implementando la sua architettura Vera Rubin, che accoppia la GPU Rubin con una serie di altre unità, inclusa la CPU Vera, l’acceleratore di inferenza Groq 3 LPX e rack simili per l’archiviazione e il networking. Questi sistemi, come la GPU Rubin stessa, sono estremamente specializzati, ma invece di elaborare token, si assicurano che tutto ciò che si trova al di fuori della GPU funzioni nel modo più efficiente possibile. Se la GPU è il motore, questi sono il resto dell’auto.

La CPU Vera, in particolare, si concentra sul problema dell’orchestrazione dei dati. Jason Hardy, vicepresidente della tecnologia di archiviazione di Nvidia, ha spiegato: "Vera è importante perché c’è una quantità limitata di memoria che si può inserire in un singolo server o in qualsiasi piattaforma di calcolo". Con l’aumento della potenza di calcolo nei data center, anche la capacità di memoria è cresciuta, motivo per cui aziende come Micron hanno prosperato nella seconda ondata del boom infrastrutturale. Tuttavia, portare i dati alla GPU al momento giusto non è semplice, e le aziende che cercano di ridurre sempre più i "token-per-watt" si stanno rendendo conto dell’importanza di questa "direzione del traffico". Hardy ha aggiunto: "Abbiamo riscontrato un miglioramento fino a 3 volte in queste operazioni, dove la CPU Vera consente l’accelerazione. Ora possiamo utilizzare la nostra flash al massimo delle sue potenzialità, perché possiamo ottenere tutte le sue prestazioni senza creare colli di bottiglia."

Versioni dello stesso problema si possono osservare anche al di fuori di Nvidia. Quando OpenAI ha sviluppato il suo chip Jalapeño, un obiettivo principale era evitare queste sfide minimizzando la quantità di dati che devono essere spostati. In un post sul blog all’inizio di questo mese, l’azienda ha dichiarato: "Abbiamo progettato Jalapeño per minimizzare il movimento dei dati e i ritardi di comunicazione. Il suo ampio dominio consente all’intero carico di lavoro di rimanere all’interno di un unico sistema connesso, minimizzando il movimento dei dati e contribuendo a mantenere la richiesta completa veloce ed efficiente dall’inizio alla fine." Sebbene l’approccio sia diverso, evitando completamente il movimento dei dati conducendo un carico di lavoro all’interno di un chip integrato, la logica complessiva è la stessa: aumentare l’efficienza con un controllo del traffico più intelligente invece di limitarsi a più cicli di processore. Ciò apre a sua volta un nuovo livello di infrastruttura su cui le aziende possono competere.

Questo nuovo focus sull’orchestrazione dei dati non è automaticamente una vittoria per Nvidia, che dovrà competere con i produttori di chip rivali e gli hyperscaler proprio come ha fatto con le GPU. Tuttavia, la competizione si è spostata su un nuovo livello, dove la costruzione di una GPU rivale è meno importante della capacità di far funzionare l’intero sistema in modo efficiente. E, almeno nelle fasi iniziali, Nvidia sembra avere un vantaggio considerevole.