Perché i pionieri del finanziamento GPU virano sui chip di inferenza con un accordo da 400 milioni di dollari

General Compute si Assicura Finanziamento da 400 Milioni di Dollari per Accelerare l’Inferenza AI con Chip Specifici

La startup General Compute, specializzata in cloud per l’inferenza AI, ha ottenuto un prestito di 400 milioni di dollari dalla società di investimento tecnologico Upper90. L’accordo, potenzialmente il primo nel suo genere, utilizza come garanzia chip specifici per l’inferenza di intelligenza artificiale – progettati per eseguire modelli AI già addestrati in modo rapido ed efficiente, piuttosto che i chip più costosi usati per creare i modelli stessi. Questo segnale evidenzia un crescente interesse del mercato per soluzioni AI più efficienti ed economiche rispetto ai modelli di punta dei laboratori di frontiera.

Questo finanziamento sottolinea una chiara tendenza del mercato a rispondere alle preoccupazioni sui costi degli strumenti e dei token AI, orientandosi verso infrastrutture che supportano modelli open-source a costi inferiori rispetto ai più recenti LLM.

Fondata dal CEO Finn Puklowski, General Compute aveva già raccolto un round seed da 15 milioni di dollari a maggio per sviluppare una “neocloud” di inferenza basata sui semiconduttori di SambaNova, un produttore di chip supportato da Intel. Le neocloud sono infrastrutture appositamente costruite per carichi di lavoro AI, a differenza delle soluzioni generiche offerte dai tradizionali hyperscaler come AWS o Azure.

I chip SN50 dell’azienda sono progettati specificamente per l’inferenza, sono efficienti dal punto di vista energetico e non richiedono costosi sistemi di raffreddamento ad acqua. Questo ne consente un’implementazione più rapida e in una maggiore varietà di data center rispetto alle GPU. General Compute afferma che i nuovi chip garantiranno un’inferenza 16 volte più veloce rispetto ai cloud basati su GPU.

La sfida per una nuova azienda come General Compute è assicurarsi un numero elevato di questi chip. Billy Libby, co-fondatore e CEO di Upper90 ed ex trader quantitativo di Goldman Sachs, ha già un’esperienza in questo campo. Nel 2021, la sua azienda ha finanziato l’acquisto di GPU da parte di Crusoe, una startup di data center focalizzata sull’energia, in quello che Libby ritiene essere stato il primo prestito contro il valore di chip avanzati.

Mentre i prestatori tradizionali inizialmente evitavano tali accordi a causa dei rischi e delle incertezze legate alla svalutazione delle GPU, l’approccio di CoreWeave, che ha trasformato i prestiti garantiti da chip in un modello di business e poi nella base di una IPO di successo, ha reso questo tipo di finanziamento più comune.

“Quando abbiamo finanziato le GPU Nvidia come primo gruppo a farlo, il mercato era inefficiente”, ha dichiarato Libby a TechCrunch. “Abbiamo potuto mettere insieme qualcosa come partecipanti precoci e ottenere una giusta compensazione per il rischio”. Ora che le GPU sono relativamente ben comprese e forse “iper-acquistate”, Upper90 si sta rivolgendo a società come General Compute per cavalcare la prossima ondata del boom dell’AI. “Riteniamo che i modelli open source saranno importanti e l’anno scorso abbiamo cercato un attore nel campo dell’inferenza”, ha aggiunto Libby. “Non tutti hanno bisogno di un supercomputer, ma tutti hanno bisogno di inferenza e AI.”

Questa tesi si sta rafforzando, con aziende che forniscono accesso a modelli aperti, come OpenRouter e Fireworks, che hanno raccolto nuovi round con valutazioni elevate. Nuovi modelli, come il K3 di Kimi, hanno dimostrato di competere con le ultime release di Anthropic e OpenAI nei benchmark di codifica. Anche nuovi produttori di chip come Groq e Cerebras hanno attirato l’interesse di acquirenti e mercati pubblici.

La capacità di General Compute di accedere a chip al di fuori dell’ecosistema Nvidia è altrettanto importante. TensorWave, un’altra società di infrastrutture AI, sta facendo una scommessa simile con una partnership con AMD. Man mano che emergono più alternative a Nvidia, i fornitori di calcolo che non sono vincolati da accordi con Nvidia potrebbero avere un vantaggio nel fornire inferenza a costi efficienti.

“Ci sono un sacco di chip che stanno iniziando a scalare e che hanno un [costo totale di proprietà] incredibile, o che possono operare molto più velocemente di Nvidia, ma non ci sono molti acquirenti per loro”, ha detto Puklowski. “Unendosi a Upper90, non si tratta solo di ‘una startup interessante ha ottenuto dei soldi per acquistare del computing’. Questo è il primo segnale di capitale che si organizza e della frammentazione del dominio monopolistico di Nvidia.”