Nvidia finanzia una startup indiana che consente alle aziende di eseguire modelli AI con meno GPU.

Nvidia Investe 14 Milioni di Dollari in Simplismart per Ottimizzare l’AI e Superare la Carenza di GPU

Mentre il boom dell’intelligenza artificiale mette sotto pressione le capacità di calcolo, Nvidia ha sostenuto la startup indiana Simplismart con un round di finanziamento da 14 milioni di dollari, scommettendo su un software che aiuta le aziende a eseguire modelli AI in modo più efficiente e, in alcuni casi, con un minor numero di GPU. Nvidia ha partecipato al round Series B, interamente primario, insieme ad Accel, Shastra VC e Micromax, con Dallas Venture Capital a guidare l’investimento. L’accordo valuta la startup, fondata quattro anni fa, circa 100 milioni di dollari, inclusi i nuovi finanziamenti.

Oggigiorno, le aziende spendono ingenti somme in GPU per alimentare le applicazioni AI, ma eseguire questi modelli in modo affidabile ed economico su larga scala rimane una sfida. Diversi carichi di lavoro richiedono compromessi distinti tra velocità, costo e prestazioni. La distribuzione e la gestione dei modelli AI per soddisfare i requisiti aziendali spesso richiedono anche aggiustamenti complessi. Simplismart afferma che il suo software automatizza gran parte di questo lavoro, adattando il modo in cui i modelli vengono eseguiti sull’infrastruttura di calcolo esistente anziché richiedere ai clienti di gestire queste configurazioni autonomamente.

"Nessuno ha realmente bisogno dell’inferenza più veloce o più economica", ha dichiarato Amritanshu Jain, co-fondatore e CEO di Simplismart, in un’intervista. Ha aggiunto che le aziende devono invece eseguire modelli AI a velocità e costi che abbiano senso per le loro applicazioni specifiche. Il software di Simplismart si interpone tra i modelli AI e l’infrastruttura di calcolo su cui vengono eseguiti, regolando il modo in cui i modelli vengono distribuiti e gestiti per soddisfare le esigenze dei clienti. Afferma di poter ottimizzare fattori come la velocità di risposta di un modello, il numero di richieste gestite e la potenza di calcolo consumata, aiutando le aziende a ottenere di più dalla loro stack GPU esistente.

La startup con sede a Bengaluru offre alle aziende un modo per distribuire ed eseguire modelli AI attraverso la propria piattaforma o all’interno delle loro infrastrutture cloud e on-premises esistenti. Fornisce inoltre strumenti per affinare i modelli, scalare automaticamente le risorse di calcolo al variare della domanda e monitorare le prestazioni. Inoltre, Simplismart consente ai fornitori di cloud di costruire e gestire i propri servizi di inferenza AI su infrastruttura GPU utilizzando il suo software.

Simplismart ha dichiarato di aver aiutato la piattaforma di generazione video AI InVideo a ridurre i costi di servizio delle GPU del 56% grazie al suo software. La startup collabora anche con le aziende di video AI HeyGen e Higgsfield, nonché con la startup AI aziendale Ema, tra gli altri. Inoltre, il fornitore di cloud indiano Yotta utilizza la tecnologia di Simplismart per alimentare il servizio di inferenza AI serverless all’interno della sua piattaforma Shakti Studio.

Il tasso di crescita annualizzato dei ricavi di Simplismart è aumentato di 14 volte negli ultimi sei mesi, raggiungendo una somma a otto cifre, ha dichiarato Jain a TechCrunch. La cifra si basa sull’utilizzo recente dei clienti piuttosto che sui ricavi ricorrenti contrattualizzati ed esclude i ricavi trasferiti ai fornitori di infrastruttura, ha specificato l’azienda, senza però divulgare la cifra esatta. Più della metà dei ricavi di Simplismart proviene dagli Stati Uniti, nonostante la startup abbia più clienti in India, ha aggiunto Jain.

Oltre all’investimento, Nvidia ha lavorato con Simplismart su integrazioni tecniche, anche riguardo al suo software di inferenza Dynamo, ha rivelato Jain. La collaborazione coinvolge gli ingegneri di Simplismart e gli architetti di soluzioni di Nvidia, e Nvidia ha anche contribuito a presentare la startup a potenziali clienti e partner, ha affermato Jain.

È interessante notare che l’investimento presenta un apparente paradosso, poiché Nvidia, il fornitore dominante di chip AI, sta sostenendo un software che può aiutare le aziende a eseguire alcuni carichi di lavoro con meno GPU. Jain, tuttavia, ha sostenuto che rendere l’inferenza AI più efficiente potrebbe in ultima analisi beneficiare Nvidia, rendendo il suo hardware più attraente per i clienti e incoraggiando una più ampia adozione delle applicazioni AI.

Simplismart serve i clienti in un mercato sempre più affollato di software per l’inferenza AI, in competizione con le offerte della stessa Nvidia, così come con i principali fornitori di cloud e hyperscaler tra cui Amazon Web Services, Google Cloud e Microsoft Azure. Un numero crescente di startup sta anche sviluppando strumenti per rendere i modelli AI più veloci ed economici da eseguire, data la crescente domanda in questo segmento, spinta dalla necessità di utilizzare al meglio le costose risorse GPU.

"Dove tendiamo a vincere è dove le persone devono essere più rigorose sui loro SLA [accordi sul livello di servizio] e TCO [costo totale di proprietà]", ha detto Jain, riferendosi a requisiti di prestazioni impegnativi e a stringenti vincoli di costo. A differenza dei rivali che offrono opzioni preimpostate per un’inferenza più veloce o più economica, Simplismart mira a trovare un equilibrio personalizzato per le esigenze di ogni cliente, ha affermato.

Fondata nel 2022 dall’ex ingegnere Oracle Jain e dall’ex ingegnere Google Devansh Ghatak, Simplismart è nata dall’esperienza della coppia nella costruzione e distribuzione di sistemi di machine learning. I due si sono incontrati durante gli studi presso BITS Pilani e la startup impiega ora 58 persone, ha dichiarato Jain. Simplismart prevede di utilizzare i nuovi finanziamenti per espandere la sua presenza negli Stati Uniti, far crescere il suo team e investire ulteriormente nello sviluppo del suo software di inferenza. Jain ha riferito che gli Stati Uniti rimangono un mercato chiave per la startup, che cerca di costruire sulla sua base clienti esistente. L’annuncio del finanziamento segue un rapporto del quotidiano indiano in inglese The Economic Times secondo cui Simplismart era in trattative per raccogliere 40-50 milioni di dollari a una valutazione di 300-400 milioni di dollari. Interrogato sul rapporto, Jain ha rifiutato di commentare, affermando che la startup non stava attivamente raccogliendo fondi e che il Series B era chiuso e non sarebbe stato esteso.