Un outsider sfoggia un modello vocale da 32MB in una nuova demo
L’AI si Restringe: Underdog Lancia Woof, Un Modello Vocale da 32MB Che Gira Offline
Mentre le maggiori aziende di intelligenza artificiale competono nella creazione di modelli sempre più vasti e complessi, che richiedono un’enorme potenza di elaborazione, una nuova corrente di ricercatori e startup sta esplorando la via di modelli più piccoli, capaci di funzionare direttamente su dispositivi periferici come smartphone e computer. In questo scenario si inserisce Underdog, una startup che ha recentemente presentato "Woof", un innovativo modello vocale di soli 32MB, integrato in un gioco dimostrativo.
Il gioco, caratterizzato da un’estetica tecnologica retrò, trasporta l’utente in una stanza virtuale arredata con una macchina da scrivere, un monitor CRT e una lampada da tavolo interattiva. L’introduzione del gioco lancia una velata provocazione ai "fornitori cloud invasivi", un chiaro riferimento ai modelli basati su cloud. All’interno di questo ambiente, è possibile interagire con la macchina da scrivere, digitando qualsiasi testo che viene poi riprodotto vocalmente dal gioco, e con un sintonizzatore musicale per generare diverse melodie.
La peculiarità di "Woof" risiede nella sua capacità di funzionare direttamente nel browser, grazie al modello di generazione vocale di Underdog, che l’azienda assicura essere compatibile con la maggior parte dei dispositivi e, soprattutto, senza richiedere una connessione internet. Il modello vanta 31 milioni di parametri ed è stato reso disponibile per il download. Sebbene modelli di queste dimensioni difficilmente potranno sostituire le controparti più grandi e potenti, essi aprono la strada a nuove applicazioni come assistenti locali personalizzati o la creazione di podcast su misura.
Questa dimostrazione segue di poche settimane il lancio di "Bark", un modello speech-to-text da 167MB, anch’esso pensato per funzionare su dispositivi periferici per operazioni di trascrizione e dettatura. Sigil Wen, fondatore di Underdog, ha spiegato a TechCrunch la sua motivazione: l’idea è nata dal desiderio di creare un proprio sistema basato su modelli AI locali, permettendo agli utenti di mantenere il pieno controllo sui propri dati, piuttosto che affidarsi a servizi cloud.
Wen ha espresso una visione ambiziosa, affermando di credere che "entro pochi mesi saremo in grado di eseguire i modelli più capaci di oggi sui dispositivi che già possiedi. Vogliamo semplicemente addestrare i migliori modelli aperti, di produzione americana, capaci e che permettano alle persone di avere un’IA privata", riferendosi al manifesto dell’azienda. Oltre ai due modelli vocali, Underdog ha anche rilasciato un modello da 27 miliardi di parametri compatibile con i laptop e un’app in lista d’attesa, posizionata come alternativa locale a servizi come Muse e Instinct.