Riuscirà Safeworld a convincere le persone che i robot IA generativa non li feriranno?

Safeworld: La Startup da Oltre 12 Milioni di Dollari per la Sicurezza dei Robot a IA Generativa

L’ultima frontiera nel campo della robotica vede sempre più l’affidamento delle operazioni a modelli di intelligenza artificiale generativa. Tuttavia, questa innovazione introduce una sfida critica: l’imprevedibilità di tali architetture rispetto agli algoritmi tradizionali. Come garantire la sicurezza di un robot umanoide di nuova generazione?

A questa domanda ha cercato risposta per quasi tutta la sua carriera il Dr. Ding Zhao, direttore del Safe AI lab presso la Carnegie Mellon University. Ora, insieme all’esperto dirigente di startup Kyle Wong e all’ingegnere di machine learning Simo Rachidi, ha fondato Safeworld, una nuova azienda con l’obiettivo di risolvere proprio questo problema.

"La sfida di sicurezza di cui parliamo è una combinazione di due aspetti: uno, valutazioni probabilistiche estremamente avanzate di IA generativa, ovvero come si sottoscrive il rischio di un sistema probabilistico," afferma Zhao. "La seconda parte, davvero complessa, è la fiducia, ed entrambe sono necessarie per implementare un robot."

Safeworld emerge oggi dalla sua fase di "stealth" con un round di finanziamento seed di oltre 12 milioni di dollari, guidato da Shine Capital e a16z Speedrun, con investimenti aggiuntivi da Box Group, Carnegie Mellon University Endowment, Innovation Endeavors e SV Angel.

"È ora di costruire uno standard di sicurezza industriale, mentre i robot vengono progettati e distribuiti," ha dichiarato a TechCrunch Jonathan Lai, partner di a16z Speedrun. "Quando i robot si scontreranno con i bambini nelle case e causeranno incidenti di sicurezza, sarà troppo tardi."

La specialità di Safeworld consiste nella valutazione dei sistemi di controllo robotici attraverso simulazioni popolate da modelli umani realistici. È una sfida simile a quella affrontata da aziende come Tesla o Wayve, che devono assicurarsi che i loro veicoli rispondano in modo appropriato a una varietà di incidenti imprevisti sulla strada. Ma per i robot, sostiene Zhao, sarà più difficile, perché operano in ambienti non strutturati e ogni struttura in cui si trovano avrà standard di sicurezza diversi.

"Una delle aree più comuni è se c’è un angolo cieco in una particolare fabbrica," ha spiegato Wong. "Qual è la velocità o qual è la distanza di arresto necessaria per assicurarsi che questo robot non collida con un essere umano? Se un essere umano trasporta scatole, per esempio, il robot lo rileverà o no?"

Per rispondere a queste domande, Safeworld costruirà una versione digitale di quell’angolo in un modello come Genesis o MuJoCo, inserirà una simulazione del robot che sta valutando, guidato dal suo software reale, e poi eseguirà migliaia di scenari in cui modelli umani incontrano il robot. Questo è più difficile di quanto sembri, secondo Zhao, perché le persone sono imprevedibili.

"Inciampare e cadere è anche un buon esempio di qualcosa che testiamo molto con la simulazione," ha aggiunto Wong. "Altrimenti, dovresti andare a inciampare e cadere per il robot, il che è una cosa difficile da fare continuamente."

Ci sono somiglianze definite tra la piattaforma che Safeworld sta costruendo e gli strumenti utilizzati internamente dai costruttori di robot. I fondatori, tuttavia, credono che, al di là della loro specifica competenza, i produttori di robot vorranno una terza parte per convalidare il loro lavoro, se non altro per condividere informazioni sui casi di sicurezza tra concorrenti.

"Molte persone sottovalutano quanto siano difficili da risolvere alcuni di questi casi limite," ha detto Zhao. "Non è il robot nel vuoto, nella demo, a preoccuparci. È il robot distribuito su larga scala, con persone che potenzialmente non hanno mai utilizzato un robot prima."

Vishal Dugar, CTO di Gritt Robotics, sta sviluppando il cervello AI per robot che attualmente aiutano i lavoratori a installare pannelli fotovoltaici in parchi solari su scala industriale e ambiscono a svolgere compiti di costruzione più complessi. La sua azienda sta collaborando con Safeworld nello sviluppo delle loro simulazioni di sicurezza.

"La difficoltà con la maggior parte dei nostri sistemi è che è molto difficile dimostrarne formalmente la sicurezza facendo dei calcoli, scrivendo alcune equazioni e dicendo sì, il sistema è verificato sicuro," afferma Dugar. "Deve necessariamente essere fatto empiricamente."

I suoi robot operano accanto ai lavoratori umani, e assicurarsi che il loro braccio robotico non li colpisca è ovviamente una priorità assoluta. Verificare ciò nella pratica richiederà di considerare ogni tipo di scenario potenziale.

"Gli umani hanno molti tipi di apparenze," sottolinea Dugar. "I loro corpi possono essere in diverse configurazioni. Potrebbero essere inginocchiati, in piedi. Potrebbero inciampare e cadere potenzialmente. Potrebbero essere accovacciati. Potrebbero correre. Devi rispondere a tutti questi comportamenti che gli umani potrebbero esibire in questi siti, insieme alla varietà di variazioni nell’aspetto umano: vestiti, dimensioni, forma, altezza, colore della pelle, tutto il resto."

È ancora presto sia per Safeworld che per l’IA generativa nella robotica, e l’azienda sta ancora definendo il modello migliore per il suo prodotto – una piattaforma per utenti esterni o un approccio basato sui servizi? – ma il team è fiducioso di affrontare il problema giusto.

"Probabilmente saremo la prima azienda redditizia in questo campo," conclude Zhao. "Perché se qualcuno vuole implementare [un robot], dovrà pagarci per gestire la situazione."