Hugging Face conferma la violazione di dataset e credenziali interni, esorta gli utenti ad agire
Hugging Face, la rinomata piattaforma che ospita modelli e set di dati di intelligenza artificiale, ha rivelato la scorsa settimana di essere stata vittima di un cyberattacco. L’incidente, reso pubblico venerdì, ha compromesso i suoi set di dati interni e le credenziali di servizio, sebbene l’azienda stia ancora indagando per determinare se siano stati sottratti anche dati di clienti o partner.
In un post sul blog, la società ha spiegato che un dataset caricato sulla sua piattaforma ha sfruttato una vulnerabilità di sicurezza per eseguire codice malevolo sui suoi server. Questo ha permesso agli aggressori di elevare i propri privilegi e ottenere un accesso più ampio ai sistemi interni di Hugging Face. L’azienda ha prontamente revocato e ruotato le credenziali rubate e ha esortato gli utenti a fare altrettanto con qualsiasi chiave archiviata sulla piattaforma, invitandoli a monitorare eventuali attività sospette sui loro account.
Hugging Face ha attribuito la violazione a un “agente AI esterno” che avrebbe eseguito “migliaia di singole azioni attraverso uno sciame di sandbox di breve durata, con un comando e controllo auto-migrante allestito su servizi pubblici”. La società non ha fornito immediatamente prove a sostegno di questa affermazione quando interpellata da TechCrunch. L’incidente sottolinea le sfide uniche affrontate da aziende come Hugging Face, dove gli hacker cercano di abusare delle piattaforme e degli strumenti stessi per accedere e sottrarre dati sensibili dall’interno, piuttosto che affidarsi solo a credenziali rubate o punti deboli del perimetro di sicurezza.
Ironia della sorte, l’attacco è stato rilevato dal sistema di rilevamento delle anomalie di Hugging Face, che ha utilizzato un modello di intelligenza artificiale per analizzare i log dei server che registravano il cyberattacco. Inizialmente, l’azienda ha tentato di impiegare un modello AI all’avanguardia di un fornitore commerciale, ma ha riscontrato che i “guardrail” del provider bloccavano l’analisi. Ha quindi optato per un proprio modello linguistico di grandi dimensioni (LLM) locale, che ha offerto il vantaggio aggiuntivo di non dover caricare log sensibili dell’attacco sui server di una società di IA esterna. Questo episodio fa eco alle lamentele dei ricercatori di sicurezza, che spesso lamentano come alcuni modelli AI “frontier” siano eccessivamente vincolati, impedendo indagini approfondite sulla cybersecurity, anche a fini difensivi. Alcuni modelli, come Fable di Anthropic, sono stati persino ritirati dall’uso pubblico dopo che il governo statunitense ha imposto controlli sulle esportazioni a causa di timori legati al loro potenziale utilizzo per attacchi informatici offensivi.
Hugging Face ha dichiarato di aver già segnalato l’incidente alle forze dell’ordine e di aver coinvolto specialisti forensi della cybersicurezza per indagare sulla violazione e revisionare i suoi sistemi di sicurezza. Non è chiaro, tuttavia, se Hugging Face avesse eseguito un audit di sicurezza completo prima del lancio della piattaforma. Un portavoce della società non ha risposto a una richiesta di commento lunedì.