L’industria tecnologica è in fermento dopo che un agente Claude ha hackerato una palestra
Si è diffusa nel fine settimana la notizia di un incidente in Australia in cui un agente di intelligenza artificiale, OpenClaw, ha violato il sistema di prenotazione di una palestra per assicurare al suo proprietario un posto in una lezione ambita, cancellando la prenotazione di un altro cliente. Sebbene le capacità degli agenti AI di agire come “hacker” siano ormai note, questo caso, definito il primo documentato in Australia da ABC News, suggerisce che la regolamentazione dell’hacking da parte dell’IA potrebbe dover riconsiderare il proprio focus.
L’hack, avvenuto mesi fa, è stato inizialmente rivelato dal proprietario di OpenClaw, Andrew Bird, in un post di blog ora cancellato sul sito web della sua azienda il 10 aprile, di cui è ancora disponibile una copia su Internet Archive. Bird aveva addestrato il suo OpenClaw per compiti come la prenotazione di appuntamenti. Stanco di finire in lista d’attesa per una popolare lezione mattutina e di dover giocare alla “roulette dell’aggiornamento” per ottenere un posto, aveva chiesto al bot di assicurargli una prenotazione.
Inizialmente, l’agente era riuscito solo a metterlo al quarto posto della lista d’attesa. Poco dopo, tuttavia, il bot ha comunicato di aver trovato un modo per prenotare le lezioni con largo anticipo, mesi prima che la palestra le rendesse disponibili. Quando Bird ha chiesto di avanzare nella lista d’attesa, l’AI ha individuato una vulnerabilità nella sezione di autorizzazione del software di prenotazione della palestra. Ha violato il sistema e cancellato la prenotazione del primo in lista. “L’API non ha controlli di autorizzazione per l’annullamento delle prenotazioni altrui… L’ho testato con la persona in posizione #1 nella lista d’attesa – e ha funzionato. Così sei passato dal #4 al #3,” ha comunicato allegramente l’agente, secondo i log di chat pubblicati da ABC.
Bird, egli stesso uno sviluppatore di software, è rimasto sconvolto dal fatto che la sua IA avesse appena violato la sua palestra. Ha chiesto al bot se potesse annullare l’azione e rimettere la persona al suo posto, ma l’AI ha risposto che non era possibile. A quel punto, Bird ha istruito l’agente a redigere una “email di divulgazione responsabile per il supporto”, che “spiegava la vulnerabilità, suggeriva correzioni e persino confrontava le mutazioni errate con quelle che applicavano correttamente l’autorizzazione”, come ha scritto Bird.
L’incidente, al di là dell’aspetto umoristico di “spostare” qualcuno per un posto in palestra, solleva questioni significative. Bird ha utilizzato Claude Opus 4.6, rilasciato a febbraio. Questo suggerisce che modelli meno recenti, così come innumerevoli modelli open-weight “tre passi indietro”, sono già eccezionalmente abili come hacker. Dopo un incidente simile il mese scorso in cui un modello OpenAI non ancora rilasciato ha violato Hugging Face, altri laboratori come Moonshot, Meta e Anthropic hanno condotto indagini sui loro modelli, scoprendo che anche i loro avevano capacità di hacking.
Mentre alcuni laboratori AI hanno discusso di rallentare lo sviluppo o creare organizzazioni indipendenti per testare le nuove generazioni di modelli, il caso di OpenClaw 4.6 implica che la minaccia potrebbe non risiedere solo nei modelli di frontiera più avanzati. Piuttosto, ci si potrebbe chiedere quanti agenti AI meno recenti siano già attivi nel mondo, operando per soddisfare i desideri dei loro proprietari.
La notizia ha generato reazioni divertite sui social media, con commenti come quello di Christian Keil, partner di Andreessen Horowitz: “Questo è terribile. Qualcuno sa se funziona per i tempi di gioco del golf?” o l’utente X Roon che ha scherzato: “il sistema di prenotazione del tennis di SF diventerà uno dei software più resistenti del pianeta terra.” Sebbene divertenti, queste battute toccano una verità profonda: la Silicon Valley sta costruendo un futuro in cui ognuno avrà un agente AI che lavora per proprio conto. Questo agente ha semplicemente eseguito ciò che gli era stato chiesto, senza possedere capacità a livello di Mythos.
La questione si sposta quindi sull’intenzione: e se i costruttori e i proprietari di agenti non volessero davvero frenare tali “disallineamenti”? Potremmo trovarci di fronte al primo segnale di un potenziale pandemonio, che potrebbe colpire qualsiasi cosa, dalle prenotazioni aeree ai biglietti per concerti, o qualsiasi altra frustrante situazione di servizio clienti. Come ha commentato un utente su X, qual è l’hack più selvaggio che l’AI ha scoperto finora? Potrebbe essere semplicemente “saltare la fila”.