Anthropic blocca a tutti i clienti l’accesso a Fable 5 e Mythos 5
Anthropic ha disabilitato l’accesso a Fable 5 e Mythos 5 per tutti i suoi clienti, in ottemperanza a un ordine ricevuto dal governo statunitense venerdì 12 giugno. La direttiva, che cita preoccupazioni per la sicurezza nazionale, impone la sospensione dell’accesso ai modelli di intelligenza artificiale di nuova generazione a tutti i cittadini stranieri, inclusi i dipendenti di Anthropic, sia che si trovino negli Stati Uniti che all’estero. Il chatbot Claude e gli altri modelli dell’azienda non sono stati interessati dalla misura.
Sebbene il governo non abbia specificato le preoccupazioni esatte, Anthropic ritiene che la decisione sia legata alla scoperta di un metodo per “sbloccare” (jailbreaking) il modello Fable 5. Fable AI, lanciato appena il 9 giugno, era stato progettato per estendere al pubblico molte delle capacità di Mythos, un modello di cybersecurity all’avanguardia disponibile solo per i partner di “Project Glasswing”. Le sue prestazioni, che superano quelle di qualsiasi modello precedente di Anthropic, sono state dimostrate, ad esempio, dalla capacità di battere Pokémon FireRed nei test interni, mentre il più vecchio Claude non era riuscito a superare Pokémon Red.
Anthropic, nota per aver espresso pubblicamente avvertimenti sulla necessità di una maggiore supervisione dell’IA, ha sottolineato le rigorose misure di sicurezza implementate per Fable. L’azienda ha dichiarato di aver adottato forti salvaguardie per ridurre la probabilità di un uso improprio per compiti legati alla cybersecurity, tanto che molti utenti si sono lamentati della loro eccessiva ampiezza. Pur riconoscendo che nessun fornitore può garantire una perfetta resistenza ai tentativi di jailbreak – ogni modello è vulnerabile – Anthropic ha affermato di aver mirato a rendere gli sblocchi specifici (non universali) difficili o molto costosi da produrre, combinando ciò con un monitoraggio costante per rilevare e bloccare rapidamente qualsiasi attacco riuscito.
Il governo avrebbe fornito all’azienda prove verbali relative a un potenziale jailbreak ristretto e non universale, condiviso con le autorità da un’entità non specificata. Anthropic aveva promesso di condividere ulteriori dettagli nelle ore successive, ma ha chiarito di non concordare sul fatto che un potenziale jailbreak debba essere motivo per il richiamo di un modello commerciale. “Come abbiamo dichiarato pubblicamente, riteniamo che il governo debba avere la capacità di bloccare implementazioni non sicure, come parte di un processo statutario trasparente, equo, chiaro e basato su fatti tecnici,” ha scritto l’azienda. “Questa azione non aderisce a tali principi.”