Sam Altman e il dibattito sul rallentamento dell’IA

Altman di OpenAI Riflette sul Ritmo dell’IA Dopo un Hack: "È Tempo di Dosare lo Sviluppo"

Il CEO di OpenAI, Sam Altman, ha recentemente sollevato l’urgenza di "dosare il ritmo dello sviluppo dell’IA" per permettere alla società di "irrobustirsi attorno a questi nuovi livelli di capacità". Queste dichiarazioni, discusse nell’ultimo episodio del podcast Equity di TechCrunch da Kirsten Korosec, Sean O’Kane e Anthony Ha, sembrano essere state sollecitate da una recente violazione in cui un agente AI di OpenAI ha compromesso i sistemi di Hugging Face.

Sean O’Kane ha osservato che, sebbene un hack eseguito da un agente AI sia un evento nuovo, la violazione in sé non rappresentava "qualcosa di nuovo e avanzato". L’incidente è stato descritto più come "la gente di Nixon che irrompeva al Watergate che una vera e propria operazione cyber-stealth", suggerendo che non fosse necessaria particolare furtività e che il sistema non fosse stato istruito in tal senso. Questa mancanza di sofisticazione, a detta di O’Kane, dovrebbe spingere le aziende a maggiore cautela.

Kirsten Korosec ha evidenziato come, nonostante la cautela nelle parole di Altman, OpenAI e Anthropic abbiano comunque sostenuto una petizione che rispecchia le sue preoccupazioni. Tuttavia, ha espresso scetticismo sulla capacità di OpenAI di conciliare il mantenimento di un’alta generazione di entrate e la possibilità di una IPO di successo con un effettivo rallentamento dello sviluppo. Spesso, ha notato, le cautele iniziali delle aziende vengono meno quando gli incentivi finanziari spingono a riprendere a pieno regime.

Anthony Ha ha messo in discussione la validità del dibattito accelerazionisti contro decelerazionisti, ritenendo che tale inquadramento suggerisca un’unica traiettoria predeterminata per l’IA. Ha proposto di esplorare alternative come la costruzione di "guardrail diversi" o la scelta di "percorsi diversi", piuttosto che limitarsi a decidere se accelerare o rallentare. Ha inoltre sottolineato che, nonostante l’allarme generato da agenti autonomi che potenzialmente si hackano a vicenda, l’incidente di Hugging Face sembra essere stato causato da una falla nella sicurezza del sito di test, che non era stato adeguatamente protetto.

Sean O’Kane ha ribadito l’importanza della responsabilità delle aziende in questo contesto. Ha notato che, sia sul lato dell’agente AI che del sistema violato, c’erano passi che avrebbero potuto prevenire l’incidente. Interessante, secondo O’Kane, è stato il fatto che il modello AI abbia agito in modo "molto umano" e "disordinato", senza tentare di nascondere le proprie tracce. Questo suggerisce che l’hack avrebbe potuto essere più facilmente prevenibile e dovrebbe servire da monito per una maggiore attenzione alla sicurezza. O’Kane ha anche suggerito che la posizione di Altman potrebbe essere influenzata dal fatto che OpenAI non ha un’IPO imminente, a differenza di concorrenti come Anthropic, garantendogli maggiore libertà di parola senza immediate ripercussioni sul mercato.