Il manifesto sull’IA di Mark Zuckerberg: ecco perché non piace alla gente
Mark Zuckerberg ha recentemente pubblicato un saggio di 6.500 parole sull’IA personale, incentrato in larga parte sulle possibilità offerte dai sistemi di “superintelligenza personale” che Meta AI sta sviluppando. Sebbene le idee non siano del tutto nuove, essendo già apparse sul Wall Street Journal e in precedenti comunicazioni di Meta, questa versione rappresenta la trattazione più dettagliata mai condivisa dal CEO.
L’articolo, che alcuni hanno descritto come un saggio “anti-catastrofismo”, è più che altro una dichiarazione di quanto Zuckerberg sia personalmente entusiasta dei modi in cui l’IA cambierà la società. Tuttavia, mentre cerca di dipingere un quadro di un futuro meraviglioso e abbondante di superintelligenza, Zuckerberg non manca di ricordarci tutti i modi in cui le cose potrebbero andare storte.
Questo entusiasmo contrasta con la percezione pubblica dell’intelligenza artificiale, spesso vista come inquietante e sgradevole. La questione cruciale è il rapporto di fiducia tra il pubblico e i dirigenti tecnologici. I social media rimangono un argomento delicato: Facebook, come prodotto, e Zuckerberg, come persona, sono impopolari negli Stati Uniti. Sondaggi recenti rivelano che il 64% degli americani ritiene che i social media siano stati dannosi per la democrazia, e una percentuale simile crede che dovrebbero essere maggiormente regolamentati. A ciò si aggiunge una recente multa di 567 milioni di dollari inflitta all’azienda per danni ai minori. Il clima è decisamente negativo.
Le ricadute dei social media sono una delle ragioni centrali dell’attuale ansia riguardo all’impatto sociale dell’IA. Che sia giusto o meno, il pubblico non si fida dei dirigenti tecnologici per garantire che le nuove tecnologie abbiano un impatto positivo sulla società. Invece di riconoscere questa sfiducia e cercare di riconquistare la fiducia, questo saggio sembra, più volte, evidenziare proprio le ragioni per cui la fiducia è stata persa in primo luogo.
Gran parte del saggio è dedicata a generalizzazioni nebulose sull’intelligenza, molto simili alle vaghe affermazioni che Zuckerberg e Dorsey facevano in passato sulla libertà di parola. Un esempio significativo è: “Man mano che tutti ottengono strumenti più potenti, ogni persona diventerà più capace di plasmare il futuro, non meno… Persone e istituzioni con interessi contrastanti si controllano e bilanciano naturalmente per condurre a risultati positivi. Il percorso migliore e più realistico per costruire un futuro positivo dell’IA è fornire la superintelligenza a tutti.” Sembra quasi una conclusione filosofica, piuttosto che la presentazione di un prodotto specifico chiamato “intelligenza personale” che Meta sta per commercializzare, alimentando il sospetto in chi già nutre poca fiducia.
Questa sensazione di distacco dalla realtà si intensifica quando Zuckerberg passa a esempi specifici, molti dei quali appaiono allarmantemente fuori luogo rispetto all’uso effettivo degli strumenti di IA. Nel campo dell’istruzione, ad esempio, egli immagina che “tutti avranno un tutor e un coach personalizzato con un dottorato di ricerca in ogni materia e una pazienza illimitata per aiutarli a imparare qualsiasi cosa vogliano.” Il prodotto descritto esiste già: sono i chatbot come ChatGPT, Claude e Gemini. Sebbene possano essere utili per l’apprendimento, il loro utilizzo principale nell’istruzione è spesso quello di eludere lo studio, dato che il “tutor personalizzato” può fare i compiti e scrivere saggi assegnati, senza un robusto sistema di filigrana digitale per rilevarli. Questo è un esempio di danno dell’IA a basso rischio, ma reale e attuale, e il rifiuto da parte di una delle persone più potenti del mondo di riconoscerlo genera comprensibilmente nervosismo.
Zuckerberg propone anche un esempio di come l’IA migliorerà il sistema legale: “Immaginate che solo una persona avesse un avvocato superintelligente. Avrebbe un vantaggio sleale in tribunale… Ma ora immaginate che tutti abbiano un avvocato superintelligente. In questo caso, la giustizia sarebbe amministrata in modo molto più equo ed efficiente.” Anche questo è un esempio discutibile. L’accesso all’IA legale potrebbe sì portare a una società più giusta, ma potrebbe anche aggiungere ulteriore complessità al già esistente inferno burocratico o scatenare una nuova ondata di litiganti molesti che intasano il sistema. La mancanza di preoccupazione da parte di Zuckerberg su questi scenari contribuisce ad aumentare l’inquietudine.
Anche le descrizioni delle pratiche commerciali esistenti di Meta assumono un carattere stranamente astratto. Nel descrivere l’impegno di Meta per un modello freemium, Zuckerberg afferma: “Tutti avranno accesso gratuito o a prezzi accessibili a questi strumenti… Offrireemo versioni gratuite che saranno accessibili a miliardi di persone. Per coloro che desiderano pagare per utilizzare più potenza di calcolo, ci sarà un meccanismo di asta dinamica che garantirà a tutti il prezzo più basso possibile… Ciò garantirà che i benefici della superintelligenza siano ampiamente distribuiti.” Sebbene il principio dell’accesso sia condivisibile e i mercati dinamici per il calcolo spot esistano, i prezzi dinamici (noti come “surge pricing”) rappresentano una pessima esperienza utente, specialmente per strumenti su cui si fa affidamento per lavoro. Si deve presumere che Zuckerberg ne sia consapevole, ma la sua descrizione lascia incerti sulle intenzioni reali.
Esistono modi migliori per affrontare questi argomenti. Nonostante i loro difetti, figure come Sam Altman e Dario Amodei comunicano efficacemente con il pubblico riconoscendo i pericoli dell’IA, enfatizzando le proprie precauzioni e cercando di costruire fiducia. Questa comunicazione, sebbene non priva di limiti e fallimenti (come dimostrato da recenti incidenti), è fondamentale per la sopravvivenza dell’industria. Senza un qualche tipo di costruzione della fiducia, il settore potrebbe non essere sempre in grado di superare i propri fallimenti.