Tribunale tedesco: Google responsabile per le affermazioni false generate dai riepiloghi IA
Sentenza Storica in Germania: Google Ritenuta Responsabile per Informazioni False Generate dall’AI
Un tribunale locale in Germania ha emesso una sentenza che potrebbe ridefinire il funzionamento dei motori di ricerca e dei chatbot basati sull’intelligenza artificiale a livello mondiale. Il Tribunale regionale di Monaco ha stabilito in via preliminare che Google è responsabile per una serie di dichiarazioni false generate dalla sua funzionalità AI Overviews, imponendo all’azienda di impedire la diffusione di affermazioni erronee o inaccurate tramite il suo motore di ricerca.
La decisione deriva da un caso, riportato per la prima volta da The Decoder, in cui due editori hanno scoperto che i riepiloghi generati dall’AI di Google li collegavano, in determinate ricerche, a pratiche commerciali discutibili, truffe e frodi legate agli abbonamenti, senza alcun fondamento. All’inizio di quest’anno, le aziende colpite avevano inviato al gigante tecnologico una diffida. Google aveva negato la responsabilità, sostenendo che la sua funzione di sintesi automatica avverte gli utenti che le informazioni potrebbero contenere errori e dovrebbero essere verificate in modo indipendente.
L’analisi del tribunale ha concluso che l’AI di Google ha combinato informazioni corrispondenti ad altre aziende segnalate per possibili pratiche illecite con dati relativi ai querelanti, generando associazioni che non apparivano in nessuna delle fonti collegate dal motore di ricerca. Le autorità hanno rilevato che, a differenza dei motori di ricerca tradizionali, che si limitano a visualizzare elenchi di link con dichiarazioni fatte da terze parti, lo strumento di Google ha prodotto “dichiarazioni indipendenti, nuove e sostanziali” basate su un’interpretazione errata delle informazioni disponibili su internet.
Secondo il tribunale, la correzione della disinformazione non è responsabilità di terzi. Google è l’unica entità con la capacità di modificare la tecnologia alla base dei suoi riepiloghi generati dall’AI e, pertanto, “deve essere ritenuta responsabile”. Inoltre, il tribunale ha ritenuto che la linea di difesa di Google fosse priva di fondamento, poiché il riepilogo contestato “contiene affermazioni che non appaiono affatto nei risultati di ricerca”. Questa interpretazione del ruolo dell’AI nella presentazione dei risultati di ricerca potrebbe rendere questo caso un precedente storico, ritenendo una grande azienda tecnologica responsabile dell’influenza dei suoi sviluppi più avanzati su piattaforme ampiamente utilizzate.
Fino ad ora, nella maggior parte dei sistemi legali, i motori di ricerca sono stati considerati strumenti che si limitano a facilitare l’accesso a contenuti creati da terzi e disponibili sul web. Questo status ha garantito loro un certo livello di protezione quando le informazioni pubblicate erano false, imprecise, fuorvianti o persino diffamatorie. Tuttavia, il tribunale tedesco ha sostenuto che questa salvaguardia non si applica più quando i motori di ricerca incorporano sistemi di AI generativa. Secondo il suo ragionamento, questa tecnologia è in grado di produrre affermazioni inesistenti basate su più fonti e, di conseguenza, le aziende responsabili del suo funzionamento devono assumere la responsabilità per il contenuto risultante.
I giudici hanno anche concluso che, sebbene Google incoraggi gli utenti a verificare le informazioni a causa del potenziale di “allucinazioni” intrinseche ai modelli AI, questo avviso non assolve il distributore di contenuti dalla responsabilità. Altrimenti, hanno argomentato, le vittime di false dichiarazioni sarebbero praticamente indifese, poiché le fonti originali non hanno mai fatto tali dichiarazioni e, pertanto, non potrebbero essere soggette ad azioni legali. Allo stesso modo, il tribunale ha ritenuto che i risultati generati da un sistema AI non possano essere protetti dai principi della libertà di espressione, poiché sono il prodotto di un algoritmo progettato, addestrato e gestito da un’azienda, e non l’espressione di un’opinione individuale.
Come misura precauzionale per prevenire possibili recidive, la sentenza ha richiesto a Google di rimuovere gran parte delle dichiarazioni ritenute diffamatorie in questo caso e di coprire l’80% delle spese legali derivanti dal procedimento. Un portavoce dell’azienda, citato da Ars Technica, ha suggerito che la decisione potrebbe essere impugnata. “Investiamo molto nella qualità di AI Overviews per garantire che la stragrande maggioranza delle risposte fornisca informazioni accurate e siano progettate per riflettere le informazioni esistenti sul web”, afferma la dichiarazione. “Stiamo esaminando attentamente questa decisione, che non è ancora definitiva.”