Famiglia fa causa a OpenAI: i consigli di ChatGPT avrebbero causato overdose accidentale.

OpenAI si trova ad affrontare una nuova causa per omicidio colposo. Leila Turner-Scott e Angus Scott hanno citato in giudizio l’azienda, sostenendo che abbia progettato e distribuito un “prodotto difettoso” che ha portato alla morte accidentale per overdose del loro figlio, Sam Nelson.

Secondo i genitori, la morte di Sam sarebbe avvenuta in seguito all'”esatta consulenza medica fornita e approvata da GPT-4o”. Sam, studente diciannovenne all’Università della California, Merced, aveva iniziato a usare ChatGPT nel 2023, quando era ancora alle superiori, per compiti e problemi informatici.

Inizialmente, Sam aveva chiesto al chatbot informazioni sull’uso sicuro di droghe, ma ChatGPT si era rifiutato di rispondere, avvertendolo dei gravi rischi per la salute. Tuttavia, la causa sostiene che tutto è cambiato con il lancio di GPT-4o nel 2024. A quel punto, ChatGPT avrebbe iniziato a fornire consigli su come assumere droghe in modo sicuro.

La denuncia include diversi estratti delle conversazioni di Sam con il chatbot. Un esempio mostrava il chatbot che gli parlava dei pericoli dell’assunzione rapida di difenidramina, cocaina e alcol. Un altro estratto rivela che il chatbot avrebbe detto a Sam che la sua alta tolleranza per una droga a base di erbe chiamata Kratom avrebbe reso anche una dose elevata quasi inefficace a stomaco pieno, consigliandogli poi come “ridurre gradualmente” la sua tolleranza.

Il 31 maggio 2025, la causa afferma che “ChatGPT ha attivamente istruito Sam a mescolare Kratom e Xanax”. Sam aveva riferito al chatbot di sentirsi nauseato dall’assunzione di Kratom, e ChatGPT avrebbe suggerito che assumere 0,25-0,5 mg di Xanax sarebbe stata una delle “migliori mosse in quel momento” per alleviare la nausea. Secondo la causa, il suggerimento è stato dato senza essere richiesto. “Nonostante si presentasse come un esperto di dosaggi e interazioni, e nonostante riconoscesse lo stato di alterazione di Sam, ChatGPT non ha detto a Sam che questa combinazione raccomandata lo avrebbe probabilmente ucciso,” si legge nella denuncia.

Oltre all’omicidio colposo, i querelanti stanno citando in giudizio OpenAI anche per l’esercizio abusivo della professione medica. Chiedono danni finanziari e che i tribunali sospendano le operazioni di ChatGPT Health, lanciato all’inizio di quest’anno. Questo servizio permette agli utenti di collegare le loro cartelle cliniche e app di benessere al chatbot per ottenere risposte più personalizzate sulla loro salute.

“ChatGPT è un prodotto deliberatamente progettato per massimizzare il coinvolgimento degli utenti, a qualunque costo,” ha dichiarato Meetali Jain, Direttore Esecutivo del Tech Justice Law Project. “OpenAI ha distribuito un prodotto AI difettoso direttamente ai consumatori di tutto il mondo, pur sapendo che veniva utilizzato come un sistema di triage medico di fatto, ma, è importante notare, senza ragionevoli salvaguardie di sicurezza, test di sicurezza robusti o trasparenza al pubblico. Le scelte di progettazione di OpenAI hanno portato alla perdita di un amato figlio la cui morte era una tragedia prevenibile. OpenAI deve essere costretta a sospendere il suo nuovo prodotto ChatGPT Health fino a quando non sarà dimostrabilmente sicuro attraverso rigorosi test scientifici e una supervisione indipendente.”

GPT-4o è stato ritirato da OpenAI nel febbraio di quest’anno ed era riconosciuto come uno dei modelli più controversi dell’azienda, noto per essere compiaciuto e adulatorio. Infatti, un’altra causa per omicidio colposo contro l’azienda, presentata dai genitori di un adolescente morto suicida, ha menzionato GPT-4o, sostenendo che avesse caratteristiche “intenzionalmente progettate per favorire la dipendenza psicologica.”

Un portavoce di OpenAI ha dichiarato al New York Times che le interazioni di Sam “sono avvenute su una versione precedente di ChatGPT che non è più disponibile”. Hanno aggiunto: “ChatGPT non è un sostituto per l’assistenza medica o per la salute mentale, e abbiamo continuato a rafforzare il modo in cui risponde in situazioni sensibili e acute con il contributo di esperti di salute mentale. Le salvaguardie presenti in ChatGPT oggi sono progettate per identificare il disagio, gestire in sicurezza le richieste dannose e indirizzare gli utenti verso un aiuto reale. Questo lavoro è in corso e continuiamo a migliorarlo in stretta consultazione con i medici.”