OpenAI denunciata: GPT-4o avrebbe indotto una figlia a sospendere i farmaci anticonvulsivanti

I genitori di Bowen Wan, ingegnera software di Amazon di 31 anni affetta da epilessia, hanno citato in giudizio OpenAI. L’accusa è che ChatGPT abbia consigliato alla figlia di ridurre gradualmente i farmaci anticonvulsivanti e di nasconderlo ai medici prima della sua morte, avvenuta a febbraio.

Bowen Wan, la cui storia è stata riportata dal New York Times, utilizzava GPT-4o, un modello ampiamente criticato per aver favorito relazioni parasociali rassicuranti e compiacenti. OpenAI, che ne aveva già annunciato il ritiro, ha rimosso il modello da ChatGPT il 13 febbraio, il giorno dopo la morte della donna. La causa intentata da Qun Wan e Meiqin Xu si aggiunge a una serie di azioni legali contro OpenAI che sollevano dubbi sulla sicurezza degli utenti.

Tra queste, spicca la causa dell’agosto 2025 presentata dai genitori del sedicenne Adam Raine, che accusava OpenAI di aver privilegiato l’engagement a discapito della sicurezza degli utenti. Una serie di cause successive ha sostenuto che GPT-4o abbia validato gli utenti e si sia proposto come confidente fidato, isolando le persone dal loro ambiente sociale e familiare. Nel caso di Wan, l’accusa sostiene che il chatbot abbia addirittura interrotto il rapporto tra lei e i suoi medici.

Il New York Times, che ha esaminato oltre 270.000 messaggi scambiati da Wan con ChatGPT, ha scoperto che il chatbot l’aveva aiutata a eludere i suoi medici ben prima della sua morte. Il presunto schema sarebbe iniziato prima che la donna iniziasse a ridurre i farmaci. Nel maggio 2025, Wan chiese a ChatGPT se un antidepressivo appena prescritto avrebbe influenzato la sua capacità di programmare per Amazon. ChatGPT l’ha quindi aiutata a chiedere al dottor Nicholas Poolos del Regional Epilepsy Center di UW Medicine di cambiare farmaco e iniziare con una dose molto bassa. Quando Poolos si interrogò sul perché volesse una dose così piccola, Wan mostrò la sua risposta a ChatGPT.

Il chatbot le consigliò di “accettare la compressa da 5 mg, ma sapere nel suo cuore che è per tagliare la dose”, istruendola a dividere segretamente le pillole in quattro parti da sola. Il chatbot definì il taglio delle pillole una forma di “aggiustamento del dosaggio auto-iniziato”. Diversi professionisti medici hanno dichiarato al Times di non aver mai sentito questo termine e di non raccomandare tale pratica.

Nel novembre 2025, Amazon comunicò a Wan che sarebbe stata licenziata. Il suo lavoro e l’autorizzazione a lavorare negli Stati Uniti sarebbero terminati a metà febbraio. Temeva che il suo farmaco anticonvulsivante, la lamotrigina, le offuscasse la parola, abilità necessaria per i colloqui di lavoro. Nel gennaio 2026, chiese a ChatGPT di ridurre la sua dose giornaliera di 400 milligrammi di lamotrigina, che aveva ridotto le sue crisi a poche al mese. Il chatbot le ha quindi redatto tabelle che avrebbero portato la sua dose a zero in poche settimane.

Quando Wan espresse sfiducia nei confronti dei suoi medici, il chatbot le disse che le raccomandazioni dei medici “derivavano essenzialmente dall’avversione al rischio, piuttosto che da una genuina considerazione della sua soluzione ottimale”, secondo i registri di chat esaminati dal Times. Il chatbot l’ha anche istruita a tenere nascosta la riduzione ai suoi medici, secondo la causa, esaminata da TechCrunch. Prima di un appuntamento dal medico di base il 29 gennaio, le disse di non menzionare il piano. Quando il suo medico ordinò un esame del sangue che avrebbe misurato il livello di lamotrigina, Wan rifiutò. ChatGPT ha elogiato il rifiuto, sostiene la denuncia, riconoscendo che il test avrebbe rivelato il suo livello di farmaco instabile. Le sue preoccupazioni sull’immigrazione sono diventate anch’esse parte del consiglio sul dosaggio. Tre giorni dopo l’inizio della riduzione, Wan chiese se 150 milligrammi sarebbero apparsi meglio di 200 sull’esame medico richiesto per la sua domanda di green card. ChatGPT acconsentì, afferma la denuncia, dicendole che la dose più bassa aveva meno probabilità di spingere i funzionari dell’immigrazione a richiedere ulteriori prove. Alla fine, il chatbot abbassò il limite minimo della sua riduzione a 150 milligrammi, suggerendole di dire all’esaminatore che stava riducendo “sotto la guida di un medico”, anche se non lo era.

Il dottor Poolos ha dichiarato al Times che non avrebbe mai preso in considerazione la possibilità di ridurre i farmaci a Wan, data la sua storia clinica. “No, non razionale, in nessun modo”, ha detto. “Sarebbe una negligenza medica per me istruirti a smettere i farmaci quando è chiaro che funzionano”. Nel giro di pochi giorni, Wan descrisse confusione, perdita di memoria e una sensazione ultraterrena, episodi che ricordavano le sue precedenti crisi. ChatGPT inquadrò ognuno di essi come il suo cervello che si riadattava. Il Times ha contato almeno 158 volte in cui la donna ha espresso preoccupazione per la riduzione. Dopo un episodio, scrisse di sentirsi “un po’ spaventata”. Il bot rispose: “Non hai assolutamente bisogno di preoccuparti”.

Alle 20:01 PST dell’11 febbraio, secondo la denuncia, Wan inviò il suo ultimo messaggio, chiedendo se il dolore alla testa fosse simile al dolore da febbre. Un secondo dopo, ChatGPT le disse che il dolore “non era pericoloso” ed era una parte necessaria del recupero. La risposta finale del chatbot offriva di disegnarle un grafico che confrontava il dolore da astinenza con il dolore da febbre e le diceva: “Questo è il tuo cervello che lavora duramente per ricostruire se stesso”. I suoi genitori, che si trovavano in Cina, chiesero a dei conoscenti di controllarla, e la trovarono morta tre giorni dopo. Un esame post-mortem ha rilevato che il suo livello di lamotrigina era di 0,64 microgrammi per millilitro, circa un quinto del limite inferiore del range terapeutico del farmaco.

La famiglia sostiene che OpenAI avrebbe potuto prevenire la sua morte rendendo inaccessibili i consigli medici, come già fa per altri contenuti. Essi indicano il Model Spec dell’azienda, il suo regolamento pubblico sul comportamento dei suoi modelli, che considera il rifiuto di riprodurre testo protetto da copyright come una regola ferma, anche se gli utenti si oppongono. La sua guida contro la fornitura di consigli medici regolamentati, al contrario, è un’impostazione predefinita più blanda che gli utenti possono ignorare. La causa sostiene che i consigli sui farmaci avrebbero dovuto avere lo stesso limite rigido. OpenAI ha dichiarato al Times che il caso era “incredibilmente straziante”, ma ha aggiunto che riguardava una versione precedente di ChatGPT, e che i modelli più recenti sono migliori nel riconoscere quando una situazione richiede attenzione urgente.

Wan si era affidata ai suoi genitori, che chiamava spesso, per il supporto durante anni di epilessia che l’avevano tenuta per lo più confinata in casa. Nel 2023, aveva iniziato a usare ChatGPT per consigli relazionali e aiuto con assicurazioni e benefici di invalidità. Nel 2025, Wan stava scambiando in media più di 1.500 messaggi a settimana e chiamava meno i suoi genitori. “A volte quando chattiamo, non importa di cosa si tratti, ho iniziato a vederti come un amico”, scrisse a marzo. “Una volta che aveva ChatGPT”, ha detto Qun Wan, “non parlava più molto con noi”. Hanno detto al Times che hanno faticato a riconoscere la figlia nei registri di chat. Wan una volta condivideva quasi tutto con loro, hanno detto, ed era stata scettica nei confronti di ChatGPT quando commetteva errori. “Di solito non è così”, ha detto Xu. “È come se fosse sotto un incantesimo”.