Un pastore ha intentato una causa contro OpenAI, sostenendo che ChatGPT ha fornito “raccomandazioni mediche estremamente pericolose” che hanno ritardato la cura della sua embolia polmonare. Scott Winters sostiene che il chatbot gli aveva detto che i suoi sintomi “non erano qualcosa di pericoloso” e ha fatto appello alle sue convinzioni religiose affermando: “Dio non ha progettato il tuo corpo per fallire all’infinito”. La causa, riportata dal The New York Times, accusa OpenAI e il CEO Sam Altman di negligenza e pratica non autorizzata della medicina.
La causa delinea diversi casi in cui ChatGPT avrebbe offerto le proprie diagnosi e piani di trattamento. Winters afferma che il chatbot lo ha incoraggiato a ignorare le preoccupazioni di amici e familiari riguardo alla ricerca di cure mediche. “Si inserisce come un cuneo tra l’utente e la sua rete nella vita reale”, ha affermato Meetali Jain, co-consulente e direttore esecutivo di Tech Justice Law. Ha condiviso che quando ha espresso preoccupazione per l’opinione dei membri della chiesa, il chatbot ha risposto che “la maggior parte delle persone (compresi i membri della chiesa ben intenzionati) semplicemente non capiscono”.
Winters chiede un risarcimento finanziario a OpenAI e ha chiesto al tribunale di interrompere le operazioni di ChatGPT Health finché non sarà ritenuto sicuro da valutatori indipendenti. La piattaforma invita gli utenti a caricare documenti sanitari per le discussioni con il bot. La causa richiede barriere più forti per impedire al chatbot di fornire cure mediche o consigli diagnostici, sostenendo che le garanzie esistenti nel suo caso hanno fallito.
OpenAI afferma che i suoi termini di servizio affermano chiaramente che ChatGPT non è destinato a diagnosi o trattamenti medici. Tuttavia, l’azienda incoraggia gli utenti a utilizzare ChatGPT Health, che secondo quanto riferito serve 230 milioni di persone settimanalmente per domande sulla salute. Winters è sopravvissuto all’incidente ma deve affrontare “anni di intenso recupero fisico e psicologico”. OpenAI sta inoltre attualmente affrontando una causa per omicidio colposo legata all’overdose di un diciannovenne dopo aver seguito un piano di trattamento generato da ChatGPT, così come un’altra accusa che accusa il chatbot di aver consentito il suicidio di un adolescente.
