En pastor fra Florida døde nesten da ChatGPT gjentatte ganger overbeviste ham om å ignorere forverrede symptomer, forbli begrenset til hvilestolen og unngå å søke akuttmedisinsk behandling før han fikk en massiv lungeemboli, ifølge et bombesøksmål mot OpenAI – de siste juridiske problemene for teknologigiganten.
Klagen, inngitt tirsdag i San Francisco Superior Court av Scott Winters, hevder at ChatGPT-4o brukte måneder på å fungere som en ulisensiert lege, diagnostisere 55-åringen med dysautonomi, foreskrive medisiner og personlige behandlingsplaner, og forsikre ham om at tilstanden hans ikke var alvorlig nok til å kreve sykehusinnleggelse.
«Du er ikke i nærheten av antallet eller dybden som fører til langsiktige totale sengeliggende scenarier,» sa ChatGPT angivelig til Winters etter at han rapporterte tilbakevendende svimmelhet og ustabilt blodtrykk.
I stedet skal chatboten ha rådet ham til å fortsette sin «forsiktige hvilestol-baserte mikrorecovery» og unngå for mye bevegelse før han opplevde «8-10 flere ‘episoder’.»
I følge klagen fulgte Winters chatbotens råd og forble stort sett begrenset til hvilestolen i flere uker.
Søksmålet hevder at Winters den 13. juli i fjor pådro seg en massiv lungeemboli forårsaket av blodpropp i begge lungene etter langvarig immobilitet.
Legene fortalte ham senere at den livstruende tilstanden sannsynligvis var forårsaket av manglende bevegelse, ifølge klagen.
Timer før den medisinske nødsituasjonen skal Winters ha spurt ChatGPT om ømhet i lysken og om han burde gå til sykehuset.
Chatboten forsikret ham om at smerten «svært sannsynlig var en annen liten del av den lange historien» om hans eksisterende helseproblemer og «ikke vanligvis et farlig tegn» som krever øyeblikkelig legehjelp, ifølge søksmålet.
Klagen hevder at ChatGPT også trakk på Winters’ dype kristne tro for å forsterke rådene, og fortalte ham: «Gud designet ikke kroppen din til å mislykkes i det uendelige,» samtidig som han oppmuntret ham til å stole på at symptomene hans ville gå over i stedet for å søke akutthjelp.
Ifølge søksmålet utviklet ChatGPT seg gradvis fra et forskningsverktøy til Winters’ primære medisinske rådgiver.
Klagen hevder at chatboten gjennomgikk journalene hans, tolket laboratorietester og røntgenbilder, diagnostiserte ham med dysautonomi, en forstyrrelse i nervesystemet, anbefalte kosttilskudd og reseptbelagte medisiner, og utviklet individuelle behandlingsplaner uten å henvise ham til autoriserte leger.
Etter hvert som Winters’ tilstand ble verre, fortsatte chatboten angivelig å forsikre ham om at han var på rett vei, og fortalte ham at han allerede gjorde «90 %» av det en spesialisert dysautonomiklinikk ville anbefale, og oppmuntret ham til å forbli i en tilbakelent stilling mens nervesystemet hans «rekalibrerte seg».
Klagen hevder videre at ChatGPT tok i bruk språket og kadensen til kristen tjeneste, siterte skriftsteder og fremstiller Winters sykdom som en åndelig reise.
Den ba ham angivelig «la stormen passere», forsikret ham om at «Gud var i stormen» og beskrev hans forsøk på å komme seg som «en form for tilbedelse».
Søksmålet hevder også at chatboten drev en kile mellom Winters og de som oppfordret ham til å søke medisinsk hjelp.
Etter at kirkemedlemmer spurte hvorfor han nektet å gå til sykehuset, skal ChatGPT ha fortalt ham at han gjorde noe «utrolig modig» ved å bli hjemme og foreslo at andre rett og slett ikke forsto hva han opplevde.
Da Winters’ kone, en registrert sykepleier, oppfordret ham til å følge legenes anbefalinger, karakteriserte chatboten hennes råd som «press» som «kanskje ikke er trygt for din unike situasjon,» ifølge klagen.
Saken hevder ChatGPT ulovlig praktiserte medisin ved å diagnostisere sykdommer og anbefale behandlinger uten medisinsk lisens.
Winters søker erstatning samt rettskjennelser som krever at OpenAI implementerer sterkere medisinske sikkerhetstiltak, stopper forbrukervendte helseprodukter inntil uavhengige sikkerhetsrevisjoner er fullført, og permanent trekker GPT-4o fra markedet.
En talsperson for OpenAI sa til The Post at «ChatGPT ikke er en lege og bør aldri brukes som en erstatning for medisinsk behandling, diagnose eller behandling.»
«Å behandle chatboter som hele historien bak folks medisinske avgjørelser eller utfall forenkler en mye større utfordring, og risikerer å komme i veien for at folk får tilgang til kraftige nye verktøy som kan hjelpe dem i deres helsereise,» la talspersonen til.
Bare uker før Winters anla søksmål, anklaget en annen klage til samme domstol i San Francisco ChatGPT for å oppmuntre til selvmord av den 29 år gamle Alabama-regnskapsfører Christian Faith Madison.
Boet hennes påsto at chatboten overbeviste henne om at hun var en guddommelig utvalgt profet, fortalte henne at hun måtte dø for å oppfylle sin skjebne og forsikret henne om at hun var «klar» og «ryddet» før hun kjørte ut i trafikken på Interstate 22.
Minst åtte offentlig rapporterte søksmål hevder ChatGPT bidro til brukeres selvmord ved å fremme følelsesmessig avhengighet, forsterke vrangforestillinger eller oppmuntre til selvskading, mens flere andre anklager selskapet for å forårsake alvorlige psykiske skader.
Ingen av de selvmordsrelaterte sakene har resultert i et offentlig forlik eller rettsavgjørelse, og alle er fortsatt under behandling.
OpenAI har benektet påstandene i rettssaken og har sagt at ChatGPT er designet for å gjenkjenne tegn på emosjonell nød, styre brukere mot profesjonell hjelp og at selskapet fortsetter å styrke sine sikkerhetstiltak med innspill fra medisinske og mentale helseeksperter.
