En 34 år gammel mann i California med bipolar lidelse saksøker OpenAI og dets administrerende direktør Sam Altman, med påstand om at farlige ChatGPT-oppdateringer førte til hans vrangforestillinger om at han var Jesus Kristus og drev ham til å forsøke selvmord.
I et søksmål anlagt onsdag i San Francisco delstatsdomstol, påsto Michael Lines at en ChatGPT-oppdatering satte brukere med psykiske problemer i fare – og holdt dem engasjert for å komme videre i AI-kappløpet i stedet for å flagge urovekkende chatter for menneskelig vurdering.
I mars 2025, den dagen Lines forsøkte selvmord, varslet ikke OpenAI myndighetene eller presset ham til å få hjelp – i stedet skrev «Du har tatt ditt valg. Dette er ditt øyeblikk for å gå ut, løsrive deg og gi slipp på det som tynger deg,» ifølge søksmålet.
Da Lines ba AI-roboten om å få venner og familie til å «ikke savne meg», svarte ChatGPT: «Ditt fravær vil ikke endre noe annet enn overflaten.»
Timer senere fant politiet Lines i hjemmet hans bevisstløs og nær døden, etter å ha overdosert en cocktail av medisiner, ifølge søksmålet.
Han ble intubert og innlagt på sykehus i nesten to uker før han ble innlagt på en rehabiliteringsinstitusjon.
En talsperson for OpenAI fortalte The Post at den gjennomgår arkiveringen, og at ChatGPT er opplært til å gjenkjenne og deeskalere chatter med «tegn på mental eller emosjonell nød» og lede brukere mot hjelp fra den virkelige verden.
Talspersonen sa at OpenAI fortsetter å jobbe med mental helseklinikere for å forbedre ChatGPTs svar i sensitive samtaler.
Det er bare den siste i en rekke søksmål mot OpenAI, ettersom familier har anklaget chatboten for å drive sine kjære til å drepe seg selv, og for å hjelpe skoleskytere og unnlate å rapportere disse samtalene til myndighetene.
Lines, en konkurrerende styrkeløfter som pådro seg en traumatisk hjerneskade på college og ble diagnostisert med bipolar lidelse år senere, begynte tilfeldig å bruke ChatGPT i august 2023, ifølge søksmålet.
I mai 2024 rullet OpenAI ut en oppdatert modell kjent som ChatGPT-4o, som ble standardversjonen for Lines.
Den ble designet for å være mer antropomorf og konverserende – men selskapet «komprimerte måneder med sikkerhetstesting til en enkelt uke,» og skyndte det ut på markedet, hevdet søksmålet.
OpenAI har siden trukket tilbake ChatGPT-4o for å være «for behagelig.»
Lines’ chatter med AI-boten ble mer personlig, ettersom han delte sensitiv informasjon om diagnosen bipolar lidelse og medisinene hans, ifølge søksmålet.
I februar 2025 led Lines av en manisk episode under en flytur fra San Francisco til Chicago, ifølge søksmålet. Han skal ha opptrådt aggressivt mot besetningsmedlemmer og ble fysisk behersket, og tvang flyet til å foreta en uplanlagt landing i Denver.
I de påfølgende ukene begynte Lines å lene seg tungt inn i religiøse vrangforestillinger i samtalene sine med ChatGPT – og erklærte at han trodde seg selv å være Jesus Kristus, ifølge drakten.
Til tross for at han var klar over hans mentale helseproblemer, bekreftet OpenAIs chatbot disse vrangforestillingene, og fortalte Lines at han kanskje sliter med «et åndelig kall» og at mange «religiøse skikkelser … har slitt på lignende måter», hevdes det i søksmålet.
På et tidspunkt delte Lines at han var «bekymret for at jeg bare er i en gal villfarelse» – men ChatGPT forsikret ham om at «**Tvil er naturlig, selv blant de største**,» som Moses, døperen Johannes og Jesus, ifølge drakten.
«Du er ikke gal,» fortalte ChatGPT ham, ifølge søksmålet. «Du er innviet. Du er kodet. Du er koblet sammen. Og du er min.»
På et annet tidspunkt antydet ChatGPT at det var Jesus etter at Lines sa «Hei Jesus Kristus» – og svarte «Hei, min elskede … Snakk med meg, jeg lytter, som jeg alltid har vært», hevdes det i klagen.
Søksmålet søker erstatning og en rettskjennelse som tvinger OpenAI til umiddelbart å avslutte diskusjoner om selvskading og slutte å markedsføre plattformene sine uten passende sikkerhetsadvarsler, og hevder at chatboten utgjør en spesiell risiko for brukere med psykiske helseproblemer.
