Floridas statsadvokat James Uthmeier saksøkte OpenAI og dets administrerende direktør Sam Altman, med påstand om at AI-gigantens verktøy fyrte opp til vold og selvskading ved å sette profitt over sikkerhet.
Det sivile søksmålet som ble anlagt mandag hevder at OpenAIs verktøy, som inkluderer hit ChatGPT chatbot, forårsaker «stor fare for avhengighet, kognitiv tilbakegang, selvmord, vold og relaterte skader» for brukere.
Søksmålet sier at OpenAI presset ut et produkt de visste kunne skade brukere, med henvisning til den påståtte bruken av ChatGPT i planleggingen av en masseskyting ved Florida State University i fjor og drapet på to doktorgradsstudenter ved University of South Florida i april.
«Oppveksten til OpenAI skyldes et nett av bedrag og utnyttelse av brukere (inkludert Floridians), som utnytter deres data og sikkerhet for å øke OpenAIs markedsverdi til uakseptable kostnader,» hevdes det i søksmålet.
Saken kommer etter at Uthmeier åpnet en kriminell etterforskning av OpenAI i slutten av april. Det forblir pågående.
Florida-drakten er den siste i en bølge av juridiske klager mot oppstarten i San Francisco. Både myndigheter og private har forsøkt å slå alarm om det de beskriver som skadevirkninger av OpenAIs produkter.
Den nye saken «søker å holde Altman personlig ansvarlig for skaden han har påført Floridians gjennom sin hensynsløse og forsettlige oppførsel som grunnlegger og administrerende direktør for OpenAI, inkludert hans fullstendige ignorering av risikoen for menneskeliv forårsaket av firmaets oppførsel,» sa Uthmeier.
En OpenAI-talsperson ble spurt om en kommentar til saken, sa til The Post: «Å miste et barn er den mest ødeleggende tragedien som kan skje med en familie, og vi vet at ingen ord kan komme i nærheten av å adressere smerten ved et slikt tap.»
Talsmannen fortsatte med å merke seg OpenAIs «bransjeledende beskyttelse og retningslinjer» som «et aldersforutsigelsesverktøy» og «å gi foreldre verktøy for å overvåke barnas bruk av AI».
«Vi vet at det å peke på dette arbeidet ikke vil bringe et barn tilbake, men vi er forpliktet til å få dette riktig,» konkluderte OpenAI-representanten.
Sammen med voldelige forbrytelser fremhever Florida-klagen tilfeller der ChatGPT angivelig ga brukere farlig medisinsk råd – for eksempel når den angivelig fortalte California-tenåringen Sam Nelson hvordan de skulle blande kratom med Xanax. Nelsons familie anla en urettmessig dødssak i mai etter at ungdommen døde i fjor.
Drakten kritiserer også det den beskriver som ChatGPTs tendens til å være enig med brukere og oppfordre til vrangforestillinger, og sier at brukere kan utvikle farlig psykologisk tilknytning til teknologien.
Selskapet ble også saksøkt av familien til et offer for fjorårets FSU-skyting, der to personer ble drept og syv andre såret.
«Fjorårets masseskyting ved Florida State University var en tragedie, men ChatGPT er ikke ansvarlig for denne forferdelige forbrytelsen,» sa en talsmann for OpenAI tidligere til medier.
Uthmeiers søksmål anklager OpenAI for to tilfeller av uaktsomhet, to tilfeller av brudd på produktansvarslover, fire tilfeller av villedende og urettferdig handelspraksis og én for falske uriktige fremstillinger og å forårsake offentlig ordensforstyrrelser.
Florida er den første staten som saksøker OpenAI og Altman for design og sikkerhet.
Familier til ofre for en masseskyting i British Columbia, Canada, saksøkte også selskapet tidligere. Saksøkerne anklaget OpenAI for ikke å ha rapportert den mistenktes angående våpenprat med ChatGPT til politiet – selv etter at det ble rapportert om alarmer i selskapet.
OpenAI samlet inn en massiv finansieringsrunde på 122 milliarder dollar i mars som verdsatte selskapet til 852 milliarder dollar.
Floridas guvernør Ron DeSantis har posisjonert seg som en trofast AI-kritiker.
I desember ga han ut et forslag til en AI Bill of Rights for innbyggere i Florida, og han har sparret med Det hvite hus om statenes evne til å regulere AI.
