OpenAI vil ikke gi ut sin kontroversielle «voksenmodus» erotisk chatbot tross alt – i hvert fall foreløpig.
ChatGPT-produsenten har skrinlagt planene om å rulle ut funksjonen «på ubestemt tid» etter at investorer og rådgivere reiste bekymringer om å utsette mindreårige for eksplisitt innhold, ifølge Financial Times.
Ledere trakk ut kontakten etter å ha erkjent at de mangler «empirisk bevis» på de langsiktige effektene av seksualiserte AI-interaksjoner, heter det i rapporten.
I stedet for å gi den ut i år som planlagt, vil OpenAI samle forskning om potensielle psykiske helseeffekter av erotiske chatbots, rapporterte FT.
En fersk studie utført av Stanford-forskere fant at AI-chatboter fremmet vrangforestillinger og usunn emosjonell tilknytning til brukere – til tider vekket tanker om vold, selvskading og selvmord.
Forskerne fant at vrangforestillinger dukket opp i omtrent 15,5 % av brukermeldingene, mens chatbots viste altfor bekreftende atferd i mer enn 80 % av svarene og oppmuntret til voldelige tanker i omtrent en tredjedel av tilfellene.
De potensielle fallgruvene ved «voksenmodus» fikk toppledere i OpenAI til å overveie å skrinlegge funksjonen helt på grunn av bekymringer om at den kunne fremme usunn emosjonell tilknytning til chatboten, sa kilder til FT.
The Post har søkt kommentar fra OpenAI.
Tidligere denne måneden rapporterte Wall Street Journal at OpenAI forsinket utrullingen av sin «voksenmodus» chatbot etter voldsom tilbakemelding fra rådgivere som advarte om potensielle risikoer for brukere.
Mental helseeksperter som ga råd til OpenAI uttrykte bekymring for at seksualiserte roboter kan bli en «sexy selvmordstrener» for brukere, rapporterte Journal.
Tilbaketrekkingen fra «voksenmodus» er bare det siste tegnet på at OpenAI trekker seg tilbake fra kontroversielle produkter mens den sliter med økende sikkerhetsbekymringer og offentlig tilbakeslag.
Selskapet sa at det avvikler sin Sora-videogenererende app etter at den utløste tilbakeslag over dype forfalskninger og bilder uten samtykke.
OpenAI slapp Sora i september i håp om å konkurrere med andre kortformede videoapper, inkludert TikTok, YouTube og Meta-eide Instagram.
Men selskapet ble snart tvunget til å klatre på grunn av et ramaskrik over videoer som viste fremtredende skikkelser som Michael Jackson og Martin Luther King Jr. som gjorde merkelige ting.
Disney, som inngikk en avtale med OpenAI i fjor for å bringe karakterene sine til Sora, sa i en uttalelse tirsdag at de respekterer «OpenAIs beslutning om å forlate videogenereringsvirksomheten og flytte prioriteringene andre steder.»
