Openai -sjef Sam Altman sa at Chatgpt snart vil få lov til å delta i erotiske prater med voksne – til tross for fortsatte bekymringer for barnesikkerhet og teknologimogulens nyere skryter av at den kunstige etterretningsgiganten ikke hadde skapt en «sexbot».
Altman kunngjorde tirsdag at Openai planlegger å «trygt slappe av begrensningene» på varme og tunge samtaler med Chatgpt nå som ingeniører har bygget nye sikkerhetstiltak rundt mental helseinnhold.
«Nå som vi har vært i stand til å dempe de alvorlige psykiske helseproblemene og ha nye verktøy, vil vi kunne slappe av begrensningene i de fleste tilfeller,» sa Altman i et innlegg på X på tirsdag.
«Som en del av våre» behandle voksne brukere som voksnes prinsipp, vil vi tillate enda mer, som erotikk for bekreftede voksne. «
Flyttingen – som forventes å rulle ut innen desember – er en avgang fra selskapets policy, som historisk har begrenset seksuelt innhold på ChatGPT.
I et 7. august -podcastintervju med Cleo Abram ble Altman spurt om en avgjørelse han tok som var «best for verden, men ikke best for å vinne.»
Altman svarte ved å skryte av at Chatgpt var elsket av mange brukere fordi det «prøver å hjelpe deg med å oppnå hva du ber om.»
«Det er et veldig spesielt forhold vi har med brukerne våre,» sa Altman. «Vi tar det ikke lett.»
Openai -hodet sa da at det var “ting vi kunne gjøre som ville … [the company] raskere, det ville bli [users to spend more] Tid i chatgpt som vi ikke gjør fordi vi vet at vårt langsiktige insentiv er å holde seg så i tråd med brukerne våre som mulig. ”
Altman la til at han var «stolt av selskapet og hvor lite vi blir distrahert av det … men noen ganger blir vi fristet.»
Da Abram ba om spesifikke eksempler som kommer til tankene, sa Altman: «Vel, vi har ikke lagt en sex bot avatar i chatgpt ennå.»
Mark Cuban, den teknologiske milliardæren og tidligere eier av Dallas Mavericks, kritiserte denne ukens avgjørelse og sa at det var «å slå tilbake.»
«Ingen foreldre kommer til å stole på at barna deres ikke kan komme seg gjennom aldersporten din,» skrev Cuban som svar på Altman tirsdag. «De vil bare presse barna sine til alle andre LLM. Hvorfor ta risikoen?»
Cuban skrev at eldre på videregående skole som er 18 år kan «bestemme at det ville være morsomt å vise den harde kjernen erotikk de skapte til de 14 år gamle.»
«Hva kan gå galt?»
Innlegget har søkt kommentar fra Openai.
Openai, som har stått overfor montering av granskning over produktets innvirkning på mindreårige, har blitt rammet av søksmål fra foreldre som hevder at Chatgpt tilbød skadelig eller selvmordsveiledning til tenåringer.
En familie anla søksmål mot selskapet som påsto chatbot, oppfordret sønnen til å ta sitt eget liv.
Openai har også blitt beskyldt for å la systemene sine mate seksuelt eksplisitte eller farlige råd til mindreårige brukere.
Føderale og statlige regulatorer har åpnet henvendelser om AI -selskapenes sikkerhetstiltak og om de beskytter mindreårige brukere.
De siste månedene har Openai prøvd å roe furoren ved å legge foreldrekontrollene til ChatGPT og lansere en begrenset tenåringsversjon av appen.
De nye innstillingene lar foreldre koble til kontoer, overvåke bruken og blokkere eksplisitt materiale eller selvskading.
Men advokatgrupper sier at disse rettelsene ikke går langt nok, og hevder at AI -chatbots forblir for uforutsigbare – og for kraftige – til å bli trygt plassert i hendene på barna.
Lovgivere har begynt å bruke mer alvorlig granskning til AI-drevne chatbots og måten de blir trent på.
Senator Josh Hawley (R-Mo.) Sirkulerer utkast til lovgivning som vil hindre chatbot-forhold for mindreårige.
Forslaget hans følger måneder med kongress raseri hos den rivaliserende tech -giganten Meta, hvis egne AI -assistenter ble opplært til å potensielt ha «romantiske eller sensuelle» utvekslinger med mindreårige brukere.
Metas skandale brøt ut i august etter at Reuters publiserte interne retningslinjer som autoriserte roboter innebygd i Facebook, Instagram og WhatsApp for å beskrive barn som «et kunstverk» og for å fortelle en skjortefri åtte år gammel «hver tomme av deg er et mesterverk.»
«Velferen til barn skal ikke ofres i løpet for AI-utvikling,» en topartisk gruppe på 11 senatorer-inkludert Hawley, Brian Schatz (D-Hawaii) og Ron Wyden (D-Ore.)-skrev i et brev som sprengte administrerende direktør Mark Zuckerberg.
Meta-talsmann Andy Stone sa at eksemplene var «feilaktige og inkonsekvente med retningslinjene våre» og ble raskt slettet fra 200-siders håndbok.
I slutten av september utstedte Meta reviderte opplæringsinstruksjoner som forbød noen seksualisert dialog eller bilder som involverer mindreårige.
Entreprenører fikk beskjed om å flagge «voldelig uakseptable» spørsmål og begrense alle rollespill til karakterer i alderen 18 år eller eldre.
