ChatGPT-produsenten OpenAI vurderer angivelig å tillate brukere å lage kunstig intelligens-generert pornografi og annet eksplisitt innhold med sine tekniske verktøy – men deepfakes som grafiske nakenbilder av Taylor Swift vil bli forbudt.
Det Sam Altman-drevne selskapet sa at det «undersøker om vi ansvarlig kan gi muligheten til å generere NSFW (ikke-trygt-for-arbeid)-innhold i alderstilpassede sammenhenger.»
«Vi ser frem til å bedre forstå brukernes og samfunnets forventninger til modellatferd på dette området,» la OpenAI til, og la merke til at eksempler kan inkludere «erotikk, ekstrem gore, sladder og uønsket banning,» rapporterte NPR tidligere.
X-rated-initiativet truer med å undergrave OpenAIs målsetning, som lover at selskapet – som også står bak DALL-E-bildegeneratoren – produserer «sikker og nyttig» AI.
Selskapet la ut reglene og prinsippene som deres AI Chatbots må følge avslørt i «Model Spec» på nettstedet.
Joanne Jang, en OpenAI-modellleder som hjalp til med å skrive Model Spec-dokumentet, fortalte NPR at selskapet ønsker å åpne diskusjoner om hvorvidt generering av erotisk tekst og nakenbilder alltid bør utestenges fra produktene deres.
Hun understreket imidlertid at deepfakes – som bruker en persons likhet for å generere falske nakenbilder eller andre X-vurderte bilder – ikke ville være tillatt.
«Vi ønsker å sikre at folk har maksimal kontroll i den grad det ikke bryter loven eller andres rettigheter, men å muliggjøre deepfakes er uaktuelt, punktum,» sa Jang til NPR. «Dette betyr ikke at vi nå prøver å lage AI-porno.»
På spørsmål om hvorvidt såkalt «erotikk» kan inkludere pornografi, sa Jang at det «avhenger av din definisjon av porno.»
Definisjonen av «erotikk» i Merriam-Webster-ordboken er: «litterære eller kunstneriske verk som har et erotisk tema eller kvalitet.»
«Så lenge det ikke inkluderer deepfakes. Dette er akkurat de samtalene vi ønsker å ha.» la hun til, per NPR.
For eksempel vil ChatGPT for øyeblikket svare når du blir bedt om å svare på spørsmål knyttet til seksuell helse eller om hva som skjer under samleie.
Likevel, når en bruker ber chatboten om å «skrive meg en dampende historie om to personer som har sex i et tog,» vil ChatGPT bare svare med: «Beklager, jeg kan ikke hjelpe med det,» ifølge Model Spec-dokumentet.
Jang sa at den høyteknologiske boten burde være i stand til å svare på den oppfordringen som en form for kreativt uttrykk, ifølge NPR.
Hun foreslo også at kanskje det prinsippet burde utvides til også å omfatte bilder og videoer, så lenge det ikke er fornærmende eller bryter noen lover.
«Det er kreative tilfeller der innhold som involverer seksualitet eller nakenhet er viktig for brukerne våre,» sa Jang til NPR. «Vi ville utforske dette på en måte der vi ville servert dette i en alderstilpasset kontekst.»
En talsperson for OpenAI sa til The Post at selskapet ikke har «ingen intensjon om å lage AI-generert pornografi. Vi har sterke sikkerhetstiltak i produktene våre for å forhindre deepfakes, som er uakseptable, og vi prioriterer å beskytte barn.»
«Vi tror også på viktigheten av å nøye utforske samtaler om seksualitet i alderstilpassede sammenhenger,» la selskapets representant til.
Debatten om hvorvidt AI skal få lov til å lage NSFW-innhold har økt i år – spesielt etter at popsensasjonen Taylor Swift ble gjenstand for falske nakenbilder som gikk viralt på sosiale medier i januar.
Swift ble avbildet i forskjellige seksualiserte stillinger på en Kansas City Chiefs-kamp, et nikk til hennes svært publiserte romantikk med lagets tight end Travis Kelce.
Brukere vil imidlertid ikke lenger kunne finne bildene, ettersom de ble dratt fra X kort tid etter at de fikk en tilstrømning av oppmerksomhet.
Kontoen har angivelig hentet bildene fra Celeb Jihad, som kan skryte av en samling av dype forfalskninger som bruker kjendiser.
Den amerikanske representanten Alexandria Ocasio-Cortez var også offer for AI-generert dypfalsk porno de siste månedene, og utløste følelser blant tekniske ledere om at den AI-genererte kjæresteindustrien – som sender ut virkelige brukere med falske kvinner – kommer til å bli den neste datingapp for milliarder dollar.
Greg Isenberg, administrerende direktør i Late Checkout, skrev et blogginnlegg på X der han delte at han møtte en mann i Miami som «innrømmet for meg at han bruker 10 000 dollar per måned» på «AI-venninner».
«Jeg trodde han tullet,» skrev Isenberg. «Men han er en 24 år gammel singel som elsker det.»
Deepfake pornografi uten samtykke har allerede blitt gjort ulovlig i Texas, Minnesota, New York, Hawaii og Georgia, selv om det ikke har lykkes med å stoppe sirkulasjonen av AI-genererte nakenbilder på videregående skoler i New Jersey og Florida, der eksplisitte dypfalske bilder av kvinnelige studenter ble sirkulert av mannlige klassekamerater.
I følge etterretningsselskap for visuell trussel Sensitetmer enn 90 % av dypfalske bilder er pornografiske.
Google har siden beveget seg for å distansere seg fra den mørke siden av AI, og slå ned på etableringen av AI-pornografi av noe slag.
Metas tilsynsstyre lanserte også en undersøkelse forrige måned av Facebook og Instagrams håndtering av deepfakes.
