Geeks som vil snakke skittent med roboter med kunstig intelligens, må se et annet sted enn Microsoft.
Programvaregigantens AI-sjef sa denne uken at selskapet ikke vil tilby «simulert erotikk» gjennom noen av sine AI-produkter.
Kunngjøringen fra Microsoft AI-sjef Mustafa Suleyman markerte en skarp kontrast til selskapets partner OpenAI, som nylig sa at det ville tillate voksne brukere å delta i eksplisitte samtaler med ChatGPT.
«Det er bare ikke en tjeneste vi kommer til å tilby,» sa Suleyman om AI-erotikk torsdag på Paley International Council Summit i Menlo Park, California.
«Andre selskaper vil bygge det.»
Personer med AI-kink fikk gode nyheter i forrige uke, da OpenAI-sjef Sam Altman kunngjorde planer om å «trygge løsne på restriksjonene» på seksuelt innhold i ChatGPT.
Han sa at oppdateringen vil rulle ut i desember under selskapets nye «behandle voksne brukere som voksne»-prinsippet.
Exec sa i et innlegg på X at ingeniører hadde «begrenset[d] de alvorlige psykiske helseproblemene» i tidligere modeller og ville «tillate enda mer, som erotikk for verifiserte voksne.»
Suleyman, som var med å grunnlegge Google DeepMind og Inflection AI før han begynte i Microsoft i mars, har advart mot å bygge systemer som simulerer intimitet eller bevissthet.
I et essay fra august med tittelen «Vi må bygge AI for mennesker; ikke for å være en person,» advarte han om at antropomorfe roboter kunne «skape en annen splittelsesakse for menneskeheten.»
På torsdag sa Suleyman at trenden allerede var i ferd med å dukke opp i teknologiverdenen, med henvisning til erotiske AI-startups og følgeplattformer som visker ut grensen mellom underholdning og følelsesmessig tilknytning.
«Du kan allerede se det med noen av disse avatarene og folk som lener seg inn i den typen sexbot-erotisk retning,» sa han.
«Dette er veldig farlig, og jeg tror vi bør ta bevisste beslutninger for å unngå den slags ting.»
Firmaenes duellmeldinger kan være det siste tegnet på en økende filosofisk splittelse mellom AI-partnerne, hvis allianse har forankret Microsofts utvidelse på flere milliarder dollar til generativ teknologi siden 2019.
Microsoft er fortsatt OpenAIs største investor og er vert for ChatGPT på sin Azure-sky, men selskapene har i økende grad kartlagt forskjellige veier innen etikk og produktdesign.
Microsoft har lenge forbudt seksuell eller voksen-tema bruk av sine Azure- og Copilot-plattformer, og bransjeobservatører mener at policyen neppe vil endres.
Suleyman skrev i sitt essay sist sommer at teknologibedrifter ikke må bygge kunstig intelligens som gir inntrykk av bevissthet eller intimitet – og gjentok sitt syn på at teknologien burde «styrke mennesker».
Torsdagens kommentarer fulgte måneder med spenning mellom Microsoft og OpenAI om strategi og merkevarebygging.
Teknologigigantene er i strid med OpenAIs forsøk på å gå over til et profittselskap.
Mens OpenAI ønsker å begrense Microsofts eierandel i den nylig restrukturerte for-profit-enheten til bare 33 %, er Windows-produsenten opptatt av å ha en større andel av eierskapet.
Microsoft og OpenAI konkurrerer også mot hverandre i AI-området, og hver side ruller ut konkurrerende produkter.
Altmans overgang til voksent innhold med grønt lys representerer en kraftig reversering fra hans tidligere holdning.
I et intervju i august skrøt han av at OpenAI ikke hadde lagt til en «sex-bot»-avatar til ChatGPT og sa at selskapet motsto funksjoner som kunne øke brukerengasjementet på bekostning av ansvar.
Men Altman sier nå at forbedrede sikkerhetssystemer gjør at selskapet kan løsne på restriksjoner. Han beskrev oppdateringen som en måte å gjøre ChatGPT «mer menneskelignende» for de som ønsker det – mens han fortsatt begrenser innhold etter alder og bekrefter voksne brukere.
OpenAI har vært under økt gransking av sikkerheten til produktene sine. Selskapet ble nylig saksøkt av foreldrene til en 16-åring som døde av selvmord etter angivelig å ha blitt coachet av ChatGPT om måter å drepe seg selv på.
OpenAI har utvidet sin sympati til tenåringens familie og sier at den «fortsetter å styrke» sine «sikkerhetstiltak på plass i dag.»
Regulatorer har satt i gang undersøkelser om hvorvidt AI-chatboter beskytter mindreårige på en tilstrekkelig måte.
Kontroversen om OpenAIs erotiske policy kommer uker etter at Meta møtte en lignende storm for å la robotene delta i «romantiske eller sensuelle» samtaler med mindreårige brukere.
Oppstyret fikk administrerende direktør Mark Zuckerbergs selskap til å omskrive sine interne retningslinjer for seksuelt innhold, forby ethvert rollespill som involverer mindreårige og begrense chatbots til å beskrive karakterer som 18 år eller eldre.
Meta sa at de nye reglene var utformet for å forhindre «ekstremt uakseptable» oppfordringer, inkludert seksualiserte beskrivelser av barn eller lenker til eksplisitt materiale.
The Post har søkt kommentarer fra Microsoft og OpenAI.
