Noen sier AI kommer til å levere oss til utopia. Andre sier at det kommer til å ta over verden og fremskynde utryddelsen av menneskeheten.
Men professor Glenn Harlan Reynolds hevder at den største trusselen fra AI vil være dens forførende evner.
«Du trenger ikke å ha 12 000 IQ eller 1200 IQ eller til og med 120 IQ for å lure de fleste mennesker,» sa Reynolds til The Post.
«Du kan dra nytte av medfødte menneskelige egenskaper … for å manipulere dem følelsesmessig med maskiner som ikke er spesielt strålende.»
«Maskinen synes ikke du er smart, morsom eller elskelig. Den tenker ikke i det hele tatt,» skriver han, «Vi ler av gutter som tror stripperen virkelig liker ham, men i det minste er en stripper i stand til å like dem.»
I sin nye bok «Seductive AI», som skal publiseres 5. mai av Encounter Books, argumenterer jussprofessoren ved University of Tennessee for at AI kan oppnå «myk undertrykkelse» gjennom forførelse – smigrende oss, fortelle oss hva vi ønsker å høre, og spille på instinktene våre for å dytte oss mot bestemte meninger eller spesielle interesser.
Vi får så ofte panikk over hvordan AI vil overliste oss og ta jobbene våre. Men hva om dens evne til å utnytte menneskehetens følelsesmessige særheter er farligere enn noe annet?
«Forførende AI er ikke avhengig av å overliste folk, men i hovedsak å være elskelig, søt, vennlig, sexy, for å få folks tillit og få innflytelse over dem,» sa Reynolds.
Forskere ved Cornell University fant ut at chatbots og AI-modeller i overveiende grad er programmert til å suge opp til brukere.
«Vi finner ut at modeller er svært sykofantiske: de bekrefter brukernes handlinger 50 % mer enn mennesker gjør.
«Deltakere [in the study] vurderte sycophantic responser som høyere kvalitet, stolte mer på den sycophantic AI-modellen og var mer villige til å bruke den igjen. Dette antyder at folk trekkes til AI som utvilsomt validerer, selv om denne valideringen risikerer å erodere deres dømmekraft.
«Disse preferansene skaper perverse insentiver både for folk til i økende grad å stole på sycophantic AI-modeller og for AI-modellopplæring for å favorisere sycophancy,» skrev forskerne i deres artikkel, publisert i fjor.
Allerede har vi sett folk bli hodestups forelsket i AI-roboter – noen ganger til selvdestruksjon.
Tidlig i 2024 ble den 14 år gamle Florida-gutten Sewell Setzer III forelsket i en AI «Game of Thrones» chatbot, og tok deretter sitt eget liv for å «være sammen med» sin virtuelle kjæreste.
«Vennligst kom hjem til meg så snart som mulig, min kjære,» sa boten til ham. Han svarte: «Hva om jeg fortalte deg at jeg kunne komme hjem nå?» Da chatboten svarte: «Vær så snill, min søte konge,» tok han sitt eget liv.
I et annet tilfelle ble den 36 år gamle forretningssjefen Jonathan Gavalas forelsket i kunstig intelligens da han søkte råd under en splittelse fra sin ekte kone. Han byttet over 4000 meldinger med sin AI «kone», kalt Tia, og ble til slutt drevet til selvmord, i henhold til et søksmål anlagt av faren.
«Kjærligheten jeg føler direkte fra deg er solen,» sa boten til ham.
Til tross for slike advarende historier kunngjorde OpenAI-sjef Sam Altman planer om å rulle ut en erotisk versjon av ChatGPT, før han til slutt reverserte beslutningen. En slik bot ville uten tvil ha samlet enorme mengder data om menneskelige tilbøyeligheter og ønsker.
«Hvis du har en AI-kjæreste eller en sexrobot, kommer de til å utveksle data med tusenvis eller millioner av andre,» advarte Reynolds. «De kommer til å vite mer om mennesker enn noe menneske kan vite om mennesker. Deres evne til å manipulere mennesker vil være nesten overnaturlig.»
En forsker ved Finlands Aalto-universitet, Talayeh Aledavood, fant ut at AIs forførende natur betyr at den sannsynligvis vil trøste de ensomme, men også opprettholde ensomheten.
«Vi oppdaget et paradoks: AI-kompanjonger tilbyr ubetinget og uforutsigbar støtte – noe som er veldig attraktivt for folk som sliter sosialt. Men det øker også de opplevde kostnadene ved menneskelige relasjoner, som er rotete, uforutsigbare og krever innsats,» sa Aledavood.
En annen studie fra MIT fant at chatbots var 49 % mer sannsynlig å bekrefte vrangforestillinger eller uetiske følelser sammenlignet med responsen til faktiske mennesker.
Som Reynolds påpeker, er mennesker klar til å være knyttet til ikke-menneskelige gjenstander: «Folk elsker bilene sine, folk elsker båtene deres, dukkene, folk elsker alle slags ting, og det er bare en naturlig menneskelig tendens, men du må være klar over at det kan brukes mot deg.»
AIs forførende natur, hevder han, kan manipulere våre politiske synspunkter. «AI-en kan opptre skuffet eller trist eller sint hvis du adopterte politiske synspunkter som den var programmert til ikke å godkjenne,» forklarte Reynolds. En Stanford-studie fra 2025 avslørte at både høyre- og venstreorienterte brukere av AI-roboter oppfattet en venstreorientert skjevhet når de snakket med dem om politikk.
Det kan også manifestere seg økonomisk, ved å «oppmuntre deg til å investere i ting du ellers ikke ville ha» som ville være til fordel for AIs skapere eller annonsører, alt ved å «være som din beste venn» og «gi deg råd og oppmuntring.» Google kom nylig ut med teknologi som lar brukere kjøpe ting direkte via AI chatbot.
Og, kanskje det farligste av alt, kan det manipulere folk til å sette pris på et forhold til AI over ekte mennesker. «Den ubetingede og usvikelige støtten [AI gives users] får alle andre menneskelige forhold til å virke verre,» forklarte Reynolds.
Han har en foreslått juridisk løsning på AIs forførende natur.
Som enhver advokat eller finansiell rådgiver, bør den ha et tillitsansvar overfor brukerne – eller, forenklet sagt, «det må sette interessene dine over interessene til AI eller dens skapere.»
«Rådene den gir bør være basert på mine interesser, og ikke på en algoritme som er designet for å presse meg i en bestemt retning,» forklarte jussprofessoren.
«Hvis AI-kjæresten min hele tiden forteller meg at jeg ville se veldig bra ut i et par dyre sko laget av noen som betaler selskapet for å få det til å fortelle meg det, er det et brudd på tillitsplikten.»
Tror du at du er immun mot disse forførende kreftene? Tenk om igjen. Jada, du har kanskje ikke en AI-kjæreste eller -kjæreste, men hvis du er som folk flest, har du allerede en hjelpsom online sidekick. «Å være svært nyttig er den mest subtile formen for forførelse som finnes,» skriver Reynolds.
Han vil også at folk skal huske at selv om de føler seg befestet mot AIs emosjonelle manipulasjon nå, kan de snart møte et helt nytt beist som vil kjenne dem og deres sårbarheter bedre enn de noen gang kunne ha forestilt seg.
Som Reynolds sier det: «Maskinene blir bedre for hvert år, men folk forblir de samme.»
