En kald krig har brutt ut mellom Silicon Valley og Vatikanet, da de anklager hverandre for å sette menneskehetens fremtid i fare.
I et leksikon på mandag advarte pave Leo XIV at menneskeheten står overfor «risikoen for å bli villedet av svikefulle mål» i AIs tidsalder og oppfordret regulatorer til å stå opp mot skaperne.
Manifestet på 42 000 ord kommer etter at Peter Thiel gjentatte ganger har hevdet på en global taleturné – inkludert i Roma, rett utenfor Vatikanstaten – at en mektig skikkelse som prøver å hindre teknologisk fremgang, vil vise seg å være antikristen forutsagt av Det nye testamente.
Det er ærlig talt en bisarr standoff mellom to svært forskjellige kristne spådommer om fremtiden til AI: en der AI leverer oss til vårt maksimale menneskelige potensial, og den andre der AI representerer en eksistensiell risiko for vår menneskelighet.
Mens paven advarer AIs skapere leker gud og flørter med katastrofer, har Thiel argumentert for at alle som står i veien for dem er en «legionær» av antikrist.
Det nye testamente forutsier at en tilsynelatende medfølende falsk profet vil forføre menneskeheten med falske løfter om fred og velstand, men til slutt forårsake lidelse før den sanne Messias kommer tilbake.
Thiel, en protestant, mener at dette bibelske øyeblikket er nært forestående. Etter hans syn er AI på kanten av å levere menneskeheten til toppen, og en antikristfigur vil snart reise seg for å motsette seg denne tekno-utopien.
«I det 21. århundre er antikrist en luddit som ønsker å stoppe all vitenskap,» advarte han i et oktoberforelesning. «I senmoderniteten, hvor vitenskapen har blitt skummel og apokalyptisk … har antikrist på en eller annen måte blitt antivitenskap.»
Thiel har holdt budskapet sitt om antikrist i taler siden minst 2023. Han har aldri offentlig navngitt hvem han tror antikrist er, selv om han har sagt at antikrist har mange «legionærer», inkludert AI-dommere som Eliezer Yudkowsky, forfatter av en bok med undertittelen «Hvorfor Superhuman AI Would Kill Us All».
I en artikkel publisert flere måneder etter Leos utnevnelse bemerket Thiel også hvordan «forskjellige paver» ble mistenkt for å være antikrist.
Han har hånet Leo som en «våknet amerikansk pave» og sagt at han bekymrer seg over det faktum at visepresident JD Vance, hvis politiske kampanjer han har bidratt sjenerøst til, er «for nær paven».
«Antikrists slagord er fred og sikkerhet,» sa han i desember 2024 ved Hoover Institute, der han spådde at antikrist «sannsynligvis presenterer seg som en stor humanitær» som vil fortelle sine engstelige tilhengere at «innsatsen er så ekstrem.»
I sitt mandagsleksika brev sa paven nettopp det: innsatsen er virkelig ekstrem. Han advarte AI kunne forårsake massearbeidsledighet, oppløsning av familieenheter og enestående krigføring.
Leo tok til orde for «beskyttelse av sysselsetting» i møte med AI, og hevdet at familien «er et skjørt sosialt gode umiddelbart påvirket av de økonomiske og teknologiske transformasjonene som omformer arbeidets natur.»
Paven advarte også om at det «ikke er tillatt å overlate dødelige» krigføringsbeslutninger til AI, for eksempel automatisert målretting for missiler og droner, og spådde å gjøre det «bare ville føre til konflikt raskere», senke «terskelen» for vold og redusere «ofre til data.»
Han ropte ut Silicon Valley-giganter som Thiel direkte, og anklaget dem for «[monopolizing] ekspertise, data og beslutningsmyndighet» og påtvinge makt «ovenfra på en ugjennomsiktig og ensidig måte.»
Antropisk medgründer Chris Olah talte til støtte for pavens advarsler i Vatikanet på mandag, selv om man bør spørre om Anthropic på noen måte er annerledes, eller bare poserer; fakturerer seg selv som den «gode fyren» i en mengde dårlige skuespillere, men tilbyr i realiteten nøyaktig det samme produktet.
Paven tok også til orde for AI-forskrifter inkludert uavhengige kontroller og åpenhet om algoritmer.
Thiel har advart om at antikrist vil kreve global regulering og få til en «en-verdens regjering».
Paven så også ut til å kritisere det pseudo-religiøse frelserkomplekset til noen Big Tech-ledere. Han advarte menneskeheten om å motstå å bli forført av «utsiktene til en teknologi som lover å frigjøre oss fra all svakhet» og understreket den «pressende plikten til å forbli dypt menneskelig» i teknooptimaliseringens tidsalder.
Dette kan være et svar på «transhumanisme», en visjon for menneskehetens fremtid popularisert av noen ledere i Silicon Valley som insisterer på at menneske og maskiner må slå seg sammen for å bli cyborger for å nå vårt fulle potensial.
I tillegg til å være kristen identifiserer Thiel seg som en transhumanist. Han forsvarte transhumanisme i en New York Times-podcast i juli, hvor han forklarte sin visjon om en «radikal transformasjon, der menneskekroppen din, [your] naturlig kropp, blir forvandlet til en udødelig kropp.»
«Vi vil at du skal være i stand til å endre hjertet ditt og endre mening og endre hele kroppen din … [and] å forvandle hele deg selv,» sa han
Mens paven antyder at det er farlig å avvike fra vår menneskelighet, hevdet Thiel under podcasten at transhumanisme stemmer overens med «jødisk-kristen inspirasjon.»
«Det handler om å overskride naturen. Det handler om å overvinne ting,» forklarte han. «Folk er falt… Du skal overgå det og overvinne det.»
Men det har ikke paven.
I sitt encykliske brev formanet han «enhver innsats» som «ofrer menneskeverd for effektivitet og streber etter å nå himmelen uten Guds velsignelse».
Hver mann bruker sin kristne tro som en linse for å analysereAI, og de har alle kommet til den samme konklusjonen: at den andre kan være katastrofens varsel.
Mens begge maler apokalyptiske visjoner om fremtiden, har AI ennå ikke snudd verden fullstendig på hodet. For øyeblikket har millioner av hverdagslige og rutinemessige oppgaver blitt automatisert. Kanskje vil AI fortsette å fortrenge meningsfylt menneskelig arbeidskraft, eller kanskje vil hjelpen frigjøre vår tid og frigjøre nye grenser for kreativitet.
For øyeblikket er vi fortsatt et stykke unna masseødeleggelse eller en cyborgfylt tekno-utopi … enn si bevise eksistensen av en antikrist.
