Pave Leo XIV ba mandag om robust regulering av kunstig intelligens og at utviklerne skal jobbe for felles beste i stedet for profitt, og ga ut et omfattende manifest om å beskytte menneskeheten ettersom teknologien påvirker alt fra arbeid til krig.
«Magnifica Humanitas» (Magnificent Humanity), Leos første encyklika, har vært etterlengtet helt siden historiens første USA-fødte pave kunngjorde dager etter valget at han anså AI som den største utfordringen menneskeheten står overfor i dag.
I teksten fordømte Leo «maktkulturen» som driver AI-kappløpet, spesielt ved å utvikle stadig mer sofistikerte metoder for fjernkrigføring. Han erklærte at det var «ikke tillatt» å overlate irreversible, dødelige beslutninger til AI-systemer, og satte opp enda et flammepunkt mellom den amerikanske paven og Trump-administrasjonen, som har jobbet aggressivt for å deregulere AI-utvikling.
Eksperter innen teknologiindustrien, akademia og katolsk moral sa at dokumentet sannsynligvis vil bli en målestokk i debatten om AI, et referansepunkt for både politikere, forskere og vanlige folk. Det kommer ettersom den nesten daglige utviklingen innen teknologi utløser bekymring for å øke over AI som erstatter menneskelige jobber og til og med menneskelig intelligens.
«Det egner seg til folk som er i forkant av disse verktøyene og er i stand til å se de utrolige tingene de er i stand til å gjøre, å ha spørsmål om sitt eget «Hva betyr det å være menneske?» sa Taylor Black, en Microsoft AI-leder og direktør for det katolske universitetet i Amerikas AI-institutt.
Pope kaller ut AI-selskaper selv når han er vert for Anthropic
Paven presenterte teksten på en lansering i Vatikanet mandag som inneholdt medgründeren av Anthropic, som for tiden er låst i en juridisk kamp med Trump-administrasjonen om tilgang til AI-teknologien.
Vatikanet bestemte seg for å involvere Anthropic som en del av sin tiårlange innsats for å engasjere Silicon Valley i dialog om de menneskelige kostnadene ved AI.
Og likevel i teksten sin sprengte Leo gjentatte ganger konsentrasjonen av makt og data i hendene på så få mennesker i privat sektor som en fare, spesielt for barn og de mest sårbare, og ba om ekstern regulering av arbeidet deres.
«Det er ikke nok å påberope seg etikk i det abstrakte; det kreves robuste juridiske rammer, uavhengig tilsyn, informerte brukere og et politisk system som ikke fraskriver seg sitt ansvar,» skrev han. «En mer moralsk AI er ikke nok hvis den moralen bestemmes av noen få.»
Leo appellerte flere ganger til AI-utviklere og politiske ledere som er ansvarlige for å regulere dem til å bremse ned og reflektere over hva de gjør. Han oppfordret dem til å bruke etiske og åndelige retningslinjer for å ta valget om å ikke arbeide for egen vinning eller makt, men for å forbedre menneskeheten.
AI-konkurrentene OpenAI og Anthropic er de nest og tredje mest verdifulle amerikanske private selskapene, hver verdsatt til hundrevis av milliarder dollar, mer enn BNP til mange nasjoner.
Antropisk medgründer Christopher Olah ønsket Leos kritikk og bekymring velkommen, og sa at slike eksterne kontroller av AI og forskerne bak den var grunnleggende for at teknologien «går bra» for menneskeheten siden det er så mye som står på spill – «en reell mulighet for at AI vil fortrenge menneskelig arbeidskraft i en veldig stor skala.»
«Vi trenger flere av verden – religiøse samfunn, sivilsamfunn, lærde, regjeringer – for å gjøre det Hans Hellighet har gjort her: å ta dette på alvor, å se nøye, og å presse hendelser i en bedre retning,» sa Olah. «Vi trenger informerte kritikere som vil fortelle laboratoriene når vi svikter. Vi trenger moralske stemmer som insentivene ikke kan bøye seg.»
Eksperter sier at teksten vil bli en målestokk
I en metodisk tekst sporet mattepaven historien til den katolske kirkens sosiale lære og brukte dens kjernekonsepter – rettferdighet, solidaritet, arbeidets verdighet og den universelle destinasjonen for ressurser – på den digitale revolusjonen.
«Jeg er overbevist om at dette vil vise seg å være et definerende dokument for vår tid, et dyptgående og profetisk dokument,» sa Paolo Carozza, jusprofessor ved Notre Dame Law School og leder av Meta-tilsynsstyret.
«Pave Leo tilbyr en klar, omfattende og sammenhengende stemme som oppfordrer oss til å ta ansvar for å bygge en verden der teknologi vil tjene mennesker i stedet for å forringe dem,» sa han.
I sine sterkeste kapitler fordømte Leo hvordan AI hadde bidratt til å akselerere «normaliseringen av krig» ved å gjøre folk ufølsomme for kostnadene. Han nevnte ikke spesifikke konflikter, men siterte «motstående imperialismer, mellom makter som ønsker å bevare sin overherredømme, og de som ønsker å gripe den overherredømmet.»
Han krevde åpenhet og ansvarlighet fra AI-utviklere, slik at kjeden av beslutningstakingskommandoer for å bestille streik med AI-våpen alltid er kjent. Han erklærte at den katolske kirkes teori om «rettferdig krig», som gir spesifikke kriterier for når makt kan rettferdiggjøres, nå var «utdatert» gitt krigføringens teknologiske fremskritt.
En tekst i kirkens sosiale rettferdighetstradisjon
Leo signerte teksten 15. mai, 135-årsdagen for utgivelsen av «Rerum Novarum» (Of New Things), det viktigste læredokumentet til Leos helt og navnebror, pave Leo XIII. Dette dokumentet tok for seg arbeidernes rettigheter, kapitalismens grenser og forpliktelsene som stater og arbeidsgivere skyldte arbeidere da den industrielle revolusjonen var i gang.
Det ble grunnlaget for moderne katolsk sosial tanke, og den nåværende paven siterte det i starten av sitt pontifikat i forhold til AI-revolusjonen, som han mener stiller de samme eksistensielle spørsmålene som den industrielle revolusjonen stilte for over et århundre siden. «Magnifica Humanitas» blir dermed det siste kapittelet i en århundrelang historie med paver som tilpasser «Rerum Novarum» til deres tids sosiale spørsmål, ofte dvelende ved verdigheten av arbeid for menneskelig oppblomstring.
AI fremkaller både eksistensiell frykt og utopiske visjoner midt i en intensiverende debatt om hvorvidt den vil bli en katalysator som beriker menneskeheten eller et teknologisk giftstoff som sløver menneskelig intelligens samtidig som det utsletter millioner av høytbetalte jobber.
«Jakten etter større profitt kan ikke rettferdiggjøre valg som systematisk ofrer jobber, fordi mennesket er et mål, ikke et middel, og den økonomiske orden må forbli underordnet menneskeverdet og det felles beste,» skrev Leo.
Leo utvidet sin bekymring for å opprettholde menneskeverdet i arbeidet til å gi den første pavelige unnskyldning for Den hellige stols egen rolle i å legitimere slaveri ved å gi europeiske suverene eksplisitt autoritet til å underkue og slavebinde «vantro».
En tiår lang dialog med Silicon Valley
Vatikanets embetsmenn nektet å si hvem som nøyaktig bidro til Leos encyklika. Men embetsmenn i Vatikanet og kirken har vært engasjert i en dialog med teknologifirmaer i Silicon Valley i et tiår. Mot slutten av pontifikatet hans begynte pave Frans å snakke mer om AI og risikoen det utgjør for menneskeheten.
Beslutningen om å inkludere Anthropic ved Vatikanets lansering ble kritisert av noen som anså det som et pavelig godkjenningsstempel fra AI-firmaet.
I februar beordret Trump-administrasjonen alle amerikanske byråer til å slutte å bruke Anthropics teknologi etter at den nektet å tillate det amerikanske militæret ubegrenset bruk av den. Anthropic, som utpeker seg selv som AI-selskapet som setter sikkerhet og risikoreduksjon i forkant av sin forskning, saksøker for tiden administrasjonen.
Brian Boyd, amerikansk trosforbindelse for det ideelle organisasjonen Future of Life Institute, leste inkluderingen av Anthropics medgrunnlegger Olah som lik en pavelig audiens med et statsoverhode: ikke en godkjenning.
«Jeg tror det er mer som en anerkjennelse av (hvordan) dette er et ekstremt mektig selskap som for tiden vinner dette løpet for å erstatte menneskelige arbeidere,» sa Boyd.
Anthropic er et «enormt selskap som tar på seg en enorm risiko og ansvar,» fortsatte Boyd, men sa at selskapet har «demonstrert ekte goodwill og integritet og interesse for dialog.»
