Dat doet zijn hofhouding te Vaticaanstad in wat heet een encycliek: een formele brief bedoeld om morele, sociale en theologische gedachten te sturen. Getiteld Magnifica Humanitas (Magnifieke Mensheid), betoogt het dat (AI-)technologie de mensheid moet dienen, in plaats van macht te concentreren of menselijke waardigheid te verzwakken.

AI reduceert schepping

Hij presenteerde het stuk in het Vaticaan samen met Christopher Olah, de Canadese AI-pionier en medeoprichter van Anthropic. Hij erkent dat bedrijven morele geleiding nodig hebben om te voorkomen dat “prikkels en beperkingen soms conflicteren met moreel juist handelen”, meldde de New York Times.

“Technologie is niet zomaar een hulpmiddel,” staat inde pauselijke open brief van ruim 42.000 woorden .

“Wanneer het de standaard wordt waaraan alles wordt beoordeeld, begint het te bepalen wat belangrijk is en wat kan worden afgedankt, waardoor de schepping wordt gereduceerd tot een object van uitbuiting en mensen slechts radertjes in een systeem dat steeds meer efficiëntie nastreeft.”

De groeiende concentratie van technologische macht en systemen reduceren mensen tot data of economische functies. Dat staat haaks op een “beschaving van liefde”, gericht op menselijke waardigheid, solidariteit, waarheid, mededogen en het algemeen belang.

Het stuk waarschuwt dat AI nooit echt neutraal is, maar “de kenmerken aanneemt van degenen die het bedenken, financieren, reguleren en gebruiken”. En het roept op tot ethisch toezicht, sociale rechtvaardigheid, bescherming van werknemers, verantwoord bestuur en vrede.

Industriële revolutie tot AI-revolutie

Paus Leo's reactie op de AI-revolutie verwijst bewust naar de reactie van zijn voorganger paus Leo XIII op de problemen van de Industriële Revolutie, Rerum Novarum (“Van Nieuwe Dingen”) in 1891. Hoewel Magnifica Humanitas op 25 mei 2026 werd uitgebracht, is het symbolisch gedateerd op 15 mei, de datum van Rerum Novarum.

Hoewel pausen lang voor de moderne tijd encyclieken uitgaven, maakte Rerum Novarum sociale encyclieken wereldwijd invloedrijk. Het bekritiseerde uitbuiting in arbeidsomstandigheden, toenemende ongelijkheid en risico op conflicten tussen werknemers en werkgevers. Paus Leo XIII verdedigde de rechten van arbeiders en stelde dat rijkdom sociale verantwoordelijkheden met zich meebrengt. Hij bekritiseerde zowel het onbeperkte kapitalisme als het revolutionaire socialisme.

Het document beïnvloedde debatten over arbeidsrechten en economische rechtvaardigheid ver buiten de kerk. In Australië baseerde rechter Higgins zich in 1907 op  Rerum Novarum bij het vaststellen van principes voor een eerlijk loon.

De encycliek van paus Leo XIV  probeert voor het AI-tijdperk te doen wat Rerum Novarum deed voor het industriële tijdperk: een moreel kader bieden voor een technologische transformatie die werk, macht en menselijke relaties hervormt.

Immers, het Vaticaan kan AI niet reguleren. Het kan geen veiligheidsnormen opstellen, of wetshandhavers en bedrijven dwingen tot transparantie over hun systemen. Maar het kan wel helpen de morele voorwaarden van het debat vorm te geven. Al meer dan een eeuw heeft de katholieke sociale leer publieke argumenten over werk, ongelijkheid, armoede, menselijke waardigheid en de ethische grenzen van economische macht beïnvloed.

Mensenrechten versus AI

Paus Leo XIV stelt dat mensenrechten niet worden verleend door overheden of bedrijven: ze komen voort uit de intrinsieke waardigheid van ieder mens. Technologieën zouden de mensheid moeten dienen in plaats van mensen te reduceren tot data, economische eenheden of optimalisatieproblemen.

Hij bouwt voort op  paus Franciscus' kritiek op “de neiging om de logica van efficiëntie, controle en winst eenzijdig persoonlijke, sociale en economische omstandigheden te bepalen”. In zijn encycliek uit 2015 waarschuwde hij al voor de risico's van technologie. Paus Leo XIV betoogt dat morele verantwoordelijkheid niet kan worden overgedragen aan geautomatiseerde systemen, ongeacht hoe geavanceerd ze worden.

Hij verwerpt ook transhumanistische ideeën dat menselijke beperkingen technologisch overwonnen moeten worden, en stelt dat kwetsbaarheid, afhankelijkheid en imperfectie essentieel zijn voor mens-zijn. Relaties, zorg, solidariteit en mededogen zijn geen zwaktes. “De mensheid floreert niet ondanks beperkingen, maar vaak daardoor.”

Door de hele encycliek heen loopt  een contrast tussen een “machtscultuur” en een “beschaving van liefde”. De ene beschouwt technologie vooral als een instrument voor dominantie en controle. De andere plaatst menselijke waardigheid, rechtvaardigheid en zorg centraal in het sociale leven.

Geautomatiseerde oorlogsvoering

De encycliek bekritiseert het gebruik van AI in oorlogsvoering en roept op tot het opleggen van de “meest rigoureuze ethische beperkingen” aan wapens die met AI zijn ontwikkeld en met AI worden gestuurd.

Naarmate overheden zwaar investeren in autonome militaire technologieën en AI-ondersteunde verdedigingssystemen, maakt de “groeiende gemak” van het inzetten ervan oorlog waarschijnlijker en “minder onderhevig aan menselijke controle”, waarschuwt de encycliek. Dit “schendt het principe dat gewapend geweld alleen als laatste redmiddel mag worden gebruikt in gevallen van legitieme zelfverdediging”.

Waarom dit belangrijk is

De betekenis van Magnifica Humanitas ligt in de morele kaders. Ze beïnvloeden waar samenlevingen bang voor zijn, wat ze tolereren, wat ze verdedigen – en wat ze weigeren op te offeren.

Overheden investeren in AI-capaciteit terwijl ze regels voor transparantie, verantwoording en veilige inzet nog maken. Er is kennelijk haast bij: bedrijven adopteren AI-tools in hoog tempo; scholen en universiteiten heroverwegen beoordelingen, auteurschap en de fundamenten van het leren; werknemers moeten zich maar aanpassen aan systemen waar ze zelf geen invloed op kunnen uitoefenen; en burgers worden vaker bestuurd en beoordeeld door, en doelwit van geautomatiseerde systemen die ze nooit zullen zien of kunnen doorgronden.

De interventie van paus Leo XIV herinnert ons eraan dat de centrale vraag niet is of AI krachtig zal zijn: dat is het al. De vraag is of die macht verantwoording zal afleggen aan menselijke waardigheid.

De toekomst van AI zal niet alleen worden bepaald in laboratoria, bestuurskamers of parlementen. Het zal ook worden bepaald door de morele grenzen die samenlevingen bereid zijn te stellen. De encycliek van paus Leo XIV is een poging om die grenzen te trekken.

*) De auteurs zijn Niusha Shafiabady, hoogleraar Computational Intelligence, Darius von Guttner Sporzynski, hoogleraar Geschiedenis en Sandia Cornish, docent Theologie; allen van de Australian Catholic University in Sydney. Dit artikel verscheen in het Engels bij The Conversation

**) Beeld: Clay Banks on Unsplash