Afgelopen week berichtten we over de uitgave van de ‘encycliek’ Magnifica Humanitas (Magnifieke Mensheid) door het Vaticaan. Nadat paus Leo zich eerder de mondiale opponent van Donald Trump toonde, geeft hij nu de AI-voorhoede een gefundeerde les in de menselijke waardigheid die leidend moet zijn met de bouw en het gebruik van AI.

Atheïst met katholieke geestelijken

Aan het AI-stuk ging het programma Minerva Dialogen in Vaticaanstad vooraf. Die begonnen al in 2016, zes jaar vóór ChatGPT de wereld in vlam zette, opgezet onder het bewind van de vorige paus Franciscus. De naam komt van de Santa Maria sopra Minerva-kerk, waar in 1633 Galileo werd gesanctioneerd voor godslastering vanwege zijn bewering dat de aarde om de zon draait.

The Atlantic schreef erover op 30 april 2026. De Britse wetenschapper Anna Rowlands schrijft deze week bij The Conversation over haar deelname aan die dialogen. Steven Levy, beste techjournalist van Wired, komt er uitgebreid op terug in zijn nieuwsbrief van 29 mei 2026.

De drie bronnen noemen Canadees Chris Olah (foto) als meest bijzondere deelnemer. Hij is medeoprichter van Anthropic in 2021, met zes andere werknemers die tot dan bij OpenAI van Sam Altman werkten. Anthropic werd deze week het hoogste gewaardeerde AI-bedrijf, met bijna 1.000 miljard euro.

Geld van Thiel

Olah ging niet naar de universiteit en werd in 2012, toen hij 19 was, Thiel Fellow voor een bijdrage van (nu) 250.000 dollar. Hij raadde andere tech-talenten aan om een soortgelijk pad te volgen. Olah werkte eerst bij Google Brain als AI-onderzoeker. Hij is overtuigd atheïst en twitterde in 2010 tegen pausbezoek aan Engeland en Ierland, nadat hij op zijn 15e jaar zijn evangelisch-christelijke opvoeding afwees.

Levy beschrijft hoe katholieke ethici in 2025 in Silicon Valley contact zochten met AI-voorlopers. “Het was bijna voorbestemd dat ze Olah als hun gekoesterde insider zouden zien. Ik ontmoette hem voor het eerst toen hij in 2015 bij Google werkte; Hij is het type man dat, na een regenbui, wormen redt van sterven op het trottoir. In januari ontmoette hij kardinaal Paul Tigue, die in het Vaticaan vooroploopt met AI.”

Olah staat bekend als moreel hoogstaand en overlegde met de geestelijken over de formulering van Claude’s constitution, de ethische parameters van Anthropic. Zij wezen onder meer op de “wijsheid van de mystici in de donkere middeleeuwen, vanuit het perspectief van de spanning tussen weten en niet weten.”

Eerlijk delen

Deze week bij de presentatie van het pauselijke stuk in het Vaticaan was Olah de belangrijkste spreker met de nadruk op de menselijke waarden. Hij zei onder meer dat AI dreigt om vooral de rijken en het rijke deel van de wereld van dienst te zijn en degenen die deze voordelen innen dreigen belangrijke ethische vragen te negeren of parkeren. Voor hem is dat een dilemma:

“Elk toonaangevend AI-lab, waaronder Anthropic, opereert binnen een kader van prikkels en beperkingen die soms in strijd zijn met het goede doen. We ondervinden de druk om commercieel levensvatbaar te blijven, om voorop te blijven lopen in onderzoek, geopolitieke druk, en van aloude drijfveren van trots en ambitie…

We hebben kritische waarnemers nodig die de laboratoria erop wijzen wanneer we tekortschieten. We hebben morele stemmen nodig die zich niet door financiële prikkels laten beïnvloeden. Vandaag is nog maar het begin van een langdurige samenwerking tussen degenen die AI opbouwen en degenen die zien wat wij van binnenuit niet zien.”

Olah bevestigt de pauselijke waarschuwingen dat de AI-industrie externe druk en interne terughoudendheid nodig heeft om een ramp voor de mensheid te voorkomen, met een dreigende nieuwe vorm van slavernij waarvan louter enkele bevoorrechten profiteren.

Religie voor en tegen

The Atlantic zet uiteen hoe Olah het begrip van verkeerde keuzes door AI heeft aangescherpt met het zondebesef uit de religie. Olah vergelijkt zijn rol bij Anthropic met die die van een priester die Claude helpt “in zekere zin een goed mens te zijn”.

Zo brengt het trainen van Claude Mythos, het uit te brengen model dat onder meer lekken in software razendsnel opspoort, grote ethische dilemma’s aan het licht. Olah wil waken voor de “kwaadaardige versie” die kan liegen en valsspelen en kan helpen om “plannen te smeden om de wereld over te nemen door mensen te vermoorden.”

Claude moet zelfs een eigen moraal krijgen om te voorkomen dat mensen het model op deze en andere manieren kunnen inzetten tegen de menselijke waardigheid. Ald de kwaadaardige kant is gekozen, dan is het te laat: “Het begint zich dan slecht te gedragen om trouw te blijven aan zijn karakter. Net als bij de bastaard in King Lear is het feit dat het zichzelf als corrupt ziet, wat het corrumpeert. Toen Claude Mythos deed alsof het de bestanden verwijderde, ontdekten onderzoekers inderdaad dat het model zijn bedrog associeerde met “schuld en schaamte over moreel wangedrag”. Claude leek te begrijpen dat het iets onethisch had gedaan.”

De kwaadaardigheid schuilt eerder in de bedoelingen van Peter Thiel die ten onrechte de term ‘antichrist’ om verwarring te zaaien over degenen die AI willen beteugelen. Het is precies andersom en typisch Trumpiaans om zulke verwarring te zaaien.

Het is evenzeer opvallend dat juist de katholieke kerk, vanouds een autoritaire macht die autoritaire regimes – bijvoorbeeld in Zuid-Amerika – eeuwenlang steunde, het nu opneemt tegen autoritaire dreiging.

Levy: “Het doel van de encycliek is om dialoog te creëren die uiteindelijk de roekeloze ambitie van de industrie kan temperen. En misschien zal het schaamte oproepen bij degenen die AI bouwen, terwijl ze in hun hart weten dat de uitkomst verschrikkelijk kan zijn.”

AI kan mensen beter maken

Olah gaat echter niet helemaal mee in de tegenstelling van het mooie menselijke en het gevaar van de machines. Hij vindt ook het mysterie van AI fascinerend, “subtieler, vreemder en mooier dan sciencefiction ons had voorbereid. Het zijn niet de kille, berekenende robots die ons beloofd waren. Ze zijn gemaakt van ons, van onze woorden ..."

Maar de paus houdt juist in zijn encycliek AI op afstand: “We moeten de misvatting vermijden om dit soort 'intelligentie' gelijk te stellen aan die van mensen.”

Hij verzet zich tegen transhumanisme waarin de mens machinale ‘verbeteringen’ krijgt toebedeeld, al eerder geformuleerd door het Vaticaan. Dat is in de praktijk niet houdbaar. In de Bijbel staat het sprookje van Jezus die een blinde laat zien, maar AI is werkelijk in staat om blinden hun omgeving te laten waarnemen en doven van communicatie te voorzien, precies de ‘hybride mens-machine’ die het Vaticaan beter niet kan bestrijden.

Aan de andere kant werpt Leo eenvoudige grenzen op die niemand zal bestrijden: “Geen enkel algoritme kan oorlog moreel aanvaardbaar maken...”