Ilyaz Nasrullah (1986) studeerde technische informatica in Delft en is digitaal adviseur, schrijft sinds 2021 columns voor Trouw, maakte de podcast Welkom in de AI-fabriek en is welkom op radio en televisie.

Benali grappig en eenzijdig

Het voorwoord van ‘Dit is AI’ van de sympathieke auteur Abdelkader Benali begint vermakelijk: hij ontvangt een groot compliment voor zijn roman, is zeer verguld, tot hij merkt dat de lofzang met AI gegenereerd is. Het betreft marketing voor een app.

Vervolgens schrijft Benali: “Wat ik mis in het publieke debat over AI is gezonde scepsis. Wat ik mis is kritische bevraging van een machine die, op de keper beschouwd, niet zo veel kan en in sommige gevallen zelfs schadelijk is voor ons.”

Dit is exact dezelfde misleidende marketing voor het boek van Nasrullah als hij zelf ontving voor de app. Immers, sinds de hype over ChatGPT vanaf eind 2022 losbreekt, is er bericht over de schaduwzijden. Zoals door Laurens Verhagen die in de Volkskrant honderden artikelen over AI publiceert met kennis van zaken, merendeels kritisch. Hij gunt Nasrullah een podium voor boekpromotie met een interview.

Hulp bij marketing

Bovendien is Trouw kritisch over AI, zoals in Ilyaz’ tech-columns. In juni 2022, ChatGPT zat nog in de baarmoeder, schreef hij al: “We moeten af van de term ‘kunstmatige intelligentie’, want een chatbot is zeker niet intelligent”, en “Waarom besteedt zo’n prominente krant aandacht aan iemand bij wie duidelijk een steekje los zit?”.

Dit ging over Google’s AI-expert in Washington Post. Nasrullah bekritiseert behalve AI-profeten de media die podia bieden. Hij weerstond de verleiding niet om bij de NPO-Ombudsman te klagen over collega Alexander Klöpping. De klacht werd afgewezen en Nasrullah moest zelf rectificeren; het loon van een moreel niet zo hoogstaande actie.

Een paar weken geleden probeerde hij het niettemin weer met een ‘ingezonden brief’ met Felienne Hermans, gericht tegen Klöpping over AI op televisie. Dat was onderdeel van de marketingcampagne voor het boek. Hermans sprak diezelfde week bij de lancering ervan.

Nasrullah mocht overal verkooppraatjes houden, behalve in genoemde Volkskrant bij van Radio 1 tot z’n eigen krant Trouw. Zonder uiteraard één kritische vraag. En journalist Hans van Willigenburg hielp hem met het boek en publiceerde vervolgens een kritiekloos interview met Nasrullah voor HP/De Tijd.

Inhoud van het boek

Nu lijkt deze kritiek op de incestueuze marketing een opmaat om “Dit is AI - De valse belofte van kunstmatige intelligentie” te kraken. Maar dat is onjuist, want de Ilyaz hanteert uitstekende argumenten. Hij kent de klassieken en beschouwt AI meer als een volgende fase IT dan als een godswonder. Nasrullah kreeg hulp van Cynthia Liem, klasbak van de TU Delft, helaas onbekend, in tegenstelling tot meelezende Felienne. Ook dankt Iliyaz de meelezers Laurens Blankers en echtgenote Huang Han-yin (TU Delft) 

Zijn zeven mythes:

1. AI brengt een paradijs van wijsheid

Onder meer investeerder Marc Andreessen, Dario Amodei van Anthropic en zelfs Nobelprijswinnaar Demis Hassabis (Google) verkopen kletskoek met hun voorspellingen dat AI maatschappelijke euvels, van zorg en onderwijs en klimaat tot armoede zal oplossen. Nasrullah vindt de beloften speculatief, maar vermijdt meer reële vooruitzichten te noemen zoals in medicijnen. In plaats daarvan noemt hij de mislukte Metaverse (leuk filmpje) als voorbeeld van kostbare, valse tech-beloften.

2. Mythe van productiviteit

AI gaat menselijk werk grotendeels overnemen, zo luidt een belofte, die overigens inmiddels in vele toonaarden is weersproken. Nasrullah baseert zich op een nuchtere analyse van Daron Acemoglu die voor MIT uit de doeken deed waarom de voorspelde enorme stijging van de productiviteit met AI irreëel is. En op Goldman Sachs die stelde dat de bijdrage van AI aan de Amerikaanse economie nagenoeg nul is. Terwijl de investeringen krankzinnig hoog zijn.

Hij betwist vooral de voorstelling dat generatieve AI zelfstandig kenniswerk kan uitvoeren. Dat ook het schrijven van software met AI grote voordelen brengt, bestrijdt Nasrullah met een rapport van METR.

Hij ziet echter een belangrijke update van dit rapport over het hoofd, met  een kentering. Wat in dit hoofdstuk bovendien mist is het denken in toegevoegde waarde, bijvoorbeeld in de zorg, maar ook daarvan is nauwelijks iets zichtbaar in de samenleving.

Dus maakt Ilyaz met plezier gehakt van de Nederlandse plannen met AI zoals het Deltaplan. Hij verwacht dat een “tweede Deltaplan” noodzakelijk zal worden, om de ellende veroorzaakt door het eerste op te ruimen, grappig!

3. De mythe van de intelligentie

AI-machines, zoals schaak- en Go-computers werken op basis van wat er aan oplossingen uit het verleden, en bieden op grond daarvan suggesties. Ilyaz grijpt terug op de ideeën van Joseph Weizenbaum die al 70 jaar geleden kritisch begon te schrijven over de wonderen van computers, en verwerpt de ideeën van tijdgenoot John McCarthy en zijn filosofie van kunstmatige intelligentie.

Nasrullah beschrijft in dit hoofdstuk bondig en onderbouwd de geschiedenis van AI en de misvattingen. Spannend is de mogelijke ‘ontmaskering’ van Geoffrey Hinton die een Nobelprijs won (niet in 2025 zoals Ilyaz schrijft maar in 2024) voor zijn impliciete AI en deep learning. Ex-medewerker Yann LeCun bekritiseert Hinton en er ontstaat alras meer kritiek.

Dit vind ik het meest fundamentele en beste hoofdstuk van het boek, ofschoon wat negatief van aard. Maar dat is ook de opzet.

4. De mythe van het menselijke

Idem dito voor dit hoofdstuk waarin wordt weersproken dat AI taken van mensen naar behoren kan uitoefenen als ware het een empathische geest. Ilyaz weerspreekt, gefundeerd, het toeschrijven van denkvermogen aan computers, zoals door Alan Turing in Computing Machinery and Intelligence. Hij vindt steun bij de geniale Weizenbaum die met zijn Eliza-test Turing domweg te slim af was en het antropomorfiseren blootlegde.

Emotioneel begrip kent de machine niet. Kan de machine dan geen dienst doen als maatje of therapeut? Daarover verscheen recent een goed Volkskrant-artikel, met nuances die aan Nasrullah niet besteed zijn. Laat staan dat hij psychiater Iris Sommer serieus zal nemen, die AI beschouwt als “gouden kans voor onze mentale gezondheid”. Ilyaz schrijft een momentopname, bijvoorbeeld dat AI in therapie en advisering nauwelijks tegenspraak biedt, en depressievelingen suggereert om van een brug te springen.. 

Daarentegen vind ik de harde kritiek van Nasrullah op de nabestaanden-bots zoals HereAfter (die er trouwens binnenkort mee stopt) en YOV, die overledenen virtueel in leven proberen te houden, weer heel geloofwaardig.

5. De mythe van objectiviteit

Hier komt het Toeslagenschandaal weer om de hoek kijken. Dat je oordelen van classificatiesystemen diepgaand moet wantrouwen, weten we nu wel. Overigens mensen en hun oordelen op grond van persoonlijke ervaringen zijn tenminste even onbetrouwbaar. Dus dit probleem zo platgeslagen beschrijven als in dit boek duidt op intellectuele luiheid en voegt helaas niets meer toe. Het slechtste hoofdstuk, terwijl het juist zo’n boeiend terrein is.

6. De mythe van het zelflerende

Natuurlijk, als een machine geen mens is, kan die niet zelf leren. Daarvoor moet je haar voortdurend voeren met uitingen die, jawel, wel door mensen zijn gemaakt. Dat is momenteel jatwerk, ook niets nieuws. En al dat intensieve rekenwerk kost bergen elektriciteit en water, beroerd voor het klimaat.

Ilyaz voert hier helaas geen discussie over het lerend vermogen van de machines en waarom ze mensen keer op keer versteld doen staan, noch over de democratisering van kennis etc., maar schrijft naar een conclusie toe die eigenlijk zijn kern is van dit boek. Ik tik die over (met de pest in het achterhoofd dat de AI-bots dit jatten):

 “De beloftes van de AI-industrie zijn speculatief en de beloftes van de voordelen van AI zijn – zeker in verhouding tot de beloftes – uitermate beperkt. Tegelijk zijn de maatschappelijke en economische kosten – in tegenstelling tot de veronderstelde voordelen – tastbaar en enorm. De vraag of de samenleving iets met kunstmatige intelligentie moet doen, laat zich dan ook eenvoudig beantwoorden. Wat echt moet gebeuren is de op hol geslagen AI-industrie een halt toeroepen.”

De conservatieve melancholicus in me beaamt nu, met enige ironie: “Goed plan!” Maar reëel? 

7. De mythe van de autonomie

Maar we hebben er nog eentje te gaan, het idee dat AI steeds meer taken zelfstandig kan uitvoeren. Domweg een leugen volgens Ilyaz. En de verkondiger ervan is, wederom, Alexander Klöpping. Al die zogenaamde agenten die erop uittrekken om onze nare klusjes uit te voeren, of uiteindelijk het armageddon bewerkstelligen, zijn domweg zwaar overdreven. Maar gevaarlijk zijn ze niettemin wel volgens Ilyaz, dus is er wel regelgeving nodig. De AI Act van de EU volstaat niet.

Maar ik weet niet of het echt niks wordt met die agents. Casey Newton, altijd heel kritisch over big tech met zijn Platformer, vertelde deze week verrassend dat agents hem wel degelijk veel werk uit handen beginnen te nemen. En in een nog te publiceren vraaggesprek dat ik had met ‘AI-opportimist’ Vincent Everts stelde deze hetzelfde.

AI is niet onvermijdelijk

Generatieve AI-bots noemt de auteur consequent ‘contentgeneratoren’ omdat wat ze spuien niets met intelligentie te maken heeft. Dat woord bekt en leest niet lekker. Wat dan? ‘Braakmachines’?

Overigens blijft dan de vraag openstaan: worden we een betere wereld met AI? Worden we gelukkiger? Het is goed dat Ilyaz Nasrullah daar indirect zijn eigen antwoorden op formuleert, met een mooie onderbouwing. In de inleiding stelt hij dat we “deze technologie in ons collectieve bewustzijn tot iets onvermijdelijks [maken], We denken dat we er hoe dan ook iets mee móéten. Juist daarom is het zo belangrijk dat we voorbij de eerste indruk van AI komen…Moeten we echt iets met kunstmatige intelligentie?”

Ontnuchtering is belangrijk, leest prettig, maar volstaat niet. Dertig jaar geleden schreef ik een boek over internet, in dezelfde beginfase als AI nu. De eminente Alexander Rinnooy Kan schreef in het voorwoord dat het evenwicht tussen het beschrijven van feitelijke voordelen kritiek en cruciaal is. De rest is geschiedenis. Ilyaz houdt niet van de nuance, dat bekt nu lekker in een prettig boek, maar blijkt het straks overmoedig? Dan is hij welkom op Ongelijkbekennen.nl.

*) Dit is AI - De valse belofte van kunstmatige intelligentie is een uitgave van Nieuwezijds.