‘Doe zelf normaal’ krijgt een welkome pers. Maxim Februari was columnist van de Volkskrant en tot voor kort van NRC, maar voelt zich na 13 jaar niet mee senang en verhuist naar Vrij Nederland waar meer ruimte voorhanden is dan een wekelijkse column van 800 woorden. Het blijft de veilige omgeving van ja-knikkers.

De keuze van Maxim Februari is goed te begrijpen, qua ruimte en signatuur. Vrij Nederland heeft een linkse traditie van wantrouwen van de kapitalistische samenleving, soms op evenwichtige argumentatie gebaseerd. Maar meestal niet. ‘Doe zelf normaal’ is een waarschuwing voor een toekomstig scenario, en rust niet op argumentatie of feiten die uit gedegen onderzoek voortkomen.

Ik heb het essay met veel plezier gelezen, vooral vanwege de speelse stijl van Maxim Februari met ironie, gerede zelftwijfel en ook zelfspot, schaarse stijlfiguren in het verharde Nederlandse debat. Februari vind ik een fijne schrijver en zijn roman Klont indrukwekkend. Dit essay bevat prachtige mijmeringen.

Linkse marketingfuik

Echter, weinig zo schadelijk als adoratie. Het vraaggesprek met Februari in de Volkskrant begint interviewer Laura de Jong met een reclamespot “Doe zelf normaal is inderdaad een boek dat iedereen zou moeten lezen.” Nadat Februari zelf debiteert: “Ik wil dat dit boek iets doet, dat iedereen het leest.” Met schaamteloze zelfpromotie is niets mis, maar met de bevestiging door Laura de Jong als 'kritisch' Volkskrant-redacteur wel.

Februari zelf mag vervolgens uitpakken, zonder één kritische vraag. Een interview moet een confrontatie zijn, geen gelik en bevestiging. Hij mag onweersproken zeggen: “Als je het uit hebt, kun je geen tentamen doen over kunstmatige intelligentie, maar heb je wel noties van wat er gebeurt en waar we het over zouden moeten hebben.”

Gebrekkige onderbouwing

Dat is volgens mij nu juist het probleem met ‘Doe zelf normaal’: Februari bouwt een projectie van een bedreiging van de democratische rechtstaat [ook goed: 'rechtsstaat'] die volslagen mank gaat aan feiten, heldere argumentatie, logische opbouw en historisch besef. (Nee, deze zin komt niet in advertenties van uitgeverij Prometheus.)

Het grappigste bewijs van het onvermogen van Februari om een geloofwaardige argumentatie op te tuigen, vormt voor mij dit citaat (p.25) over de ‘vernetwerkte samenleving’ van verbonden apps: “Je Facebookaccount met je portemonnee. Je pacemaker met je stembiljet. Een soort Notenkraker Suite online: alles komt tot leven. What if my toilet could talk to my doctor?”

Toch maar even in noten achterin gekeken – welke gek doet dat nu? De bron: de eigen roman Klont. Fictie om een reële argumentatie te onderbouwen. Dit is ten voeten uit wat er qua vorm en inhoud mis is met dit essay: het is gebouwd op drijfzand. Met Februari zal ik erom lachen, maar ga er rationeel niet blind in mee als m’n collega’s bij Volkskrant, NRC en VN. Even later staat de kern van deze bouwval:

“Zelfs als mensen binnenkort niet volkomen irrelevant worden doordat ecosystemen en smart technologieën de handen ineenslaan, veranderen de verhoudingen. Beslissingen over de planeet worden genomen op basis van data die door software wordt opgehaald uit het hele econetwerk…”

Ik onderzoek niet, ik denk

Het boek wemelt van dit soort projecties, gelukkig niet alle van dit niveau stilistische en inhoudelijke prietpraat. Maar wel beweringen die even fraai als nietszeggend zijn en er bij opinieleidend Nederland ingaan als het spreekwoordelijke woord gods in de ouderling. Nu ben ik een intellectuele nono en Februari heeft de positie van niet tegen te spreken orakel bereikt, dus heeft van deze observaties niets te vrezen.

Dat is jammer, want Februari weet zelf al te goed wat eraan aan schort en bevestigt dat op humoristische wijze en met zelfkennis nadat ik eerder kritiek uitte op gratuite argumentatie in een column: “Ik doe ook geen 'goed onderzoek', zoals jij dat formuleert, ik denk na.”

Of uit dit essay: “Ziehier het grote schema dat ik losjes als uitgangspunt neem…” Prachtig woord om de eigen stijl van redeneren te duiden: losjes. De filosoof is het toegestaan om in het heufd een eigen wereldbeeld te construeren om vervolgens het publiek te vertellen waarom de wereld niet deugt op de gevonden punten en wat ons te doen staat.

Van die laatste plicht ontslaat Februari zichzelf echter. Tegenover de Volkskrant beweert hij enorm veel tijd in het boek te hebben gestoken om de Nederlandse samenleving de waarschuwing van het data-armageddon cadeau te doen. Maar in de conclusie staat: “Ik zou daarom heel graag een voldragen nieuwe ethische theorie aan uw presenteren, maar daartoe ontbreekt me de tijd: aan het eind van dit verhaal kan ik er alleen voor pleiten dat mensen zelf over hun gedrag blijven nadenken.”

Dat wist hij halverwege al: “Nu wil de lezer natuurlijk weten wat ik suggereer daaraan te doen, maar dat weet ik halverwege het opstel nog niet.” Is dit de vrijheid van de denker of ‘slappe hap’? Evenzeer met de reden voor het vaak citeren door Februari van rechtsfilosofisch informaticawetenschapper en privacyvoorvechter Mireille Hildebrandt: “…omdat ze altijd gelijk heeft”.

Theoretische bouwval

In de inleiding stelt Februari: “Eigenlijk gaat dit boek over de vervanging van het vertrouwde rechtssysteem door een nieuwe manier om menselijk gedrag te reguleren en te sturen”. Dat nieuwe zijn de netwerken met hun gegenereerde bergen data waaruit computers met hun ondoorzichtige algoritmes besluiten nemen.

Is dit de realiteit? Voor zover ik weet is bij geen enkel rechterlijk vonnis in Nederland een computer te pas gekomen. Natuurlijk, advocaten, officieren en rechters doorzoeken jurisprudentie met dure software en databanken, teneinde hun vonnissen beter te kunnen onderbouwen. En ja, als die software kwaadaardig is geprogrammeerd en/of op persoonskenmerken gebaseerd is zouden de juristen foutieve conclusies kunnen trekken. Er is niet de geringste aanwijzing van deze praktijk.

En het toeslagenschandaal dan, dat ging helemaal fout door algoritmes van de Belastingdienst? Nee, zoals Jesse Frederik uitstekend onderzocht: dit was te wijten aan collectief menselijk falen van ministers, Kamerleden, ambtenaren, rechters en journalisten. (Misschien kun je zelfs stellen dat er te weinig op data is gestuurd.)

Het algoritme van de televisie

En aanstaande woensdag zijn er verkiezingen voor provincies en waterschappen en het gaat in de verste verte niet om sturing met data, AI, en verbonden systemen, integendeel. Puur menselijke emoties gaan de overhand krijgen boven rationele elementen. Uiteraard is het geheel van echoputten van sociale media van invloed op de opinievorming en keuzes, maar de BBB en haar voorvrouw winnen vooral terrein dankzij de aloude televisie en zelfs in het parlementaire debat.

Februari debiteert een grote hoeveelheid ellende die het gevolg kan zijn van systematische, combineerde toepassing van kwalijke algoritmes en data. Echter, het overgrote deel behelst veronderstellingen die beginnen met ‘Stel dat…’. Ik heb er zo veel aangestreept in het boek. Of neem een oprisping als “…de hele wereld is een hybride netwerk geworden, zeggen de geleerden.”

Wie zijn dat dan? Met welke argumentatie? Welke gevolgen hebben data werkelijk? Mireille Hildebrandt grossiert ook in dit doemdenken over de samenleving en de toekomst, maar onderbouwt dat tenminste nog. Februari is net zo hyperintelligent als zij, maar maakt zich er vaak te gemakkelijk vanaf. “Als de wereld wordt bestuurd door data, dan is er uiteindelijk weinig sprake meer van een volk of van een zelf”, luidt een conclusie (p.75).

In non-fictie, een essay, is dat, paradoxaal, voor mij veel minder geloofwaardig dan in fictie. Enkele malen verwijst Februari naar rapporten van de WRR over vergaande automatisering en datagebruik, maar het lijkt me leerzamer om (de samenvattingen van) de rapporten te lezen.

Rutte en Wilders

Ook had ik graag gelezen hoe de evolutie van laakbaar bestuur in de door Februari veronderstelde kwalijke richting verloopt. Immers, politiek stuurt al eeuwen op informatie, ook op ‘harde’ data. Het Centraal Bureau voor de Statistiek werd opgericht in 1899. Statistiek in sociale wetenschap met politieke invloed begon bij Quitelet en zijn gemiddelde mens als uitgangspunt. Wie buiten de lijntjes kleurde was statistisch een ‘outlier’. Afgelopen week kwam het SCP met zeven sociale klassen in Nederland; gebouwd op grond van bedenkelijke data en AI of niet?

Volgens Februari wordt statistiek in toenemende mate normatief ingezet, om gedrag te sturen. En kiest daarom voor de titel van het boek, gestoeld op de Rutte-Wilders ‘doe normaal’ woordenwisseling. Februari noemt dit  nu “de meest fascinerende dialoog uit de geschiedenis van de Westerse filosofie”. Ironie natuurlijk, maar hij zegt steeds weer van niet.

We moeten, zo is de kern van het essay van Februari, in een rechtstaat in een menselijke dialoog tot onze normeringen komen en niet gedwongen door data. Maar dit schoolpleindebatje tussen Rutte en Wilders had juist geen data als ondergrond, maar onderling taalgebruik.

Beleid voeren vereist het abstraheren van de realiteit, of het gaat om stikstofkaartjes, verwachte coronaverspreiding, aardbevingsgevaar of kosten van asielhandel, maar het debat is in de politiek nog altijd dominant. Iedere ambtenaar kan je vertellen dat slechte wetgeving niet het gevolg is van te veel leunen op data en AI, maar van politiek debat en verkeerde compromissen.

Geheel van AI-systemen

Sorry voor al deze kritiek, maar Februari is te intelligent en eloquent om slaafs te adoreren. Gelukkig zijn er ook uitdagende of leerzame gedachten in dit essay. Zoals de bewering dat al te gemakkelijk ‘privacyschending’ in het geding is, het bespieden van burgers door de overheid. De invloed van de staat op gedrag reikt met het dwingend opleggen van gedrag veel verder. Als voorbeeld noemt hij het voorstel om maximumsnelheden van auto’s af te dwingen. Laat dan liever ruimte om de wet te overtreden, vindt hij.

Ook plaatst Februari nuttige vraagtekens bij het wensdenken; dat we effecten van algoritmes wel degelijk gaan beheersen als we de werking ervan maar transparant maken. Dat idee ligt ten grondslag aan algoritmeregisters op grond van een tweede principe: dat mensen een algoritme niet enkel moeten kunnen uitleggen maar ook het eindoordeel moeten blijven vellen.

Februari wijst op het risico dat een heel systeem van machinesturing van gedrag kwalijk kan uitpakken. China is een eenvoudig voorbeeld, maar dat noemt hij nauwelijks. Dit ontslaat ons niet van het diep nadenken over de vraag: hoe en wanneer zou de de democratische rechtstaat ten prooi kunnen vallen aan datasturing?

Februari zou in debat kunnen gaan met Vincent Icke. Hij breekt in NRC de staf over de opvatting van AI als zelfstandige macht: “De term AI is een ‘frame’, ongeveer zoals een Amerikaanse burger die het bezit van een volautomatisch machinegeweer ‘zelfbescherming’ noemt.

Hoe effectief dat frame werkt blijkt er onder andere uit dat zelfs mensen met een IQ van boven de 130 – die dus wel iets weten van intelligentie – schrijven dat het algoritme een besluit neemt. Maar daar is geen sprake van. Een besluit berust op overweging, en AI overweegt niets: het speurt in bergen gegevens naar patronen. Je kunt zo’n patroon gebruiken voor verdere studie, en op grond daarvan een besluit nemen of advies geven, maar dat is iets anders dan een zelfstandige beslissing van een algoritme.” Aldus Vincent Icke.

Rechtse praat?

Fascinerend vind ik de kritiek van Februari op de dwingende coronamaatregelen. In het kielzog daarvan stelt hij dat ook de klimaatpolitiek gestuurd dreigt te worden met data waaruit waarheden en onontkoombare maatregelen worden gedistilleerd die verheven worden boven het politieke debat met menselijke afwegingen.

Daarmee flirt hij met de criticasters van Haagse politiek ter rechter zijde van het spectrum, of tenminste met activisten als Maurice de Hond en de coronademonstranten op de Dam, of misschien zelfs met klimaatsceptici.

Daarover zegt hij in de Volkskrant: “Ik moet een beetje uitkijken dat ik niet in de hoek van radicaliserend Nederland terechtkom. Het was iets waarvan ik dacht dat het de verkeerde mensen zou kunnen aanspreken.”

Maar is de overgang van Februari naar de warme linkse deken van Vrij Nederland zo veel beter?

*) Maxim Februari – Doe zelf normaal, Prometheus, Amsterdam. 144 blz.