Voor de goede orde: er is alle reden om voorzichtig om te gaan met AI. Er is allerhande gevaar, zo tonen verhalen uit ons dossier AI en Maatschappij. Het belangrijkste risico van ongebreidelde AI-toepassing is wellicht dat het onze slechte eigenschappen vrij baan geeft. Zoals eigenlijk de hele digitalisering heeft gedaan: gemakzucht en ijdelheid vooral, maar ook hebzucht (bitcoin!) en afgunst. Kortom, het hele scala dat het fundament vormt van De macht van Facebook.

Je kunt je zelfs afvragen: hoeveel beter is de samenleving geworden dankzij digitalisering? En in hoeverre gaat AI de samenleving dienen? Hulp in het aanbod om aan de groeiende zorgvraag te kunnen voldoen is mogelijk het meest positieve vooruitzicht.

Optimistische Hogeschool-onderzoeker

Het is goed om nuance aan te brengen. Dat doet Pascal Wiggers in een interessant interview in Trouw met Nienke Schipper. Hij is lector Responsible IT aan de Hogeschool van Amsterdam.

Wiggers is na uitgebreid onderzoek van de diverse taalmodellen verrast door hun goede werking. Dat had hij niet verwacht, want de werking is puur wiskundig c.q. statistisch, op grond van een gigantische hoeveelheid ingevoerde taal.

Hij gelooft echter niet dat de huidige snelle ontwikkeling zal leiden tot superintelligentie. Daartoe ontbeert de machine menselijke eigenschappen als affectie, bewustzijn en zelfs het snappen van betekenis. En kan evenmin zelfstandig een plan bedenken. AI-bots kunnen volgens Wiggers bovenal  geen feiten en fictie onderscheiden.

“Dat is volgens Wiggers het cruciale punt. Veel van wat voor ons belangrijk is, zit niet in woorden. Films gaan bijvoorbeeld nooit over wat er gezegd wordt. De echte betekenis ligt altijd onder de oppervlakte. Hetzelfde geldt voor boeken; ook dat zijn pogingen om iets onder woorden te brengen wat moeilijk in woorden te vatten is. “Gevoelens, relaties: veel van wat wij doen is heel fysiek en dat spreken we nooit uit. Juist dat deel van de wereld ontgaat AI volledig”.”

Naïef?

Dit lijkt me voer voor discussie, want kun je de machine en modellen niet met alles voeden, ook de menselijke interpretatie van filmbeelden en literatuur? En zelfs ons fysieke leven? En als Wiggers nu al - positief - verrast wordt door de kunde van machines, kan hij dan niet nog verder verrast worden?

En is juist niet de crux in de huidige wereld dat het onderscheid tussen feit en fictie er steeds minder toe doet, ja zelfs cruciaal is voor de kwade krachten? Zelfs Wikipedia wordt in twijfel getrokken. Het politieke klimaat is gunstig voor AI en voor enshittification.

Je mag hopen dat niet alle menselijkheid aan wiskundige regels te onderwerpen is, dat er een laag blijft die de machine nooit zal kunnen snappen. Maar de eenvoudige slimheid van de machine is al veel groter dan van mensen. AI zou met twee vingers in de neus de quiz De Slimste Mens van KRO-NCRV winnen, want niet intelligentie is daarvoor doorslaggevend, maar kennis.

Bovendien, mensen voeden de machines en maken ze betrouwbaarder, meer in lijn met onze verwachtingen en gewoontes. Zo stuurt het bedrijf Mercur in Silicon Valley 30.000 mensen wereldwijd aan om AI-uitkomsten te trainen en corrigeren. OpenAI en Anthropic zijn klanten.Dit bedrijf is opgericht door dropouts van school en volgens WSJ al 10 miljard dollar waard. Thiel Fellowship van Peter Thiel, gericht op geflopte studenten, stopt er geld in.

Dokter Grok

Zo zal AI meer en meer problemen in de zorg helpen oplossen. In een column op Wall Street Journal schrijft auteur Daniel Akst over zijn voorkeur voor AI-bot Grok boven artsen, ondanks zijn uitstekende verzekering en toegang tot topartsen. Hij is gefrustreerd over het medische systeem in de VS. Als dokters al even tijd voor hem hebben, dan is dat voor een vluchtige diagnose en advies.

AI daarentegen biedt Akst uitgebreide uitleg en gepersonaliseerde voorstellen voor een betere gezondheid. Chatbot Grok onthoudt eerdere interacties en houdt rekening met de algehele gezondheid van Akst “waardoor hij een meer holistische kijk biedt dan individuele specialisten… En 20 minuten tijd bij de dokter, als je die al kunt krijgen, is niet genoeg om een patiënt echt te leren kennen of zijn of haar gezondheid te beheren”.

Hij verwacht dat AI een oplossing biedt voor overbelaste zorg, en voor de “dure, gefragmenteerde en ineffectieve benadering van de menselijke gezondheid”. Hij spreekt voor de VS, maar dit is herkenbaar voor Nederland. We geven jaarlijks samen 100 miljard euro aan de zorg uit, al bijna 6.000 euro per inwoner in Nederland.

Zelf heb ik voor een kwaal de proef op de som genomen met Grok. (Moet je je gezondheid wel in de waagschaal stellen van de zieke geest van Elon Musk?) Een diagnose die ik inbreng bij de AI-bot, die ingaat tegen de opvatting van de arts, wordt werkelijk uitstekend kritisch behandeld en in begrijpelijke taal.

Overigens legde ik de kwestie eerder voor aan een arts in opleiding, toen met een antwoord van Perplexity. Zei deze jonge arts, eerlijk: “Ik heb diezelfde vraag aan Perplexity gesteld.” Maar hij trok er een andere conclusie uit, mede op grond van wat hij leerde in de opleiding en het protocol waaraan hij zich moet houden. Wellicht is dit het ideaal, de combinatie van mens en machine. Radiologie werkt soms al zo: voorheen bogen twee artsen zich over scans, nu één plus AI. Maar men is er nog niet uit voor AI-radiologie, blijkt uit dit genuanceerde artikel.

Ondertussen nemen individuen massaal hun toevlucht tot AI-bots als ze in de knel komen met kwalen en gebrekkige beschikbaarheid van zorg en/of artsen van wie ze de bekwaamheid in twijfel trekken.

Wel even bedenken: de AI-exploitanten leven ook van vergaande privacyschending: alles wat je inklopt wordt opgeslagen. Dat is handig om de uitkomsten zelf terug te zoeken, maar minder aangenaam voor je privacy.

En het duurt niet lang meer of de doktoren Grok, Copilot, Gemini en Claude sturen je een rekening. Gaan verzekeraars die vergoeden?

*) Beeld: 1947 , Palembang, Sumatra, Nederlandse legerarts, Fotocollectie Dienst voor Legercontacten Indonesië