AI is een volgende fase in automatisering met computers, een grote sprong voorwaarts zoals eerder met het mainframe, pc’s, mobiele telefoon, internet, smartphone. Het voorportaal van AI noemden we big data. Opeenvolgende generaties software namen steeds meer menselijke taken over. In netwerken ging dat exponentieel.

Invloed op de samenleving nam toe, bijvoorbeeld van sociale media op letterlijk onophoudelijke menselijke communicatie en dus op relaties. Zo dreigt nu ons denkwerk voorgoed te veranderen met AI. Verslaving zie ik links en rechts om me heen opkomen, en heeft al een naam: “AIdiction” of “AI-diction” of “AI-coholisme”.

Einde der tijden

Boude voorspellingen zijn van alle tijden, nu van de AI–pocalypse. Grootschalige bedreiging van mensenlevens in Nederland vond echter deze week plaats met sabotage op het spoorwegnet. Dat deden boze boeren met daaraan bevestigde metalen voorwerpen; niet echt geavanceerde technologie. En de gewapende bende in Overhasselt was kennelijk niet eens in staat om het doelwit met drones uit te schakelen, en bendeleden werden op grote schaal in de kraag gevat door veldwachters.

Dat wil niet zeggen dat er geen dodelijke geavanceerde inzet van informatietechnologie is. De voorbeelden zijn evident met de drone-oorlog tussen Oekraïne en Rusland en software die zelfstandig doelen detecteert. Die is evenwel door mensen geprogrammeerd.

Met AI geven militairen instructies aan wapentuig mee die zelf de volgende instructies programmeren, met uitkomsten waarop ze geen invloed uitoefenen. Maar ze bepalen nog wel de beslisregels, zoals in het Israëlische leger: maximaal 20 burgers doden per Hamas-lid tot honderden voor het doden van een kopstuk.

Dat is best eng, maar niet per se beestachtiger dan B-52 bombardementen op Vietnam ruim 50 jaar geleden. Oorlog is smerig, met of zonder AI. Als overtreffende trappen gelden de inzet van bio- en chemische wapens, het laatst bekend van regime-Assad in Syrië.

Atoombommen vielen in Japan op Hiroshima en Nagasaki, door mensen gestuurd. De Cuba-crisis in oktober 1962 dreigde kort een atoomoorlog maar diplomatie van de Amerikaanse en Russische leiders voorkwam dat.

Het ‘leukste’ in dit verband is een ternauwernood voorkomen atoomaanval door Rusland toen op 26 september 1983 Sovjet-luchtverdediging Oko de lancering van vijf Amerikaanse intercontinentale raketten meldde. Luitenant-kolonel Stanislav Petrov, die aan de knoppen zat in Moskou, beoordeelde de melding als vals alarm en voorkwam wellicht nucleaire vergelding. Oko was geen AI, maar ‘hallucineerde’ wel.

Nog een aardige: de Amerikaanse minister van Defensie Colin Powell toont in 2003 met satellietfoto’s in een Powerpoint-presentatie zogenaamd aan dat Irak over biologische en nucleaire wapens beschikt. Dus een militaire inval is nodig. “Collega’s, dit zijn geen beweringen. Wat wij u geven zijn feiten en conclusies, gebaseerd op solide inlichtingenwerk.” Dit was een doorslaggevende ‘hallucinatie’ met IT maar zonder AI. Waar ook het kabinet-Balkenende intuinde.

Biologische wapens

Niets duidt op vermogens om de wereldbevolking te kunnen vernietigen. Covid-19 veroorzaakte officieel 7 miljoen doden, 0,86 procent van de wereldbevolking van 8,2 miljard mensen. Wil je hen allemaal een kopje kleiner maken, dan zul je met een beter virus of bacterie moeten komen. Ebola is een enge virusziekte en bacterie-aandoening Lyme vind ik doodeng sinds m’n dochter erop promoveerde. Van die dingen, maar we gaan niet allemaal dood.

Want dat willen we niet. Biologische wapens zijn opmerkelijk weinig ingezet. Bekendste voorbeelden zijn besmetting van waterbronnen in Caffa met de pest in de Middeleeuwen, de van dieren door de Duitsers in de Eerste Wereldoorlog, en van Chinese gevangenen door Japanners in de periode 1930-1945. 

Domme jongen van Anthropic

Kan AI zelf volkomen zelfstandig een nucleair of biologisch wapen produceren en verspreiden, of de beveiliging daarvan opheffen (hack)? Dat is de grote vraag. Doemroeper Jacob Coxon beweert dat er een kans van 10 procent is dat AI binnen tien jaar de wereldbevolking zal uitroeien. Goed dat hij opkraste bij Anthropic, want en jongen met zulk gebrekkig statistisch inzicht zou sowieso niet aan AI mogen sleutelen. De 27-jarige Brit werkte maar vier maanden bij Anthropic en kreeg niettemin zijn 15 minutes of fame in vele domme media.

Niet erg geloofwaardig klinkt de oproep van Dario Amodei, oprichter van Anthropic (Claude), dat techbedrijven het tempo van AI-ontwikkeling moeten vertragen. Elon Musk van Grok en Sam Altman van OpenAI spreken hun steun uit. Eerst zouden er begrenzende regels moeten komen. Ook al heeft Big Tech bewezen zich daar doorgaans weinig van aan te trekken.

President Donald Trump wil met AI-innovatie de Amerikaanse economie laten winnen van China en beoordeelt de oproep als “ziekelijke samenzwering”, en dat als “STERKE EN SLIMME (hoog IQ!) PRESIDENT” de grenzen aangeeft. (De kans dat Trump hoog intelligent wordt is kleiner dan dat AI de wereldbevolking vermorzelt.)

David Sacks, medevoorzitter van Trumps technologische adviesraad, noemt op X het eisen van regelgeving door Amodei “chantage van het publiek en het politieke systeem”. Misschien was de reactie van regime-Trump deze keer zo gek nog niet: de AI-bonzen laveren voortdurend tussen waarschuwingen en het uitbrengen van volgende versies AI die nog meer geld moeten opleveren.

KPN met McKinsey

Immers, ondertussen gaan de geplande beursgangen van Anthropic en OpenAI, eind 2026 en begin 2027 op een waarde van meer dan 1.000 miljard dollar, gewoon door. Anthropic had bij een investeringsronde in mei een waardering van 960 miljard, OpenAI in februari 850 miljard. (De Nederlandse begroting voor 2027 beloopt 500 miljard euro.)

Voorlopig worden voorspellingen van economische opbrengsten gelogenstraft. Ik zie het in een app-groep met de belangrijkste AI-experts in Nederland: heel veel humbug en spielerei, maar echte toegevoegde waarde is beperkt.

Een voorbeeld: McKinsey noemt KPN als excellent voorbeeld van succesvolle inzet van AI in de klantenservice. Recent kreeg ik ermee te maken: m’n verbinding was uitgevallen en m’n telefoontje kwam bij een AI-bot terecht. Die gaf als oplossing een sms met een link naar een uitleg over gevaar van phishing-aanvallen. De telefonische verbinding werd abrupt verbroken. Het was een zondagmorgen en ging bij gebrek aan verbinding dan maar naar de kerk. Want de daar vertelde verhaaltjes zijn tenminste nog traceerbaar in het grote sprookjesboek Bijbel. Bij de AI-religie tasten we volslagen in het duister over de grondslagen.

Cyberaanvallen wazig

Dat blijkt bijvoorbeeld bij de grote cyberaanvallen met AI, zoals van Hugging Face. Ja, het risico van forse kraken neemt wellicht even exponentieel toe met inzet van AI vanwege veel meer snelheid en massaliteit van het bouwen en uitvoeren van schadelijke software. Maar onderzoek door experts naar de aanvallen met OpenAI gaven weinig uitsluitsel over de autonomie van de systemen. Ze merken op dat nog steeds mensen aan de knoppen zitten.

AI zelf gaat de mensheid niet uitroeien. Kan het kwaadaardig worden ingezet om snel tot een biologisch of zelfs nucleair wapen te komen dat de mensheid decimeert? Vast wel, en dat is goed nieuws voor het klimaat op aarde. Al heeft 100 procent uitroeiing de voorkeur, dan zijn er geen treurende nabestaanden; ofschoon de hemel dan overvol raakt.

*) Beeld: de laatste zonsondergang