De groeiende publieke verontwaardiging over oorlogsmisdaden die Israël pleegt in Gaza gaat voorbij aan onze eigen schuld in de ontwikkeling van het militair complex. Nederland en andere EU-landen sluiten aan in de rij bij Israël die de technologie aanbiedt voor export om gewapende strijd te financieren. De AI is geoptimaliseerd ten koste van 50.000 Palestijnse levens om die van ons straks te kunnen beschermen.

Tandem Poetin en Nethanyahu

Hoeveel dode burgers mogen er geofferd worden om een veel kleiner aantal leden van Hamas, terroristen of militairen of vrijheidsstrijders genoemd, te kunnen uitschakelen? Ofschoon bij de regering-Nethanyahu ook het doden van kinderen valt onder het bestrijden van terrorisme: elk gedood kind is een mogelijk toekomstige terrorist minder. Tenslotte mag 7 oktober 2023, met ruim 1.200 brute moorden door Hamas, plus 250 gijzelingen, nooit meer plaatsvinden.

Dit cynisme dat tot dagelijkse realiteit is gemaakt, leidt in Europa tot steeds meer verontwaardiging. Tegelijkertijd zwelt de roep aan om meer te investeren in defensie teneinde ons te kunnen verdedigen tegen (vermeende) expansiedrift van Rusland. Oorlog bedreigt ons reëel, aldus deze opvattingen. Concreet: Poetin kan ook Nederland fysiek aanvallen, niet enkel met cyberaanvallen zoals nu. Vooralsnog profiteren de aandeelhouders van wapenfabrikanten van enorm gestegen koersen.

AI belangrijk wapen

Recent publiceerde New York Times de inzet van AI voor het bepalen van doelen en inzet van wapens in de strijd van Israël tegen Hamas. Een jaar geleden al publiceerde +927 Magazine, een Israëlisch-Palestijnse uitgave die heel kritisch is over de oorlog, na eigen onderzoek in samenwerking met zusteruitgave Local Call hoe AI doorslaggevend is in de bepaling van doelen door Israël.

Dat ging uit van het in 2021 verschenen boek "The Human-Machine Team: How to Create Synergy Between Human and Artificial Intelligence That Will Revolutionize Our World" van "Brigadier General Y.S.", de huidige commandant van de Israëlische elite-inlichtingeneenheid 8200. Hij beschreef het ontwerp voor een computer die snel enorme hoeveelheden gegevens verwerkt om duizenden potentiële doelwitten voor militaire aanvallen te genereren.

Lavendel, zoals de uitkomst hiervan is genoemd, speelt een centrale rol in de bombardementen op Palestijnen. En cruciaal: de machines zijn leidend in de besluitvorming.

Dat laatste is verboden in de Europese AI Act, voor wat betreft systemen met een hoog risico. En systemen die beslissen over leven en dood kun je daar gerust onder scharen. Inmiddels wordt gesproken over verschillende aanvullende systemen voor het Israëlische leger IDF als Habsora (Gospel), Alchemist, Vuurfabriek en Where’s Daddy. Ze zijn ingesteld op gezichts- en oogherkenning, audio-analyse en onderlinge fysieke en digitale contacten in Gaza en Arabische landen.

Pijnloze drone-inzet voor Defensie

Europa wil de meest geavanceerde technologie kunnen inzetten, temeer daar de bevolking niet meer bereid is om (veel) mensenlevens op te offeren aan oorlog. Oorlogsvoering op afstand verdient dan de voorkeur, reden voor Nederland om de meeste kaarten te zetten op drone-technologie.

En ja, om die drones zo effectief mogelijk in te zetten, kom je bij systemen met lieftallige namen, maar verwoestende gevolgen zoals Lavendel. De ministers van Defensie zullen dan braaf stellen: we zetten dat wel in, maar onze mensen nemen het besluit om wel of niet te bombarderen. Maar juist dit toont de zwakte van de AI Act aan. Immers, je kan een mens wel op de knop laten drukken, maar de werkelijke vraag is: in hoeverre wordt het AI-advies nog kritisch onderzocht?

En ook, nog cynischer: hoeveel burgerdoden mag het uitschakelen van militairen tot gevolg hebben? Welk criterium Israël hanteert is niet helemaal duidelijk, er wordt een getal van 100:1 genoemd voor het aantal burgerdoden dat het uitschakelen van één Hamas-soldaat dan wel terrorist gerechtvaardigd is. (En volgens sommigen wellicht: hoe meer Palestijnen eraan gaan, des te beter het is.)

Hoge graad van precisie?

Anderzijds: Israël heeft een lijst met 37.000 Hamas-leden, en met ruim 50.000 doden tot nu zou dat duiden op een hoge graad van precisie. Afgezien van het kapotmaken van de hele infrastructuur inclusief zorg en zorgverleners, pers etc. En wat het uithongeren van de Palestijnse bevolking toevoegt aan de AI-geleide strijd is niet geheel helder, maar vanuit Israëlisch militair standpunt wellicht verklaarbaar.

+972 Magazine: “Eén bron verklaarde dat het menselijke personeel vaak slechts diende als "rubberstempel" voor de beslissingen van de machine en voegde eraan toe dat ze normaal gesproken slechts ongeveer 20 seconden aan elk doelwit besteedden voordat ze toestemming gaven voor een bombardement - alleen maar om er zeker van te zijn dat het doelwit met de Lavendel-markering mannelijk was. Dit ondanks het feit dat het systeem in ongeveer 10 procent van de gevallen misrekeningen maakt die als "fout" worden beschouwd, en het bekend is dat het af en toe personen markeert die slechts een losse connectie hebben met militante groeperingen, of helemaal geen connectie.”

Volgens New York Times zijn Israëlische werknemers (zo moet de formulering luiden) van Meta, Google en Microsoft al nauw betrokken bij de uitschakeling van Hamas. Ze zijn “van cruciaal belang bij het stimuleren van innovatie in drones en data-integratie. Reservisten brachten knowhow en toegang tot belangrijke technologieën die in het leger niet beschikbaar waren”.