U mag kiezen uit deze twee korte recensies over The Tech Coup:
P.r.-succes
Voor beide is wat te zeggen, maar de tweede observatie bracht me snel tot vluchtig lezen om naar het slothoofdstuk te gaan voor de remedies die Marietje Schaake voorstelt om big tech een kopje kleiner te maken. Toen werd het wel inspirerend.
Schaake mag zich verheugen in grote, vooral instemmende aandacht van de media, zoals in NRC, Trouw, Volkskrant en een interview (geen onderzoek) in Follow the Money. De p.r. campagne van Atlas Contact is een groot succes. Op het omslag: “Dit boek moet je gelezen hebben”, getekend Joris Luyendijk, auteur bij deze uitgever.
Je krijgt dan zinnen als in NRC: “Wat het boek zo interessant maakt is dat Schaake vertrouwd is met zowel de wereld van politiek en beleid, als die van Silicon Valley.” Logica? Of de Volkskrant die een “onthutsend beeld van de macht van techbedrijven” heeft ontdekt. Terwijl de recensent daar zelf al vele jaren over schrijft.
Democracy.com
Al in 2021 viel de aandacht op voor het, toen nog, te schrijven boek. Ik publiceerde over de rechten en campagne. Dat boek zou Democracy.com gaan heten. Belofte: “Met Democracy.com zal ze de bijbehorende problematiek groots op de agenda zetten en met oplossingen komen want de tijd dringt.” Het werd nog een jaartje later, de tijd drong wat minder dan verwacht en die agenda was er natuurlijk al lang. En groots?
Inmiddels hebben we in Europa een Digital Services Act en Digital Markets Act om big tech te beteugelen en staat in de VS Google voor de rechter met een dreigende splitsing. De DSA en DMA worden zoetjesaan voorzichtig benut, onder meer tegen X en tegen pornosites.
Onbenul van politici
Terug naar Marietje Schaake. Ze verhaalt hoezeer techconcerns politici in Brussel en Washington om de tuin te leiden, maar beschrijft dit als schuld van de bedrijven en niet als onbenul van politici. Journalisten gaan hierin makkelijk mee en in hun recensies met een term als “pijnlijke anekdotes”.
Schaake toont, als zoveelste in een lange rij auteurs, aan dat samenlevingen volkomen afhankelijk zijn geworden van big tech, zoals voor beveiliging en dagelijks functioneren van de hele economie. Dat begon echter niet deze eeuw, maar vanaf de IT-opmars na de oorlog. Hoe afhankelijk waren we niet van IBM? Of van de monopolist PTT met de exorbitante tarieven voor internationaal bellen?
Het is natuurlijk veel erger geworden, maar dat lieten wij gebeuren. We staan er pas bij stil als een bedrijfssysteem wordt gegijzeld of als je laptop wordt gestolen. Schaake schrijft voor overheden en politiek, niet over maatregelen aan de vraag- of gebruikerskant, of domweg zelfbeheersing. (Als ik met een groep ga sporten of zingen ben ik de enige zonder telefoon.) Scholen hadden tien jaar nodig om mobieltjes te weren, domweg omdat docenten en vooral ouders even verslaafd zijn. Hoe zou dat op Stanford zijn?
AI verbieden
Schaake bepleit het voorzorgingsbeginsel, zoals toegepast met genetisch aan te passen voedsel: pas in praktijk brengen als je de risico’s goed in kaart hebt. Ze verwijst naar Art. 191 van het EU-verdrag. Ik ben dan zo’n gekkie die dat artikel er even bij pakt. Het behelst milieu- en klimaatbeleid. Als bij uitstek één artikel continue met voeten wordt getreden, is dit het wel.
Kortom, dit neigt naar kletspraat. Bovendien: wat is AI dan precies? Waar houden ‘gewone’ beslisregels op van software die risico of te grote invloed mee brengen, en begint AI? Bijvoorbeeld met Google Search waar we ons de afgelopen twintig jaar volkomen afhankelijk van maakten voor kennisverbreiding en voor van alles en nog wat.
Welke AI onder dat voorbehoud zou moeten vallen, moet een “onafhankelijke raad van deskundigen” volgens Schaake beoordelen. Ze oppert alvast de mogelijkheid dat bij elke uitkomst (tekst, beeld, uitslag) van toepassing van AI een vermelding zou moeten staan. Deepfakes kun je een verplicht watermerk laten voeren.
Cryptovaluta en gezichtsherkenning
Schaake biedt een mooi voorschot met vier technologieën die wat haar betreft zo’n verbod verdiend zouden hebben: spyware, datahandelaars, systemen voor gezichtsherkenning en cryptovaluta. Dit zijn uitdagende voorstellen voor een ander principe dan domweg toestaan ervan, en vervolgens proberen te reguleren. Al lang geleden schreef ik eens dat het gebruik (niet-essentiële) cookies verboden moet worden, net als profilering. Scheelt een hoop regelgeving en toezicht. Echter, praktisch al lang onhaalbaar.
Immers, in de AVG staat al dat bedrijven zich bij gebruik van algoritmes, dus niet menselijke besluitvorming, aan voorwaarden moeten houden. Dat is vaag en wordt niet gehandhaafd. Hetzelfde euvel zal de uitvoering van AI Act treffen. Schaake vindt die volstrekt tekortschieten, als zo veel experts. Anderen stellen: beter iets dan niets en net als de AVG zullen formuleringen en handhaving vanzelf strenger worden.
Technische EU-expertcommissie
Nog een paar voorstellen van Marietje:
Innovatie ondergeschikt maken
Ik bleef hangen bij de terloopse bewering: “Innovatie mag niet belangrijker worden geacht dan democratische beginselen.” Een prachtige filosofische zin (p. 265), heerlijk bondig en helder en tot nadenken stemmend. (In tegenstelling tot de nodige andere zinnen en beweringen.)
Partijgenoot Kees Verhoeven schreef daarover een alleraardigst boekje, waarin bijvoorbeeld hij simpelweg het twitteren door politici aan de kaak stelt, ten koste van diepgaand debat. Helaas was hij, net als Schaake, na tien jaar als parlementariër, al vertrokken. Het zou boeiend zijn om deze mooie zin als uitgangspunt te nemen voor een debat.
*) Marietje Schaake, The Tech Coup: Hoe tech is gaan regeren en we de macht weer terugwinnen, Vert. Reinier van Kampen. Atlas Contact, 2024.