In China is de ZAO-app, waarmee je in een handomdraai jezelf hoofdrolspeler maakt in een film, een hit. Met het gebruik van de niet van de echte te onderscheiden stem van een Britse ceo, konden criminelen onlangs 220.000 euro buitmaken.

Iedereen kan intussen met slimme technologie de bizarste wisseltrucs toepassen. Grappig, maar tegelijkertijd enorm riskant. Als er niet snel maatregelen komen, lijdt de samenleving massaal gezichtsverlies, in tal van opzichten. Het is de hoogste tijd dat burgers de controle terugkrijgen.

Trucage fluitje van een cent

Technieken als beeldherkenning en software die stemmen herkent, bestaan al langer, maar stelden tot voor kort niet veel voor. Nu kunstmatige intelligentie in een razend tempo beter en slimmer wordt, is ­trucage met andermans gezicht of stem een fluitje van een cent. En juist de combinatie van technische doorbraken en het grootschalige gebruik van beeld- en spraaktechnologie is zo giftig.

De software heeft namelijk nog verschillende kinderziektes. Zo werden 120 gezichten van wetgevers door het herkenningsalgoritme van Amazon beoordeeld, waarvan er 26 onterecht als crimineel werden bestempeld. De onderzoekers Joy Buolamwini van het Massachusetts Institute of Technology in de Verenigde Staten en Timnit Gebru - toen werkzaam bij Microsoft Research - toonden gebreken in de meest geavanceerde software voor gezichtsherkenningssoftware: in 35 procent van de gevallen identificeerde ze vrouwen met een donkere huid onnauwkeurig te identificeren, terwijl het foutenpercentage bij blanke mannen slechts 1 procent bedroeg. (Hun onderzoek bundelen ze op Gendershades.org

Recent kondigde Amazon aan dat herkenningstechnologie Rekognition drastisch verbeterd is. Naast de zeven emoties 'blij', 'verdrietig', 'boos', 'verrast', 'walging', 'kalm' en 'verward' is daar de nieuwe emotie 'angst' aan toegevoegd. Voor maximaal $0.001 per plaatje analyseert de software het gezicht voor klanten. Ook kan de software nu beter het geslacht en de leeftijd herkennen. Het lijkt een kwestie van tijd voordat zulke uitbreidingen worden toegepast op het uitgebreide netwerk van camera’s.

Politiekorpsen, vliegtuigmaatschappijen, smartphoneleveranciers, voetbalstadions en fastfoodrestaurants, tal van organisaties zijn bezig met de aanleg van een slimme infrastructuur waarmee burgers niet langer fysiek of digitaal anoniem door het leven kunnen. Al die gezichts- en beeldherkenningstechnologie wordt met of zonder toestemming gebruikt en vaak zonder dat de burger er ook maar enig benul van heeft.

De burger heeft ook nauwelijks invloed op al deze ontwikkelingen. Een vliegreis maken zonder dat je gezicht bij de douane wordt gefotografeerd, kan niet meer. Je gegevens op je eigen computer beschermen lukt bijna niemand. Laat staan dat je als burger-klant bij machte bent je gezicht of stem te beschermen tegen, bijvoorbeeld, de grote technologiebedrijven van deze wereld.

George Orwell en Albert Heijn

Albert Heijn presenteerde afgelopen week trots zijn nieuwe winkelconcept waarbij technologie het mogelijk maakt boodschappen af te rekenen zonder producten te scannen. Camera’s registreren hoe een klant zich door de winkel verplaatst en welke producten het mandje ingaan. Sensoren in de schappen voelen dat een klant iets pakt of terugzet. De camera’s bepalen de ­positie van klanten zonder gezichtsherkenning, zo verklaarde de grootgrutter. Maar welke wet of regel houdt Albert Heijn tegen om betaling met het gezicht mogelijk te maken? Ons gezicht is niet langer van onszelf. Met kijken in camera’s of praten tegen digitale assistenten ­geven we voortdurend een stukje van ons zelf weg.

Als gezichten en stemmen massaal worden ge- of misbruikt voor welk doel dan ook, dan ligt een identiteitscrisis op de loer. Het valt straks nauwelijks nog te bewijzen wie je bent als je gezicht en je stem niet langer van jou zijn. Met alle gevolgen van dien voor privacy.

Mensen die geen privacy kennen en weten dat ze overal worden herkend of gevolgd, zijn geneigd bepaalde gedragingen te onderdrukken of zichzelf te corrigeren tot, zoals dat heet, geoorloofd ­gedrag. Deze vorm van afschrikking heet juridisch het ‘chilling effect’: het is vrijheid onder voorbehoud.

Een samenleving waar iedereen voortdurend in de gaten wordt gehouden. Waar elke beweging en elke emotie door kunstmatige intelligentie wordt beoordeeld. Het is een toekomstscenario dat rechtstreeks uit George Orwell's 1984 afkomstig is:

‘Het was levensgevaarlijk om je gedachten te laten afdwalen wanneer je in een openbare gelegenheid was of binnen bereik van een telescherm. De kleinste kleinigheid kon je verraden. Een nerveuze tic, een onbewust angstige uitdrukking, een gewoonte om in jezelf te mompelen – alles wat maar leek te wijzen op abnormaliteit, dat je iets te verbergen had. In elk geval was het op zichzelf al strafbaar je gezicht een ongepaste uitdrukking te geven (bijvoorbeeld ongelovig te kijken wanneer er een overwinning werd bekendgemaakt). Daarvoor bestond in Nieuwspraak zelfs een woord: misblik heette dat.’

Straf op stelen stem

De Canadese psycholoog en cultuurcriticus Joran Peterson is voorvechter van het bestraffen van stelen van de menselijke stem. Ongeacht de intentie zegt hij daarbij. Of het nu grappig bedoeld is of niet. Het is de wrange conclusie die hij heeft getrokken uit het experiment dat anderen zonder zijn medeweten met zijn stem hielden.

Op de website notjardanpeterson (tijdelijk inactief) konden mensen allerlei vreselijke teksten intikken om die vervolgens door de professor zelf uit te laten spreken. Althans, door een levensechte kunstmatige AI-stem. Nadat Jordan Peterson zelf getroffen werd door nepverhalen uit zijn eigen mond, pleitte hij voor bescherming van iemands stem als integraal onderdeel van onze persoonlijke identiteit.

Het is een teken van deze tijd dat Facebook sinds deze week de mogelijkheid om het identificeren van gezichten op foto's heeft uitgezet. Dit is zelfregulering, maar grip krijgen op onze toekomst kunnen we niet aan de Big Tech overlaten. Zij verdienen immers miljarden aan onze data. De zwaarbevochten persoonlijke vrijheid moet het uitgangspunt zijn voor nieuwe maatregelen.

Zo moet wetgeving dieper ingrijpen op het vastleggen, opslaan, beveiligen en gebruiken van gezichts- en geluidstechnologie. Daarnaast moet het publieke debat aangewakkerd worden, zodat we als samenleving proactief en expliciet verwoorden in wat voor een surveillancemaatschappij we willen leven.

De ruimte voor fouten is klein. Onze gezichten kunnen we niet resetten, zoals we dat met onze wachtwoorden wel kunnen doen.