Samen met collega’s Yvette Wagensveld en Bert-Jaap Koops van de Tilburg University schreef ik in 2021 op verzoek van het Wetenschappelijk Onderzoeks- en Documentatiecentrum (WODC) een rapport over  regulering van deepfakes. Bij deepfakes gaat het om materiaal (beeld, audio, tekst) dat geheel of gedeeltelijk door kunstmatige intelligentie is gegenereerd. Zo kun je Trump woorden in de mond leggen, je moeder een gek dansje laten doen of een niet bestaand persoon een virtuele rondleiding laten geven in een museum.

Het onderzoek werd aangevraagd omdat er in de Tweede Kamer grote zorgen waren over de snelle verspreiding van deepfake-technologie en de maatschappelijke gevolgen daarvan.

Terecht. Uit ons onderzoek kwam een alarmerend beeld naar voren. Deepfakes dragen bij aan een post-truth samenleving waarin de scheidslijn tussen feit en fictie vervaagt; experts voorspellen dat over vijf jaar meer dan 90 procent van het digitale materiaal geheel of gedeeltelijk gemanipuleerd zal zijn.

Criminele toepassing

Vaak gaat dat om kleine manipulaties (hoge tonen filteren en je huid egaliseren bij videobellen), soms om grote manipulaties zoals bij deepfakes. Bovendien is de term deepfake ontstaan bij pornotoepassingen en deepfake-porno van vrouwen zonder hun toestemming online verspreid.

Andere zorgelijke toepassingen vormen identiteitsdiefstal (grote bedragen overgemaakt door een medewerker die dacht dat zijn CEO hem daarom verzocht), het verspreiden van fakenews (Zelensky die zijn troepen oproept de strijd te staken) en het beïnvloeden van democratische verkiezingen zoals van Rusland in de VS. 

Te gevaarlijk

Gezien de verstrekkende gevolgen voor de democratische rechtsstaat, betrouwbare nieuwsvoorziening en de maatschappelijke positie van vrouwen gaven wij het kabinet een aantal concrete opties mee om de snelle ontwikkeling van deze technologie in goede banen te leiden. 

In de Kamer en de daaropvolgende discussie in de media is met name aandacht geweest voor de meest verstrekkende van de mogelijkheden: het verbieden van deepfake-technologie voor de consumentenmarkt. Dat houdt in dat je de techniek wel toegankelijk maakt voor professionele partijen, maar niet voor burgers.

Behalve steunbetuigingen van experts en slachtoffers zijn er ook kritische kanttekeningen, onder meer van Laurens Verhagen en Otto Volgenant. Zij stellen dat een verbod niet nodig, niet effectief en onwenselijk is. Die tegenargumenten overtuigen mij echter niet:

1. Technologie is neutraal:

Vaak wordt gezegd: technologie is niet goed of fout, het gaat erom wat je ermee doet. Ergo, de slechte toepassingen van de techniek moeten worden verboden, niet de techniek als zodanig. “Guns don’t kill people, people kill people”.

Techniek is echter nooit neutraal, techniek is ontworpen voor bepaalde toepassingen en dus geschikt voor bepaalde doeleinden, al zijn er altijd onbedoelde toepassingen mogelijk. Vuurwapens zijn ontworpen en met name geschikt om schade aan te richten; dat is de reden dat het bezit daarvan sterk aan banden is gelegd.

Deze technologie wordt vrijwel uitsluitend (96% procent!) ingezet om tegen de zin van vrouwen deepfake-porno te maken. Neutraal is deepfake-technologie dus zeker niet en alhoewel deepfake-porno minder schade aanricht dan een vuurwapen, is bekend dat verspreiding van pornografisch materiaal mensen jarenlang kan traumatiseren en zelfs tot zelfmoord kan drijven.

2. Het kind, het badwater:

Een verbod op deepfake-technologie voor de consumentenmarkt maakt veel positieve toepassingen onmogelijk, zo wordt wel geopperd. Dat is volgens ons echter maar gedeeltelijk waar. Tot nu toe geschieden positieve toepassingen vrijwel altijd door professionele partijen. De politie die een deepfake-profiel inzet om een crimineel netwerk te infiltreren; de filmindustrie die gevaarlijke stunts in een deepfake vervat; de retailindustrie die met deepfake toont hoe de nieuwe winterjas je zou staan.

Er is maar één veelvoorkomende positieve toepassing van deepfake-technologie door burgers: satire. Niet onbelangrijk, maar satire wordt niet onmogelijk door het ontoegankelijk maken van deze ene technologie. Dat terwijl deepfake-porno vrijwel altijd door burgers wordt gegenereerd.

3. Niet te handhaven:

Een verbod op het internet werkt niet, is de gedachte, omdat het te omzeilen is. Dat is natuurlijk zo, maar geen enkel verbod is 100 procent af te dwingen. Het vuurwerkverbod wordt omzeild door mensen die hun aanschaf in het buitenland doen; vuurwapens kunnen worden verkregen op de zwarte markt.

Maar een verbod helpt wel; het de-normaliseert het bezit en maakt de handhaving veel eenvoudiger, omdat de politie zich slechts hoeft te richten op een handvol kwaadwillenden. Dat geldt ook voor het internet. Kinderporno kan worden verkregen, maar is verbannen van het grootste deel van het internet; illegale downloads van films zijn grotendeels uitgebannen. Een verbod op deepfake-technologie voor de consumentenmarkt is dus geen panacee, maar kan wel degelijk helpen.

4. Niet nodig:

Een verbod is niet nodig, zo is een laatste gedachte, omdat het zonder toestemming verspreiden van deepfake-porno al verboden is in het strafrecht. Dat is zo, maar die verboden worden nu al nauwelijks gehandhaafd. Als iedere burger toegang heeft tot deepfake-technologie en in een handomdraai een realistische deepfake kan maken en verspreiden, zal de grote hoeveelheid deepfakes handhaving vrijwel onmogelijk maken.

Al wordt de capaciteit van de Autoriteit Persoonsgegevens en de politie vertienvoudigd, het zal nooit genoeg zijn om van alle video’s na te gaan of die fake zijn, of er toestemming is verkregen van de betrokkene, wie het filmpje heeft gemaakt en in welk land dit zich bevindt. 

Bovendien geschiedt handhaving pas nadat de schade is ontstaan, nadat ze duizenden en soms zelfs miljoen keer is bekeken.

Welmoed

Ongetwijfeld druk met alle crises heeft het kabinet een jaar na het opleveren van het rapport nog geen actie ondernomen. De serie Welmoed en de sexfakes heeft behalve het publiek ook het ministerie van Justitie en Veiligheid wakker geschud. De ministers Yesilgöz en Weerwind beloven op vragen over deepfake pornografie van Kamerlid Van der Werf (D66) voor het kersreces met een reactie komen.
 

*) Bart van der Sloot is hoofddocent bij Tilburg Institute for Law, Technology, and Society, Universiteit Tilburg

**) Foto: Peter Olsthoorn