Privacyregels en - toezicht bieden onvoldoende houvast

2019: de strijd om big data en algoritmes

‘You talk about the moon, but think about the stars.’ Het speelt niet alleen in de liefde, maar op velerlei gebieden. Zoals met data: we praten over privacy, maar de werkelijke strijd behelst macht, veiligheid en vrijheid.

Dit weekend publiceert Visual Capitalist.com The 20 Internet Giants That Rule the Web, dat wil zeggen op het eiland Verenigde Staten. Vermakelijk om te zien hoe America Online en eBay kelderen en Facebook en Amazon klimmen terwijl Microsoft zich goed handhaaft. En zelfs Yahoo, nu bij Oath.com van Verizon nog bovenin meedoet, dankzij ondermeer veel data van telefoonabonnees.

In Nederland zijn ook providers machtig met data, zoals KPN en Ziggo. Ze weten waar we wanneer wat consumeren. In concurrentie bundelen Persgroep en RTL de krachten. John de Mol koopt ANP en StukTV en nam eerder een aanloop in datamacht met Emesa. En we beseffen dat Ahold met Bol.com, de Bonuskaart en bezorgdiensten, exact leert hoe wij individueel, geografisch en in wijken leven.

En over de maan en de sterren gesproken: dankzij een onverwacht referendum ging alle aandacht uit naar de inlichtingendiensten als voornaamste datagraaiers van de overheid, maar de datadans wordt geleid door de Belastingdienst. Die mag veel meer met data, zoals dit jaar weer camera’s inzetten om gangen van burgers te volgen.

Meer weten

Wat betekent dit alles? Velen weten het niet. Voor de antwoorden zette Jim Stolze naar Fins model de Nationale AI-cursus op, met een positieve invalshoek: ‘AI kan er dus voor zorgen dat verkeer veiliger wordt, de kwaliteit van zorg verbetert en wachtrijen voor de kassa’s verdwijnen.’ En de Belgen bereikten de halve finale van het wereldkampioenschap voetbal dankzij datagebruik om hun prestaties te verbeteren, samen met SciSports. In een uurtje of zes weet je dankzij Jim en z’n vele helpers alles van de mogelijkheden.

Zo horen we in een filmpje over Bol.com dat de afdeling ‘Data Science’ recent groeide van vier naar veertig mensen! En die stoeien louter met data om klanten een groot plezier te doen. Jim: ‘Komt een moment dat jullie te veel weten?’ Daarop komt een rechtstreeks van Mark Zuckerberg geleend antwoord: ‘We vinden de privacy van klanten heel belangrijk.’

Besluiten kunnen uitleggen

Deze lieve cursus leert ook dat Bol.com zelfs een ‘right to be forgotten’ hanteert. Dat is juist: de klant kan z’n account met verzamelde data laten verwijderen en data. En je kunt dataverzameling van wat je bekijkt en bestelt ook uitzetten. ‘Het kan tot 30 dagen duren voordat eerder opgeslagen gegevens zijn verwijderd.’ Allemaal keurig volgens de nieuwe privacyregels.

Dat ben je verlost van aanbevelingen. Maar voor Bol.com ook: één persoon minder die bijdraagt aan de big data, machineleren en perfectionering van algoritmes. Want je draagt ook bij aan de profilering van, en aanbeveling voor anderen. Bij boeken lijkt dat nog redelijk onschuldig. (Ofschoon de ervaring leert dat je met promotie van een bijvoorbeeld een kritisch boek over Facebook via de (algoritmes van) datzelfde Facebook niet ver komt.)

Machines nemen besluiten op grond van databergen, en de invloed daarvan reikt veel verder dan al dan niet privacyschending. Sandra Wachter van het Oxford Internet Institute betoogt met andere auteurs in een uitstekend artikel – zowel juridisch als kennistheoretisch - in het Harvard Journal of Law & Technology dat je burgers (data-subjecten) op z’n minst moeten kunnen uitleggen hoe besluiten tot stand zijn gekomen; zeker als ze negatief zijn.

Dat je bijvoorbeeld niet in aanmerking komt voor een lening; of (straks) geen aanspraak kunt maken op verzekering bij een bepaalde medische behandeling met geringe kans op succes. Of, actueel, waarom juist jij een controle op de belastingaangifte krijgt.

Zo’n recht op verklaring vereist niet direct dat algoritmes openbaar zijn. Immers, met die algoritmes weet je als burger niet zo veel. (Ofschoon dit niet betekent dat we niet moeten streven naar transparantie daarvan ten behoeve van maatschappelijke controle.) Maar je moet weten hoe een besluit is genomen en is terug te draaien. Inmiddels is dat door Harvard ook in technische zin opgepakt, met een paper. In Canada wordt nagedacht over wetgeving.

U bent een risicoburger

Niet enkel schieten de privacyregels van de AVG hier te kort voor individuen. Dat geldt ook voor groepen en samenlevingen. De reikwijdte van het toepassen van big en little (individuele) data, machineleren en algoritmes bepaalt meer en meer het maatschappelijk handelen. Dat kan ver gaan, zoals met het sociaal kredietsysteem in China. Inmiddels staan daar miljoenen mensen op een zwarte lijst, een soort uitgebreid strafblad. (We bedachten er de term ‘risicoburger’ voor.)

Mondiaal tendeert de voorkeur van volkeren naar veiligheid boven vrijheid. De digitale middelen zijn voorhanden om in die wens te voorzien. Los van de fantastische vergezichten van de mogelijkheden met big data-toepassing, vooral op bijvoorbeeld medisch vlak. En ook commercieel kan het collectief overheersen: zelfs als Facebook weinig van uzelf weet kan het op grond van datapatronen van honderden miljoenen anderen uw verlangens en gedrag voorspellen en sturen. En van eventueel nageslacht.

Die kwesties over macht over data en de bewerking ervan gaan wat verder dan de vraag of John de Mol ‘weet’ tijdens welke minuut van zijn talentenshow u gaat plassen of aan welke van zijn productveilingen u verslavend veel deelneemt.

Hoewel ook dit datamacht met mogelijk verregaande maatschappelijke invloed kan worden. John de Mol kon al bepalen wanneer u gezellig en sociaal met de hele familie voor de televisie gaat zitten. Maar straks ook dat u om 23.00 uur tegen uw partner zegt dat hij alvast kan gaan slapen. Want de veiling voor die saunabon die u op grond van gedragsdata kreeg voorgeschoteld, loopt nog 20 minuten door.

In 2019 kunnen we allerwegen strijd om dataverwerking tegemoet zien. Bijvoorbeeld de rechtszaak om SyRI (Systeem Risico Indicatie) van de overheid om frauderisico’s preventief toe te passen. Recent verzekerde de regering dat dit geen profielen van individuen genereert, maar degenen die het proces aanspannen (onder wie  intellectuele BN’ers Tommy Wieringa, Maxim Februari en Vincent Icke) zijn daarvan niet overtuigd.

En SyRI staat nog onder controle van de democratische rechtsstaat, wat met veel meer systemen al lang niet meer het geval is. Maar de strijd daarover gaat, los van de vraag hoe voordeling big data analyses voor de samenleving kunnen uitpakken, in 2019 veel vaker een gezicht krijgen.

Graag kort en bondig. Kwetsende, discriminerende en/of commerciële uitlatingen worden verwijderd.
 

Registreren en de nieuwsbrief ontvangen?

We gaan zorgvuldig met je gegevens om. Je krijgt ook gelijk toegang tot alle plusartikelen en je kunt reageren op de artikelen.

Controleer nu je e-mail

Je ontvangt een bericht met instructies om je e-mailadres te bevestigen. Zonder deze bevestiging sturen we je geen nieuwsbrief, doe het dus gelijk even!

asdas sdf fs dfsdfsf sdffsd

Netkwesties © 1999/2018. Alle rechten voorbehouden. Privacyverklaring

Ehio Media content marketing
1
0
1