Hoe onze publieke functies in private sferen belanden

Daar is een app voor!

Politieke - en systeemoplossingen zijn controversieel en duur en traag om uit te voeren. Problemen van de samenleving oplossen met private digitale technologie lijkt efficiënt en effectief. De aantrekkingskracht van het plaatsen van wetenschap en technologie op de bestuurdersstoel is evident.

In dit opzicht is de coronacrisis geen uitzonderlijke situatie. Spoedig werd gezocht naar een technologische oplossing; en gevonden in de recente massale adoptie van smartphones, die gepaard gaat met een overvloed aan apps om al onze problemen, ongemakken en meer op te lossen; de echo van Apple's commerciële ‘There's an app for that’. De Nederlandse overheid organiseerde een 'Appathon'. Wat de app precies zou moeten doen was onduidelijk, maar dat de verspreiding van het coronavirus effectief met een app bestreden kon worden, leek vanzelfsprekend.

Uiteindelijk viel de keuze op het traceren van contacten via Bluetooth: wanneer personen de app gebruiken, wisselen ze automatisch pseudo-willekeurige berichten (hashes) uit als binnen het bereik van elkaars Bluetooth-signaal zijn. Bij elke gebruiker houdt de app ontvangen berichten vast. Wanneer iemand vervolgens geïnfecteerd raakt met het coronavirus, krijgen andere deelnemers een signaal als ze langere tijd in de buurt van de geïnfecteerde patiënt waren.

Private macht in publieke domein

De invoering ging gepaard met heftige debatten over de effecten van de app en de privacy, en vooral het evenwicht tussen beide: in hoeverre zijn lusten en lasten in evenwicht? In Nederland leidde ingrijpen door de Autoriteit Persoonsgegevens mede tot wetgeving. Europese ambtenaren vroegen Apple en Google om beperkingen op te heffen, wat ze aanvankelijk weigerden op grond van de privacybescherming van hun klanten. Niet veel later verklaarde een Franse hoge regeringsfunctionaris dat ‘Europese staten volledig gegijzeld worden door Google en Apple’. Het is tenminste ironisch dat Europese staten van Big Tech eisen dat ze hun privacybescherming verminderen.

Het tekent hun enorme macht. Apple en Google bevinden zich in de unieke positie om de mogelijkheden om de tracering van contacten met onze smartphones te programmeren. Het bouwen van deze mondiale infrastructuur is geen puur technische aangelegenheid, maar vereist ook ‘organisatorische, economische, politieke en juridische innovatie en inspanningen om de heterogene problemen op te lossen, die onvermijdelijk ontstaan’, zoals Paul Edwards opmerkt in zijn in 2010 verschenen boek Thinking Globally. Terwijl veel individuen, instellingen, bedrijven en overheden afhankelijk zijn van deze infrastructuur, hebben Apple en Google onevenredig veel macht over wie er toegang krijgt of wie er wijzigingen in mag aanbrengen.

Ze hebben hun macht echter vrijwillig beperkt in de samenwerking onder de naam Privacy-Preserving Contact Tracing, later bekend als Exposure Notification. Centraal staat een Application Programming Interface (API) die het mogelijk maakt dat apps soepeler samenwerken met het Bluetooth-protocol. Via deze API hebben de ontwikkelaars toegang tot alle gegevens die nodig zijn om apps voor het traceren van contacten te maken. Dus Apple en Google leveren de bouwstenen, en niet de app te zelf.

Technisch-politieke grenzen vervagen

Dat lijkt nobel, maar is ook strategische beslissing, want beperkt de politieke-maatschappelijke kritiek op, en aansprakelijkheid van Apple en Google. Niettemin moet de samenleving zich wel degelijk zorgen maken.

Onze gangbare opvatting is dat technologie zich onafhankelijk van sociale en politieke krachten ontwikkelt, dat die zelfs neutraal en waardevrij is. Dit leidt tot gebrek aan controle, want de bedrijven volgen een onafhankelijk en technocratisch pad van innovatie, niet gehinderd door maatschappelijke discussies. Technologisch determinisme staat echter op gespannen voet met democratische besluitvorming, zo leert ons de totstandkoming van corona-apps. Waar ligt precies de grens tussen het technische en het politieke en hoe komt die tot stand? Kunnen we zeggen dat apps altijd politiek zijn, terwijl API's dat niet zijn? Hebben technologieën bepaalde intrinsieke kwaliteiten die bepalen in hoeverre ze politiek zijn?

Thomas Gieryn schreef in 1995 al in Boundaries of Science over de strategische afbakening tussen het technische en het politieke. Het doel hiervan is het voorkomen van controle over bepaalde technisch-wetenschappelijke activiteiten door externe machten. Toen de politieke druk op Apple en Google toenam om samen te werken bij de ontwikkeling van contacttracing-apps, hadden landen hen kunnen dwingen om hun besturingssystemen aan te passen aan deze apps. Ze zouden in een kritieke situatie gebracht kunnen worden, wat de Franse minister voor digitale technologie uiteindelijk ook uitte met kritiek op gebrekkige medewerking door Apple.

In veel landen in de wereld trad dit spanningsveld op, en de keuze voor een API hebben Apple en Google de politieke druk weten af te wenden. Ze hebben de autonome controle over hun besturingssystemen beschermd door de politieke krachten net genoeg te helpen om meer bedreigende ingrepen te voorkomen. De ontwikkeling van de API, maar niet van de app, is een slimme manoeuvre     . Ze houden zich net genoeg bezig met politiek om een bijdrage te kunnen leveren aan de oplossing van dit maatschappelijke probleem, en worden gezien als weldoeners, terwijl ze toch volledige autonomie over hun infrastructuur behouden.    

Betwiste soevereiniteit

Toch hebben Apple en Google grip op de ontwikkeling van de apps. Ze geven de voorkeur aan een decentrale aanpak: toegang tot de gegevens van de Bluetooth-sensor via de nieuwe API en het opslaan ervan op een gecentraliseerde server is niet toegestaan. Apps die dit zouden doen zouden gewoonweg geen toegang krijgen tot de nieuwe API.

Een tweede beperking kwam pas na verloop van tijd aan het licht. Wekenlang bleven de bedrijven van Silicon Valley onzeker of ze contacttracing-apps zouden toestaan om de Bluetooth-gegevens te combineren met GPS-gegevens. Pas op 4 mei 2020 kondigden ze uiteindelijk aan dat dit niet mogelijk zou zijn, in weerwil van eisen van Amerikaanse staten als Noord- en Zuid-Dakota en Utah om toegang te krijgen tot locatiegegevens. Tegelijkertijd voerden ze een derde beperking in: slechts één app per land of regio zou worden toegestaan. Wat een regio precies definieert, werd niet gespecificeerd.

Duitsland en Frankrijk wilden eigenlijk een app die niet gebaseerd is op het nieuwe protocol, maar een gecentraliseerde aanpak die hen veel meer controle en inzicht zou geven in de verzamelde gegevens. Uiteindelijk gaf Duitsland toe aan de wens voor een decentrale aanpak. Colombia deed een serieuze poging om contact tracing te leveren zonder Apple en Google's API, maar faalde en liet de contact tracing functie van hun CoronApp na een maand vallen.

Voorbij de privacy

Veel publieke aandacht richt zich op de privacy-implicaties van corona-apps, met name ‘function creep’: overheden en bedrijven zouden voorbij de contacttracering al snel andere, ongewenste toepassingen vinden voor deze dataverwerking zoals misdaadbestrijding. Apple en Google beloven dit te dwarsbomen, maar de cruciale elementen van de sociotechnische infrastructuur zijn al voorhanden voor aanpak van een volgend groot geachte maatschappelijke crisis..

Democratieën gaan daar niet een-twee-drie toe over, maar er is een risico dat verder reikt dan privacyzorgen. Apple en Google leveren nu cruciale elementen van onze publieke gezondheidszorg met controle over de infrastructuur. Door het bieden van een API maar niet van de app wordt hun politieke invloed vermomd als de pure technologische mogelijkheid, maar ze controleren de toegang tot de infrastructuur. Die heeft een veel langere levensduur en krachtiger invloed op de lange termijn dan louter de bijdrage aan bestrijding van een virus.

Tamara Sharon heeft terecht opgemerkt dat onze toegenomen afhankelijkheid van Big Tech voor het leveren van voorheen openbare diensten, uiteindelijk zal leiden tot een herformulering van deze diensten om ze beter af te stemmen op de waarden en belangen van Silicon Valley. Dit kan natuurlijk op gespannen voet staan met de waarden en belangen van de Europese burgers.

In een crisis is het verleidelijk om te kiezen voor snelle technologische oplossingen. Nog afgezien van de vraag of ze adequaat werken, brengen ze een sociotechnische infrastructuur mee  die op lange termijn effecten zullen hebben op het machtsevenwicht tussen techreuzen en natiestaten en mondiale politieke verhoudingen.

Natuurlijk, dit proces is al lang aan de gang, ook vrijwillig. We verplaatsen ons sociale leven massaal naar Silicon Valley, net als de vervulling van onze honderd naar kennis via een aldaar geprogrammeerde poort verloopt. Je hoeft geen wijze uit het Oosten te zijn om vast te stellen dat ons hele onderwijssysteem onder druk staat van beeldschermtirannie en -verslaving.

Om onze fysieke bestemmingen te vinden zijn we afhankelijk van Google Maps dat openbare bewegwijzering tot een overbodig dure investering maakt. Ook buiten het digitale domein stuiten we op voorbeelden van private ondernemingen die publieke ruimtes bepalen en politiek om een boodschap sturen, zoals bijvoorbeeld luchthavens.

Niettemin resteert de vraag: wat resteert er nog van de soevereiniteit van natiestaten, samenlevingen en ook individuen wanneer we ons keuzes, gedragingen en politieke verantwoordelijkheden meer en meer afhankelijk maken van mondiale technologie gebaseerd op wat heet ‘kunstmatige intelligentie’?

Het voordeel van de wens voor een corona-app heeft in elk geval een zinnig debat opgeleverd, om het maar positief te houden.

*) Thomas Kuipers volgt het masterprogramma van Science-Technology-Society en werkt als software-ingenieur aan verschillende projecten, met name in de ruimte voor cyberveiligheid. Hij onderzoekt onder meer de relatie tussen politiek en software. Dit artikel is een bewerking van een uitgebreid Engelstalig artikel van Thomas.

**) Beeld: Triomf van de Dood, schilderij van Pieter Brueghel de Oudere (1562)

Graag kort en bondig. Kwetsende, discriminerende en/of commerciële uitlatingen worden verwijderd.
 

Registreren en de nieuwsbrief ontvangen?

We gaan zorgvuldig met je gegevens om. Je krijgt ook gelijk toegang tot alle plusartikelen en je kunt reageren op de artikelen.

Controleer nu je e-mail

Je ontvangt een bericht met instructies om je e-mailadres te bevestigen. Zonder deze bevestiging sturen we je geen nieuwsbrief, doe het dus gelijk even!

asdas sdf fs dfsdfsf sdffsd

Netkwesties © 1999/2020. Alle rechten voorbehouden. Privacyverklaring

Ehio Media content marketing
1
0
1