Afgelopen maand gingen de techbedrijven tot actie over om tot geweld leidende uitingen, met name die van president Donald Trump, te blokkeren. Het hardst werd een medium getroffen, discussiesite Parler en haar 11 (of 15?) miljoen deelnemers, voornamelijk Trump-aanhangers.

Op zaterdag 9 januari 2021 verwijderden Apple en Google de app van Parler uit hun winkels vanwege de daar veelvuldig verspreide oproepen tot geweld tegen personen en instituties. Het verst ging Amazon van Jeff Bezos (ook eigenaar van Washington Post) die op maandag 11 januari 2021 de hosting van Parler op zijn servers beëindigde. Een aanval op de vrijheid van meningsuiting, vindt Parler-medeoprichter John Matze. Parler begon direct een rechtszaak (aanklacht) tegen Amazon Web Services, het onderdeel dat wordt geleid door Nederlander Werner Vogels. AWS stelde dat Parler de voorwaarden van Amazon overtrad, met de verspreiding van oproepen tot geweld.

Matze stelde dat Parler het aanzetten tot geweld of het overtreden van de wet niet tolereert. Amazon bracht een lading bewijs van het tegendeel, waarop Matze stelde dat zijn legertje vrijwillige moderatoren het niet meer aankon.

Amazon vroeg eerder of Parler kunstmatige intelligentie wilde inzetten om sneller en adequater te modereren. Parler heeft eerder wel uitingen geweerd, zoals van de Braziliaanse president Bolsanaro, en ook een waarschuwing gegeven bij een doorgeplaatste Twitter-citaat van Trump. Maar met de snelle groei, vooral na de Amerikaanse verkiezingen was er voor Parler, met enkele tientallen werknemers, geen houden meer aan met wetsovertredingen in uitingen. Als het dat al wilde.

Nederlandse Amerikaan

Parler verloor. In het vonnis van 21 januari 2021, met een afweging van publiek belang versus het particuliere belang van Parler, noemt rechter Barbara Jacobs Rothstein niet enkel de kwalijke oproepen maar ook de gevolgen daarvan met de bestorming van het Capitool op 6 januari 2021: ‘Deze gebeurtenis herinnert ons er op een tragische manier aan dat opruiende berichten - sneller en gemakkelijker dan velen van ons hadden gehoopt - een wettelijk toegestaan protest kunnen veranderen in een gewelddadige opstand.’

Parler wordt momenteel gehost door DDoS-Guard, dat in Russische handen is (met een Nederlands nummer voor contact, +31 208 087 317, dat is ‘niet in gebruik’ blijkt te zijn). Parler is opgericht in 2018 met geld van de conservatieve investeerder Rebekah Mercer. Directeur Matze is inmiddels weg bij Parler, naar eigen zeggen omdat hij het netwerk wilde kuisen van geweld en Qanonzin terwijl Mercer dat niet zou willen. Hoe dan ook was er bonje, in Nederland niet onbekend van recalcitrante bewegingen.

In een serie berichten op de website belijdt Parler de vrijheid van meningsuiting, in rijp en groen, variërend van een lang citaat van Martin Luther King (van Amy Peikoff) tot een waarschuwing dat degenen die Trump veroordelen door de geschiedenis rechtgezet zullen worden (Mark Levin). Maar de app is niet te downloaden van de site. (Het gekke geval wil dat de reeds lang bestaande Parlor, een wat armoedige chat-app, profiteert van de teloorgang van Parler.)

Parler bracht het domein Parler.com onder bij Epik van Rob Monster, een Nederlandse Amerikaan die pal staat voor de vrijheid van meningsuiting. Hij ligt onder vuur ligt in de pers vanwege eerdere hulp aan sites als 8chan en Gab. Een interview met hem volgt. Epik weerde zich tegen kritiek met stukken over de vrijheid van meningsuiting, ondertekend door strategiechef Robert Davis: Parler Statement van 11 januari; 2020; Parler Update van 14 januari; Parler Hosting van 21 januari. Met onder meer cynische uitingen over Amerikaanse journalistiek. Daartegenover stond een artikel van Wired dat Parler een ‘neo-Nazi online haven’ noemt. Zo polariseren de VS.

Censuur of wetshandhaving

Apple, Google en Amazon draaiden samen Parler de nek om, nadat Twitter, Facebook en YouTube president Trump blokkeerden na de bestorming van het Capitool op 6 januari 2021. Ze haalden daarmee een wit voetje bij de nieuwe Democratische machthebbers met wie ze van doen zullen krijgen, na jaren van passiviteit. De techbedrijven hebben zich de afgelopen jaren steeds beroepen op de Sectie 230 van de Communications Decency Act (CDA) van 1996, die platforms vrijwaart van verantwoordelijkheden van een uitgever of andere media-exploitant. En in Europa op de e-commerce richtlijn die platforms en hostingbedrijven vrijwaart van de aansprakelijkheid voor de inhoud van daar gepubliceerde uitingen, behoudens de wettelijke plicht om bij meldingen van wetsovertreding – met bewijzen - op te treden.

Is dit goed? De Duitse bondskanselier Angela Merkel vond de blokkering van Trump door de platforms een ‘problematische inbreuk op het fundamentele recht op vrije meningsuiting’. Zij vindt dat dit soort beslissingen bij de rechter thuishoort. Aleksei Navalny sprak op Twitter van een ‘onacceptabele daad van censuur…Dit schept een precedent dat uitgebuit zal worden door vijanden van vrije meningsuiting wereldwijd. Ook in Rusland.’

De Groene: ‘Maar zij die nu juichen voor een bedrijf dat ‘zijn verantwoordelijkheid’ heeft genomen, juichen onbedoeld ook om de greep die het surveillancekapitalisme heeft op ons publieke debat online.’

Dit komt overeen met de opvatting van Marietje Schaake (en ook ondergetekende). Ze stelt al jaren dat niet techbedrijven de grenzen van uitingsvrijheid moeten bepalen. Schaake bepleit harde wetgeving die platforms verplicht om fora schoon te vegen en aangifte te doen van wetsovertreding. In Europa komt er een Digital Services Act die op grond van dominante posities de platforms bij de les wil houden met onder meer controle op algoritmes.

Dan nog blijf je met de vragen zitten: waar liggen de grenzen, en wie beoordelen die? Dit debat kwam op Netkwesties aan bod in een artikel over algoritmes versus vrije meningsuiting, maar ook in 2017 onder de titel Zijn vrouwen dom? In een debat tussen Schaake en Google en over nepnieuwsbestrijding. In principe hebben private bedrijven het volste recht om zelf hun grenzen te bepalen, zolang ze geen groepen discrimineren. Momenteel zetten Facebook, YouTube, Twitter etc. duizenden moderatoren plus algoritmes in om uitingen te blokkeren en verwijderen, op grond van hun eigen voorwaarden. Die vormen min of meer een gemene deler van nationale wetgevingen, maar leiden hoe dan ook tot grof modereren. Bedrijven kunnen strengere normen hanteren zodat ze in elk geval veilig zitten, met dreigende censuur.

Censuurgrens over

Want de voorstanders van ingrijpen door Twitter en Facebook denken daar niet altijd goed over na. Neem de welbespraakte internetcriticus Shoshana Zuboff, auteur van The Age of Surveillance Capitalism; zij vond de maatregelen om Trump te bannen uitstekend, en die kwamen volgens haar veel te laat.

In Nederland bepleitte José van Dijck, eerder president van ons belangrijkste wetenschappelijke orgaan KNAW, in het FD eerder ingrijpen tegen Trump: ‘Toch hadden Twitter en Facebook allang kunnen ingrijpen. Al op 19 december spoorde Trump zijn aanhang aan om 6 januari naar het Capitool te komen. De tweet ‘Be there, will be wild’ kon niet anders gezien worden dan als een aansporing tot ongepast gedrag, zeker voor een gezagsdrager.’

Deze opvatting etaleert exact de ellende waarin we verzeild raken als er slecht wordt nagedacht over de uitwerking van handhaving op ongewenste uitingen door platforms. ‘Be there, will be wild’, kan net zo goed van een popzanger komen die een concert gaat geven. Het is op zichzelf perse geen oproep tot geweld. José van Dijck wil dat het moderatorenleger van Mark Zuckerberg uitingen, context en ook de status van personen die iets bedenkelijks zeggen gaat wegen.

Haar tweede redeneerfout is de betiteling ‘aansporing tot ongepast gedrag’. Die term gun je de Chinese of Saoedische overheid, niet een Nederlandse wetenschapper van formaat. Ongepast gedrag is hier geen wetsovertreding, ook niet als een ‘gezagsdrager’ ertoe oproept. Ten derde ging het er op Telegram en Parler door de geweldzoekers veel harder en concreter aan toe.

Duitse wet leidend?

Hoe dan ook is het moeilijk om een evidente grens van wetsovertreding te bepalen, zie daarvoor de rechtszaken tegen Wilders. Bovendien duren die zaken een poosje. Het is correct van Angela Merkel om te stellen dat de rechter moet bepalen of de uitingen van Trump door de beugel kunnen, maar die tijd hebben ze niet. Bovendien heeft juist Duitsland onder Merkel een Netzwerkdurchsetzungsgesetz die platforms met tenminste 2 miljoen deelnemers verplicht om snel in te grijpen bij vermeende wetsovertredingen met uitingen.

Kunnen moderatoren, al dan niet geholpen door kunstmatige intelligentie, aldoor snel die afwegingen maken? Reporters without Borders, Oxford Internet Institute, Duitse kranten en partij FDP betitelden de wet als illegaal want censuur bevorderend. Volgens de regering vereist de wet louter handhaving van bestaande wetgeving.

VVD-oproep

Is de Duitse wet een precedent? Platforms kunnen al tot actiever modereren worden verplicht door artikel 230 uit de Amerikaanse wet DCA te schrappen en gelijkluidende bepalingen in de – opvolger van - Europese e-commerce richtlijn – wat ook gebeurt. Is dit effectief en wenselijk? Maar in hoeverre leidt dit ertoe dat politici en kunstenaars worden gecensureerd wegens ‘ongepast gedrag’.

Op 2 februari 2021 schreven de VVD-fractievoorzitters van de vier grote steden gezamenlijk een opiniestuk in De Telegraaf met als kop: ‘Platforms mogen geen bondgenoot reltuig zijn’, met de  verkiezingsframes ‘reltuig’ en de aangehouden MoElJackson die opriep tot rellen. Het kwartet noemt Telegram en Snapchat. ‘Allereerst kunnen de bedrijven achter deze platforms content die oproept tot geweld verwijderen. Dit is – zeker voor ons als liberalen – een moeilijke afweging. Voorkomen moet worden dat onbedoeld de vrijheid van meningsuiting wordt aangetast. Het oproepen tot geweld valt echter niet onder die vrijheid.’

Ze vragen zo te zien om drie maatregelen: makkelijker dit soort uitingen kunnen melden bij platforms; deze moeten expliciete geweldsoproepen verwijderen; en deze uitingen bij politie en justitie aangeven ten behoeve van vervolging.

Deze VVD-oproep is juist geformuleerd, maar ook paradoxaal: laat je uitingen staan, dan kan de politie weten waar rellen komen en de daders van de uitingen makkelijker in de kraag vatten. Haal je ze weg wordt de bestrijden moeilijker, en gelijkgezinden weten elkaar toch wel te vinden. Of de geweldsoproepen wel weghalen, maar ook direct aan de politie doorgeven? Dan worden de platforms verlengstukken van justitie. Terwijl verkeer steeds meer wordt versleuteld.

Twitter-onderzoek

En nog steeds: moeten de Feestboeken van deze wereld bepalen wat er al dan niet door de beugel kan? Boeiend is de opvatting van Jack Dorsey, medeoprichter van Twitter. Hij gaf eind 2019 de opdracht tot een onderzoek naar een decentrale opzet van Twitter; waarin de deelnemers zelf de ‘macht’ hebben. De uitkomst van dit project liet op zich wachten, maar op 21 januari 2021 verscheen een Ecosystem Review. Die gaat uit van directe communicatie tussen gebruikers/knoppunten zonder centrale autoriteit. Die hebben een lange geschiedenis, met toepassingen van Kazaa tot en met blockchain.

De groep onderzocht protocollen zoals ActivityPub en toepassingen als Mastodon – een concurrent van Twitter - met ruim 2,5 miljoen gebruikers die worden verbonden op 2.700 decentrale knooppunten. De moderatieregels in Mastodon zijn lokaal voor elke server gemaakt door de admin.  Gebruikers kiezen hun server en moderatiebeleid. Modereren vergt veel inspanning. Open software ter ondersteuning van moderatie is in 2019 aan Mastodon toegevoegd. Overigens werkt Reddit als gecentraliseerd platform met decentraal modereren door degene die een Subreddit heeft aangemaakt; met controlerende admins en software voor filtering van Reddit zelf.

Conclusies uit de studie trekt Twitter nog niet, maar duidelijk is dat een decentrale Twitter nieuwbouw vereist of doorgaan met bijvoorbeeld Mastodon. Meest opvallende is dat Twitter mensen ‘van buiten’ heeft aangetrokken die de huidige grote sociale netten principieel veroordelen, zoals Jay Graber, oprichter van Happening en Golda Valdez.

Trump-ban als nederlaag

Jack Dorsey kwam tegelijkertijd met de openbaarmaking van deze verkenning  met een verklaring over de verbanning van Donald Trump van Twitter. Het is een van de krachtigste verklaringen van de dilemma’s, gevoeligheden en risico’s van open conversatie, met uiteindelijk de afhankelijkheid van goede wil en deugden van betrokken mensen. Een paar strofen:

‘Ik ben er niet trots op dat we @realDonaldTrump hebben moeten verbannen…Was dit correct? Ja, we werden geconfronteerd met een buitengewone en onhoudbare omstandigheid. Offline schade als gevolg van online meningsuiting is aantoonbaar reëel…

Hoewel er duidelijke en voor de hand liggende uitzonderingen zijn, denk ik dat een ban uiteindelijk een falen van ons etaleert om een gezonde conversatie te bevorderen… Deze acties fragmenteren het publieke debat. Ze verdelen ons. Ze beperken het potentieel voor verduidelijking, verlossing en kunnen leren. En het schept een precedent dat ik gevaarlijk vind: de macht van een individu of bedrijf over een deel van de mondiale publieke conversatie…

Op dit moment is dit ingrijpen misschien nodig, maar op de lange termijn zal het destructief zijn voor het nobele doel en de idealen van het open internet. Een bedrijf dat een zakelijke beslissing neemt om zichzelf te matigen is iets anders dan een overheid die de toegang ontzegt, maar kan toch hetzelfde aanvoelen…

Ja, we moeten allemaal kritisch kijken naar inconsistenties in ons beleid en de handhaving daarvan… Ja, we hebben meer transparantie nodig in onze moderatie operaties. Dit alles mag een vrij en open wereldwijd internet niet uithollen.’

En, zei Dorsey ook: als je het er niet mee eens bent, kun je weg van Twitter. Daar zitten voetangels aan: niet enkel zijn Twitter en Facebook dominant dankzij het netwerkeffect, het vertrek van miljoenen Trumpisten richting Parler als eigen bubbel doet de open democratische uitwisseling van meningen geen goed.