Hoewel er vaak wordt opgeroepen tot het censureren van haatzaaiende en gewelddadige uitingen op sociale media, is er weinig bewijs dat online ophitsing leidt tot radicalisering in de fysieke wereld. Ironisch genoeg kunnen dergelijke oproepen extremisten juist stimuleren, als ze vijandige berichtgeving, commentaar en censuurbeleid in de media interpreteren als een bevestiging van hun slachtofferverhalen en hun samenzweerdersdenken.

Een metaonderzoek uit 2018 met de titel ‘Exposure to Extremist Online Content Could Lead to Violent Radicalization: A Systematic Review of Empirical Evidence’ op grond van 5.000 eerdere studies kwam tot de slotsom slechts 11 daarvan ‘voorlopig bewijs bevatten dat blootstelling aan radicaal gewelddadig online materiaal geassocieerd is met extremistische online en offline attitudes, evenals het risico op het plegen van politiek geweld onder witte racistische, neonazistische en radicaalislamitische groepen’.

De auteurs erkenden dat ze geen systematische meta-analyse konden uitvoeren ‘wegens de heterogene en soms onvergelijkbare aard van de gegevens’. Voor zover generalisaties mogelijk waren, meldden de auteurs dat ‘actieve zoekers van gewelddadig radicaal materiaal een hoger risico lijken te lopen om politiek geweld te plegen dan passieve zoekers’. Als dat juist is, is het onwaarschijnlijk dat het voorkomen van extremistische op grote sociale-media effectief is. Immers, deze wordt hoofdzakelijk geconsumeerd door degenen die zich al committeerden aan de boodschap.

In 2013 bracht de RAND corporation een studie uit waarin werd onderzocht hoe internetgebruik het radicaliseringsproces van 15 veroordeelde gewelddadige extremisten en terroristen beïnvloedde. De onderzoekers onderzochten vijf hypothesen die voortkwamen uit een analyse van de bestaande literatuur:

1. Het internet creëert meer mogelijkheden om te radicaliseren;

2. Het internet fungeert als een "echokamer", waarin individuen hun ideeën gesteund en herhaald vinden door gelijkgestemde individuen;

3. Internet versnelt een reeds bestaand proces van radicalisering;

4. Internet maakt radicalisering mogelijk zonder fysiek contact; en

5. Internet vergroot de mogelijkheden tot zelfradicalisering.

De onderzoekers vonden dat het internet een geringe rol speelt in het radicaliseringsproces van de onderzochte individuen; hoewel kan fungeren als een echokamer en de mogelijkheden om te radicaliseren kan vergroten. Het bewijs ‘ondersteunt echter niet noodzakelijkerwijs de suggestie dat het internet radicalisering versnelt, noch dat het internet radicalisering mogelijk maakt zonder fysiek contact, noch dat het internet mogelijkheden voor zelfradicalisering vergroot, omdat in alle onderzochte gevallen ... de personen contact hadden met andere personen, hetzij virtueel of fysiek’.

Het beperkte empirische bewijs voor de rol van online uitingen in radicalisering naar geweld, suggereert dat mensen in de eerste plaats radicaliseren door ervaren onvrede en door fysieke ontmoetingen. Extremistische propaganda alleen zet mensen niet aan tot geweld, er zijn andere variabelen in het spel.

In een andere analyse zijn alle bekende jihadistische aanslagen (zowel geslaagde als verijdelde) van 2014 tot 2021 in acht westerse landen bijeengebracht. ‘Onze bevindingen tonen aan dat de primaire dreiging nog steeds afkomstig is van degenen die offline zijn geradicaliseerd’ concludeerden de auteurs. ‘Ze zijn groter in aantal, beter in het ontwijken van detectie door veiligheidsfunctionarissen, hebben meer kans om terroristische aanslagen met succes te voltooien, die ook meer doden tot gevolg hebben.’

Nog grover is de toegepaste wetenschap op de veronderstelling dat het verwijderen van haatdragende taal en desinformatie van sociale media een netto positief resultaat zal hebben. Hoewel we de werkelijke invloed van de recente beperkingen op de inhoud van sites als Facebook, Google en Twitter nooit kunnen waarnemen, heeft de George Washington University uit 2019 een model gemaakt dat voorspelt ‘dat het beleid van een enkel platform (zoals Facebook) de zaken kan verergeren, en uiteindelijk wereldwijde 'dark pools' zal genereren waarin online haat zal gedijen’.

De sleutel tot het begrijpen van de werking van online haat ligt in zijn wereldwijde netwerk-van-netwerk dynamiek, schreven de auteurs. ‘Onderling verbonden haatclusters vormen wereldwijde 'haatsnelwegen' die - geholpen door collectieve online aanpassingen - sociale media doorkruisen, soms 'achterdeuren' gebruiken, zelfs nadat ze verboden zijn, en ook tussen landen, continenten en talen heen en weer springen.’ Het verbieden van specifieke woorden en memes kan ertoe leiden dat ze muteren en zich verspreiden, tot groot genoegen van online trollen.

Uit deze studie: de connectiviteit van het online haatmultiversum (Afbeelding: Neil Johnson)

Hetzelfde team onderzocht haatdragende taal en Covid-19 desinformatie geassocieerd met de witte-racistische beweging en ‘medische desinformanten’ op Facebook, Instagram, Gab, 4chan, Telegram, en VKontakte. Onderzoekers ontdekten dat schadelijke uitingen, waaronder haat en Covid-19 desinformatie, zich snel verspreidt over platforms; met hyperlinks om gebruikers mee te nemen.

Een extremistische groepering heeft er baat bij om aanwezig te zijn op een mainstream platform (Facebook), waar ze opruiende nieuwsberichten en provocerende memes deelt om nieuwe volgers te trekken. Hebben ze die schare volgers opgebouwd, verwijzen ze die naar minder gemodereerde platforms zoals Telegram en Gab. Daar radicaliseren de uitingen.

Dit doorsluizen is evident. Maar hoeveel gewelddadige extremisten zijn er geronseld, zelfs indirect, via Big Tech platforms? En hoeveel geradicaliseerde individuen zijn via diezelfde kanalen gederadicaliseerd?

Bij een paar gelegenheden is het sociale netwerk Minds ervan beschuldigd een forum te bieden voor  extremistische uitingen. Maar de ongemakkelijke waarheid is dat het oplossen van het probleem van haatdragend extremisme (in tegenstelling tot het verbergen ervan) een proces van communicatie op lange termijn vereist, waarbij deze getroffen individuen betrokken zijn.

Het is te verwachten dat het censuurbeleid van Big Tech zal leiden tot een migratie van informatie van grootschalige platforms (waar feedback van een algemene bevolking kan helpen om extreme standpunten tegen te gaan en te matigen) naar kleinere platforms, waar extreme overtuigingen die ook door grotere platforms zijn verbannen, worden versterkt in echokamers, en vervolgens opnieuw in mainstream sociale-mediaruimten verschijnen.

Bovendien bevordert controle op grootschalige platforms slachtofferverhalen over censuur, en stimuleren extremistische boodschappen. Zoals Erin Saltman, voormalig Facebookchef inzake terrorismebestrijding schreef:

‘Online terrorisme en gewelddadig extremisme zijn platformoverstijgend en transnationaal. Niemand heeft maar één app op zijn telefoon of laptop, en slechte actoren zijn niet anders. Dus [moeten] alle inspanningen om terrorisme en gewelddadig extremisme effectief [tegen te gaan] ook verder gaan dan één land, één platform en één kader.’

Dan naar Parler

Filtering door sociale-media intensiveerde met de opkomst van IS in 2014. Een baanbrekende Brookings-studie over IS en Twitter vond tussen de 46.000 en 70.000 actieve pro-IS accounts. Twitter reageerde met grootschalige verwijdering. Het effect van deze botte aanpak is onbekend, en kan negatief kunnen zijn. De auteurs benadrukten dat:

‘Hoewel de verwijderingen IS-aanhangers personen verhinderd kunnen hebben om toe te treden tot IS, kan het isoleren ook de radicalisering hebben versneld en geïntensiveerd; alsmede de sociale druk kunnen belemmeren die tot deradicalisering kan leiden.

Ze bepleitten nader onderzoek naar de gevolgen van verwijdering van accounts, en deden dat zelf in 2016 met ‘The Islamic State's Diminishing Returns on Twitter: How Suspensions are Limiting the Social Networks of English-speaking ISIS supporters’. Ze waren beperkt tot Engelstalige IS-aanhangers op Twitter van juni tot oktober 2015, en concludeerden dat het bereik van specifieke IS-gebruikers inderdaad flink verminderde.

Maar de onderzoekers stelden ook dat extremisten naar andere kanalen verhuisden en hun volgers meenamen, vooral Telegram Messenger, dat nagenoeg oncontroleerbaar is. Zo werd Telegram gebruikt voor communicatie bij de bloedige aanslagen in Parijs.

Hetzelfde laken een pak voor het weren van extreemrechts extremisme. Blokkering van Trump op Twitter en Facebook leidde tot een verhuizing naar Telegram en Parler, waarvan de aanpak door Amazon, Apple en Google uiteindelijk geen effect sorteerde. Parler won miljoenen deelnemers met de belofte om ‘vrijuit te spreken en je openlijk te uiten zonder bang te hoeven zijn dat je wordt verwijderd vanwege je standpunten’.

Dit artikel is een abstract van het onderzoek ‘The Censorship Effect: Een analyse van de gevolgen van sociale media censuur en een voorstel voor een alternatief moderatiemodel’, geschreven door Bill Ottman, Daryl Davis, Jack Ottman, Jesse Morton, Justin E. Lane, en F. LeRon Shults.

*) Bill Ottman is CEO en medeoprichter van Minds, een open source online netwerk. Jesse Morton (1978-2021), een voormalig jihadisme-propagandist en medeoprichter van Parallel Networks. Het origineel van dit artikel verscheen deze week op Quillette, een Australisch online tijdschrift.