Veel mensen hebben als eerste reactie om de feiten te controleren: ze reageren met statistieken, plaatsen een ontkrachtende post op sociale media of verwijzen mensen naar betrouwbare bronnen.

Feitencontrole wordt gezien als een veelgebruikte methode om de verspreiding van valse informatie tegen te gaan. Echter, het blijkt notoir moeilijk om verkeerde informatie te corrigeren. Uit onderzoek blijkt dat lezers journalisten minder vertrouwen wanneer ze beweringen ontkrachten in plaats van bevestigen. Erger nog, feitencontrole kan ertoe leiden dat de oorspronkelijke leugen aan een heel nieuw publiek wordt getoond, waardoor het bereik wordt vergroot.

Het werk van mediadeskundige Alice Marwick kan helpen verklaren waarom factchecking vaak faalt wanneer het op zichzelf wordt gebruikt. Haar onderzoek suggereert dat verkeerde informatie niet verre van louter een inhoudelijk probleem is, maar vooral een emotioneel en structureel euvel.

Ze stelt dat het gedijt door drie elkaar versterkende pijlers: de inhoud van de boodschap, de persoonlijke context van degenen die deze delen en de technologische infrastructuur die deze versterkt.

1. De boodschap

Mensen vinden het cognitief gemakkelijker om informatie te accepteren dan te verwerpen. Dat verklaart waarom misleidende inhoud zich zo gemakkelijk verspreidt.

Desinformatie, of het nu gaat om een nepvideo of een misleidende kop, is alleen problematisch als er een ontvankelijk publiek is dat bereid is om deze te geloven, te onderschrijven of te delen. Dit gebeurt door een beroep te doen op wat de Amerikaanse socioloog Arlie Hochschild 'diepe verhalen' noemt. Dit zijn emotioneel aansprekende verhalen die de politieke overtuigingen van mensen kunnen verklaren.

De meest invloedrijke verkeerde informatie of desinformatie speelt in op bestaande overtuigingen, emoties en sociale identiteiten, waardoor complexe kwesties vaak worden gereduceerd tot vertrouwde emotionele verhalen. Desinformatie over migratie kan bijvoorbeeld gebruikmaken van stijlfiguren als “de gevaarlijke buitenstaander” en/of “ons bedreigde land”.

2. Persoonlijke context

Wanneer verzonnen beweringen aansluiten bij iemands bestaande waarden, overtuigingen en ideologieën, kunnen ze snel uitgroeien tot een soort 'kennis'. Dit maakt het moeilijk om ze te ontkrachten.

Marwick deed onderzoek naar de verspreiding van nepnieuws tijdens de Amerikaanse presidentsverkiezingen van 2016. Een bron beschreef hoe haar sterk conservatieve moeder valse verhalen over Hillary Clinton bleef delen, zelfs nadat zij (de dochter) de beweringen herhaaldelijk had ontkracht.

De moeder zei uiteindelijk: “Het maakt me niet uit of het vals is, ik haat Hillary Clinton en ik wil dat iedereen dat weet!” Dit vat mooi samen hoe het delen of posten van verkeerde informatie een mechanisme kan zijn om je identiteit uit te dragen.

Mensen delen valse beweringen om hun loyaliteit aan een groep te tonen, een fenomeen dat onderzoekers omschrijven als motivatie gebaseerd op identiteit. De waarde van het delen ligt niet in het verstrekken van accurate informatie, maar dient als sociale valuta die de groepsidentiteit en cohesie versterkt.

De toename van de beschikbaarheid van door AI gegenereerde beelden zal de verspreiding verder doen escaleren. We weten dat mensen bereid zijn om beelden te delen waarvan ze weten dat ze nep zijn, als ze geloven dat ze een ‘emotionele waarheid’ bevatten. Visuele inhoud heeft een inherente geloofwaardigheid en emotionele kracht – ‘een foto zegt meer dan duizend woorden' – die scepsis kan overstemmen.

3. Technische structuren

Al het bovenstaande wordt ondersteund door het ontwerp van sociale platforms, die betrokkenheid belonen. Deze platforms verdienen meer aan het delen van aandacht van gebruikers met adverteerders naarmate die langer en intensiever kijken en reageren. Daar zijn algoritmes voor aanbevelingen op gebaseerd. Emotioneel geladen content – met name content die woede, angst of verontwaardiging oproept – genereert aanzienlijk meer betrokkenheid dan neutrale of positieve content.

Desinformatie floreert en de mogelijkheden om te delen leiden tot verdere verspreiding en meer aandacht. In 2020 meldde de BBC dat één enkel bericht dat naar een WhatsApp-groep van 20 mensen werd gestuurd, uiteindelijk meer dan 3 miljoen mensen kon bereiken, als elk lid het met nog eens 20 mensen zou delen en dit proces vijf keer zou worden herhaald. De prioriteit ligt dus bij het ‘leuken’, reageren en delen, los van de juistheid van de inhoud. De platforms doen er alles aan om een vermenigvuldigingsfactor te zijn.

Sociale normen beïnvloeden

Dus factchecking faalt niet omdat het inherent gebrekkig is, maar omdat het wordt ingezet als een kortetermijnoplossing voor het structurele probleem van desinformatie. Om desinformatie wel op een zinvolle manier aan te pakken, is een aanpak nodig die inspeelt op ieder van de drie genoemde pijlers.

Tegelijkertijd moeten we de manier veranderen waarop we technologieplatforms en uitgevers structureel motiveren en ter verantwoording roepen. Tenslotte zijn er verschuivingen in onze sociale normen nodig en moeten we ons bewust worden van onze motivaties om informatie te delen.

Als we desinformatie blijven behandelen als een simpele strijd tussen waarheid en leugens, zullen we blijven verliezen. Het succes van desinformatie is niet alleen gebaseerd op de onwaarheden zelf, maar ook op de sociale en structurele omstandigheden die maken dat mensen het zinvol vinden om er van harte mee in te stemmen en ze te delen.

*) Kelly Finchem is programmadirecteur voor de bacheloropleiding Global Media aan de Universiteit van Galway in Ierland. Dit artikel verscheen in originele vorm bij The Conversation. Vertaling: Peter Olsthoorn