De Chinese app TikTok gaat eindelijk de regels serieus nemen en accounts van kinderen onder de 13 opsporen en verwijderen. Daarvoor begint het bedrijf met een nieuwe vorm van leeftijdscontrole.

Op basis van profielinformatie, video’s die gebruikers plaatsen en gedragssignalen voorspelt TikTok of het om (te) jonge kinderen gaat. Goed nieuws, zo lijkt het, maar er zitten allerlei bezwaren aan deze aanpak.

Kinderen voelen verslaving

TikTok is uitgegroeid tot een van de populairste apps ter wereld. De app biedt korte, creatieve video’s die veel kinderen aanspreken. Volgens onderzoek van het Jeugdjournaal zit 86 procent van de Nederlandse kinderen dagelijks op TikTok. Maar liefst 7 van de 10 kinderen geeft zelf aan dat ze de app best verslavend vinden. Ze zitten vaak veel langer op TikTok dan ze eigenlijk zouden willen.

Naast verslavingsrisico’s zijn er allerlei veiligheidsrisico’s. Er zijn zorgen over misinformatie, nepnieuws en haatzaaiende video’s. Ook zijn er soms video’s die gevaarlijk gedrag aanmoedigen. Zo was er in 2021 The Blackout Challenge, een wurgspel waarbij kinderen elkaars keel dichtknijpen.

Het bedrijf veroorzaakt bovendien veel groepsdruk. In 2020 kwam naar buiten dat TikTok filmpjes tegenhoudt van gebruikers die gezien worden als lelijk, dik, arm of gehandicapt om de app ‘aantrekkelijk’ te houden voor nieuwe gebruikers. Als op TikTok alleen knappe, succesvolle mensen te zien zijn, kan dat een vertekend beeld geven van mens en maatschappij, zeker voor kinderen. Het kan leiden tot pesten, angsten en onzekerheden.

Controle brengt nieuwe problemen

Op TikTok zitten ook veel kinderen die zelfs jonger zijn dan 13 jaar, een kwetsbare groep. Het platform heeft de wettelijke plicht op leeftijd te controleren, maar als kinderen een account willen aanmaken, vertellen ze natuurlijk niet eerlijk hun leeftijd. Daarom heeft TikTok een nieuwe aanpak bedacht. Door leeftijdprofilering op basis van gezichtsherkenning en gedrag wordt ingeschat wie geweerd moet worden. Dat kunnen kinderen niet zo gemakkelijk verbergen of omzeilen. Er zijn echter vier problemen:

1. Voor goede leeftijdprofilering is veel privacygevoelige informatie nodig uit de gebruikersprofielen. TikTok heeft geen goede reputatie op dit vlak. In 2019 kreeg het sociale medium al miljoenenboetes voor privacyschending van kinderen door het verzamelen van persoonlijke gegevens. Bovendien zijn er zorgen dat de Chinese overheid bij de gegevens kan.
2. TikTok moet, om goed onderscheid te kunnen maken tussen 13-minners en 13-plussers, ook gegevens van kinderen onder de 13 verwerken. Immers, als je niet weet waarin deze twee groepen van elkaar verschillen, kun je ze ook niet goed onderscheiden. Het ironische is dus dat TikTok veel gegevens van de meest kwetsbare kinderen moet verwerken om ze vervolgens van het platform te kunnen weren. Juridisch mag dat alleen met toestemming van ouders, maar het is onwaarschijnlijk dat die hiermee instemmen.
3. Alle vormen van profilering kennen foutmarges. Het kan dus gebeuren dat 13-minners toch worden toegelaten en 13-plussers onterecht worden geweerd. De nauwkeurigheid kan weliswaar worden verhoogd door meer data te verzamelen, maar dat gaat weer ten koste van privacy.
4. Deze aanpak zal voor bepaalde groepen kinderen discriminerend uitpakken. Fysieke leeftijd is een helder criterium, maar kinderen ontwikkelen zich sociaal en mentaal op verschillende snelheden. Zulke verschillen kunnen nog groter zijn bij kwetsbare groepen. Bij neurodivergente kinderen (denk aan ADHD, dyslexie of autisme) kan het gedrag dat wordt geprofileerd sterk afwijken van de fysieke leeftijd. Dan kunnen 13-plussers systematisch te jong worden ingeschat en geweerd. Voor sommige kwetsbare kinderen is dat misschien een goede zaak, maar het laat geen ruimte voor maatwerk (bijvoorbeeld oefenen onder toezicht van een ouder of begeleider), omdat TikTok hierover beslist.

Hardere maatregelen nodig

Het is goed dat TikTok beter controleert op de leeftijden van kinderen. Gezien de verslavings- en veiligheidsrisico’s van de app verdienen kinderen extra bescherming. Echter, de leeftijdprofilering die het platform voor ogen heeft, heeft zo haar eigen risico’s op privacy en discriminatie. We moeten er dus geen wonderen van verwachten.

TikTok zou er goed aan doen niet te zwaar te leunen op de technologie en ruimte voor maatwerk te laten. Daarnaast zou het bedrijf natuurlijk meer werk kunnen maken van de onderliggende risico’s. Dit kan door nepnieuws en misinformatie te weren, gegevens beter af te schermen en de app minder verslavend te maken.

*) Bart Custers is hoogleraar IT-recht aan de Universiteit Leiden. Een versie van dit artikel verscheen eerder bij de Volkskrant