Algoritmes en discriminatie

Systeem SyRI heeft minder vooroordelen dan een agent

Met algoritmes is vastgesteld dat de kans op fraude met uitkeringen in de Rotterdamse wijken Hillesluis en Bloemhof waarschijnlijk hoog is. Intensief controleren daar dus. Dat is ingetrokken, wegens juridische bezwaren.

Rotterdam stopt met het fraudeonderzoek met het risico-indicatiesysteem SyRI in deze wijken want de gemeente krijgt de opzet van het onderzoek niet rond vanwege de juridische onduidelijkheid over privacyrisico’s.

Hadden we net ‘etnisch profileren’ verwerkt, met politiemensen die extra oplettend zijn wanneer donker gekleurde mensen in dure auto’s rijden, onze overheid steekt daar niets van op en vindt nieuwe verdachten zonder concrete aanleiding. Het is pure discriminatie om aan te nemen dat iemand wel samenwoont en een alleenstaanden-toeslag opstrijkt of zijn meerderjarige zoon stiekem aan de kosten van de huishouding laat bijdragen, alleen omdat hij in Hillesluis woont.

Grote jongens vrijuit

FNV Uitkeringsgerechtigden – ik wist niet dat uitkeringsgerechtigden een eigen vakbond hadden maar heb er geen enkel bezwaar tegen – vindt dat de overheid  ‘onterecht criminaliserend’ handelt met SyRI.

Ja, dat snapte ik, maar ik begon te aarzelen toen de vakbond daar aan toevoegde dat op zo’n manier ’de grote fraudeurs, de belastingontduikende en frauduleuze organisaties, weer buiten schot blijven’.

Laten we even aannemen dat de vakbond het oog heeft op Shell, maar het mag ook een bouwbedrijf zijn dat met steekpenningen de internationale orderportefeuille gevuld probeert te houden.

Zouden die handenwrijvend hun gang kunnen blijven houden omdat er twintig ambtenaren van de sociale dienst in Rotterdam niet meer lukraak de deuren afgaan maar wat gerichter op huisbezoek worden gestuurd? Je kan jezelf ook overschreeuwen, met als resultaat dat iets dat op het eerste gezicht redelijk lijkt inspectie verdient.

Tips zijn ook discriminerend

Huisbezoek door een ambtenaar van de sociale dienst is aan allerlei regels en protocollen gebonden, die van gemeente tot gemeente kunnen verschillen. Grootste gemene deler is dat er een ‘aanleiding’ voor huisbezoek moet bestaan. Dat kan een tip zijn van een buurman die zich blauw ergert aan geluidsoverlast en meldt dat er vast wel wordt samengewoond of clandestien drank wordt verkocht, het kan een overheidsdienst zijn die de aanvraag voor huursubsidie niet kan rijmen met de opgegeven samenstelling van de gezinshuishouding. Zeker als het om tips gaat van buren heeft de aanleiding iets subjectiefs.

Cijfers over het nut van het huisbezoek kan ik weliswaar niet vinden maar het lijkt waarschijnlijk dat in veel gevallen de huisbezoeker zijn tijd heeft verspild. Wat is er eigenlijk op tegen dat de huisbezoekende ambtenaren hun trefkans verhogen, bijvoorbeeld door gebruik te maken van wat meer geobjectiveerde gegevens over de plaatsen waar mensen wonen die met regelmaat betaald werk doen zonder dat aan de sociale dienst door te geven?

Menselijke vooroordelen en machines

Je ziet veel politiemensen op de been op vrijdag- en zaterdagavonden op plekken met veel café’s. Ja, daar gebeurt veel onheil en om de politie op dat tijdstip in de buitenwijken van Bloemendaal te laten patrouilleren omdat het maar eens afgelopen moet zijn met dat gecriminaliseer van dronken jongeren slaat nergens op.

Zit het bezwaar misschien in het gebruik van ‘algoritmes’ in SyRI? Ik denk dat een machine minder last heeft van vooroordelen dan een door de wol geverfde rechercheur `die zijn pappenheimers kent’ en alert wordt als hij ziet dat twee mediterraan ogende mannen  naar  het fototoestel van een Japanse toerist loeren.

De machine heeft daar geen last van, al zijn we weer terug bij ‘af’ zodra je bedenkt dat de opdrachtgever met zijn vragen in de richting van ontoelaatbare discriminatie kan sturen.

*) Germ Kemper is een ervaren media-advocaat. Deze opinie verscheen eerder in Argus.

 

Systeem SyRI heeft minder vooroordelen dan een agent

Gepubliceerd

17 jul 2019
Graag kort en bondig. Kwetsende, discriminerende en/of commerciële uitlatingen worden verwijderd.
 

Registreren en de nieuwsbrief ontvangen?

We gaan zorgvuldig met je gegevens om. Je krijgt ook gelijk toegang tot alle plusartikelen en je kunt reageren op de artikelen.

Controleer nu je e-mail

Je ontvangt een bericht met instructies om je e-mailadres te bevestigen. Zonder deze bevestiging sturen we je geen nieuwsbrief, doe het dus gelijk even!

asdas sdf fs dfsdfsf sdffsd

Netkwesties © 1999/2018. Alle rechten voorbehouden. Privacyverklaring

Ehio Media content marketing
1
0
1