Fraude opsporen of gevaar van discriminatie? Gemeenten gebruiken 'slimme' algoritmes
Net als andere overheden leunen gemeenten in toenemende mate op slimme algoritmes en risicoprofilering. Dat blijkt uit onderzoek van de NOS in samenwerking met de regionale omroepen.
Zeker 25 gemeenten maken gebruik van voorspellende systemen en algoritmes om bijvoorbeeld bijstandsfraude op te sporen, te voorspellen waar mogelijk ondermijnende criminaliteit plaatsvindt en
Risicoprofilering ligt onder een vergrootglas. Bij de kinderopvangtoeslagaffairebleek dubbele nationaliteit namelijk te worden meegewogen bij het opstellen van risicoprofielen. Vorig jaar veegde de rechter bovendien het profileringssysteem SyRI van tafel, onder meer omdat het onvoldoende transparant was en er daarmee risico ontstond
"Dit nieuws is reden tot zorg", zegt advocaat Anton Ekker, die succesvol tegen het SyRI-systeem procedeerde. "Het kabinet heeft plechtig beloofd dat er geen nieuwe toeslagenaffaire zal komen, maar er is geen goed beeld van wat gemeentes allemaal doen."
Tegelijkertijd hebben slimme algoritmes allerlei voordelen, benadrukt de Vereniging Nederlandse Gemeenten.
Fraudeur
In de praktijk gebruiken vrijwel alle overheden en bedrijven algoritmen, vaak voor simpele processen zoals het registreren van hardrijders of het automatisch versturen van brieven. Maar specifiek bij deze 25
Risicoprofielen
Zo maken de gemeentes Nissewaard en Brielle samen met een extern bedrijf risicoprofielen van bijstands-ontvangers. Op basis van de risico-score wordt bepaald of een dossier extra wordt onderzocht. Ook
De gemeente Twenterand maakt ook profielen van burgers, maar dan om schulden en 'zorgproblematiek' in kaart te brengen. En de Limburgse gemeentes Leudal, Nederweert en Maasricht zetten dergelijke systemen in om ondermijnende criminaliteit op
En Breda onderzoekt met machine learning of het zin heeft om bijvoorbeeld bepaalde soorten woningen te slopen of juist te bouwen, om zo de leefbaarheid te verbeteren.
Voor gemeenten bieden algoritmes allerlei voordelen: ze
Maar critici waarschuwen voor het risico van discriminatie. Zo worden slimme
"Het is lastig om discriminatie helemaal uit te sluiten", zegt Nadia Benaissa van burgerrechtenorganisatie Bits of Freedom. "Ik geloof best dat gemeenten het goed bedoelen, maar je wordt
Onduidelijkheid
Vaak bestaat onduidelijkheid over de precieze werking van algoritmes en risicoprofilering. De gemeente Nissewaard wil bijvoorbeeld niet vrijgeven hoe er wordt bepaald of iemand mogelijk een fraudeur is, om zo fraudeurs niet wijzer te maken. Dat schreef de gemeente eerder aan
Dat niet precies duidelijk is hoe veel systemen werken, is een probleem, zegt Marlies van Eck van de Radboud Universiteit. Zij is gespecialiseerd in de juridische wereld achter kunstmatige intelligentie. "Als je in de echte wereld wordt gediscrimineerd, kun je dat instinctief
Nieuwe rechtszaak
Advocaat Ekker is er niet gerust op. "Ik vraag me af of lokale overheden genoeg kennis in huis hebben om dit op een goede manier te doen. Vaak zijn ze sterk afhankelijk van externe ICT-leveranciers."
De coalitie van
