NOS: 25 gemeenten gebruiken algoritmes voor risicoprofilering

Zeker 25 gemeenten gebruiken slimme systemen met algoritmes om risico’s te detecteren. Daarbij worden burgers automatisch ingedeeld in profielen om bijvoorbeeld fraude op te sporen of juist te detecteren wie dreigt te bezwijken onder de schulden. Het systeem geeft dan een seintje als een hoog risico wordt verwacht, waarna het dossier extra kan worden onderzocht door een ambtenaar. Dat blijkt uit onderzoek van de NOS in samenwerking met de regionale omroepen.

De 25 gemeenten, waaronder Amsterdam, Breda en Twenterand, gaan daarmee verder dan andere overheden en bedrijven. Algoritmes worden namelijk vrijwel overal ingezet, bijvoorbeeld om boetes voor te hard rijden te geven of om automatisch brieven te versturen. Daarbij is echter nog geen sprake van risicoprofilering.

Het gebruiken van voorspellende systemen om fraude op te sporen ligt onder vuur sinds de toeslagenaffaire. Daarbij bleek bij ontvangers van de kinderopvangtoeslag het hebben van een dubbele nationaliteit meegewogen te worden bij het formuleren van de risicoprofielen. Critici waarschuwen daarom voor discriminatie: algoritmes worden getraind door mensen en die kunnen vooroordelen hebben die zo in het algoritme terechtkomen.

Transparantie

De Vereniging van Nederlandse Gemeenten stelt dat het inzetten van algoritmes voordelen biedt. Zo kunnen ze patronen herkennen die het menselijk oog niet direct oppikt. "Maar ze moeten wel voldoen aan principes van zorgvuldigheid, transparantie en proportionaliteit."

Aan die transparantie schort het vaak nog. Gemeenten kunnen of willen geen duidelijkheid geven over de precieze werking van hun algoritmes. "Als je in de echte wereld wordt gediscrimineerd, kun je dat instinctief aanvoelen", zegt jurist Marlies van Eck van de Radboud Universiteit tegen de NOS. "Maar als een algoritme dat doet, merk je dat misschien wel nooit."

Algoritme-register

De gemeente Amsterdam opende afgelopen september als een van de eerste steden een algoritme-register. Dat is bedoeld om transparantie te bieden over de inzet van de slimme systemen. In het register is te zien welke algoritmes de gemeente gebruikt met welk doel en hoe ze in elkaar steken.