Rekenkamer Rotterdam: 'Risico op vooringenomen uitkomsten bij gebruik algoritme voor opsporing uitkeringsfraude door gemeente'

De manier waarop de gemeente Rotterdam gebruik maakt van algoritmes kan leiden tot vooringenomen uitkomsten. Dat concludeert de Rotterdamse Rekenkamer in een rapport. Volgens de Rekenkamer is de transparantie en de eerlijkheid van het algoritme niet altijd op orde.

Een 'voorschrijvend algoritme' zoals de gemeente gebruikt, is een set instructies die door een computer wordt uitgevoerd om te komen tot een beslissing of om te komen tot informatie om een beslissing te nemen. Het zou de besluitvorming sneller, doelmatiger en effectiever moeten maken. De gemeente gebruikt algoritmes onder meer voor de opsporing voor uitkeringsfraude.

Maar dat werkt niet vlekkeloos, concludeert de Rekenkamer. Zo is er de kans dat er vooringenomen keuzes worden gemaakt door het programma. Ook is er te weinig toezicht en is niet duidelijk wie er eindverantwoordelijk is.

Volgens de Rekenkamer gaat het op twee vlakken mis. Zo moet er informatiedata worden ingevoerd om een algoritme te laten werken, maar dat is mensenwerk. En waar mensen werken, worden fouten gemaakt. Maar waar de Rekenkamer zich vooral op richt, is de variabelen die gebruikt worden in het algoritme. Paul Hofstra van de Rotterdamse Rekenkamer noemt als voorbeeld de variabele 'laaggeletterdheid', die meegenomen wordt in het algoritme om uitkeringsfraude op te sporen.

"Je mag niet vragen naar afkomst of geslacht, dat is per wet verboden. Maar er zijn wel variabelen die gebruikt worden die daar op lijken en wat haast op hetzelfde uitkomt. Laaggeletterdheid bijvoorbeeld. In Rotterdam zijn laaggeletterden toch vooral mensen met een zekere migratieachtergrond. Je loopt dan het risico met deze variabele dat grote groepen laaggeletterden worden uitgenodigd voor een heronderzoek. Ze zijn niet per definitie fraudeurs, maar ze worden wel opgeroepen om te checken of klopt wat wij hebben ingevoerd. Daarbij worden dus alsnog relatief veel mensen met een migratieachtergrond opgeroepen."

Bij de toeslagenaffaire werd ook gebruik van algoritmen. Duizenden gedupeerden moesten tienduizenden euro's ten onrechte terugbetalen. Volgens Hofstra is het feit dat gebruik is gemaakt van algoritmen ook de enige overeenkomst tussen de uitkomst van de Rekenkamer en de toeslagenaffaire. "In Rotterdam worden mensen niet keihard aangepakt met die heronderzoeken. Daarnaast was de omvang van de toeslagenaffaire veel groter."

Verantwoordelijkheid, transparantie en terughoudendheid

De Rekenkamer heeft een aantal aanbevelingen gedaan naar de gemeente over het gebruik van algoritmes. Zo moet duidelijk zijn wie verantwoordelijk is hiervoor, maar moet er ook transparantie zijn naar de mensen die worden uitgenodigd voor een heronderzoek. "Ze hebben nu geen flauw idee waarom ze worden uitgenodigd voor een heronderzoek. Daar moet de gemeente eerlijk over zijn en beter over informeren." Ook moet er terughoudend worden omgegaan met de variabelen die gebruikt worden. "Het kan in de praktijk namelijk leiden tot het gebruik van variabelen die bij wet verboden zijn."

De Rekenkamer heeft in het huidige onderzoek niet gekeken of de uitkomsten van het algoritme ook daadwerkelijk oneerlijk zijn geweest. "We hebben alleen geconstateerd dat het risico bestaat dat dit kan gebeuren", zegt Hofstra. Hij sluit een groter vervolgonderzoek, waarbij naar de werking van de algoritmes wordt gekeken, dan ook niet uit.

Meer over dit onderwerp:
REKENKAMERROTTERDAM NIEUWS ECONOMIE
Deel dit artikel: