NOS Nieuws••Aangepast
De overheid moet stoppen met het gebruiken van algoritmes om fraude en criminaliteit op te sporen. Steeds meer overheidsinstanties maken gebruik van zogenoemde datagedreven profilering, maar dit leidt in de praktijk vaak tot discriminatie, stelt de Staatscommissie tegen Discriminatie en Racisme vast. De commissie komt volgende maand met een rapport hierover.
De commissie noemt de toeslagenaffaire als voorbeeld, maar ook DUO. Tussen 2012 en 2023 werden zo’n 10.000 studenten op basis van een discriminerend algoritme gecontroleerd op fraude met studiefinanciering. De overheidsinstantie hanteerde een selectieprocedure voor fraude waarbij uitwonende studenten met een migratieachtergrond eerder in beeld kwamen dan autochtone studenten.
Volgens de voorzitter van de commissie, Joyce Sylvester, kunnen allerlei groepen getroffen worden. “Het kunnen jongeren zijn, maar ook ouderen of mensen in bepaalde wijken. Over het algemeen raakt het mensen die sociaal-economisch zwakker en kwetsbaar zijn.”
Verouderde data
Volgens de commissie is het gebruik van zulke algoritmes in strijd met de belangrijkste principes van goed bestuur. Zo ontbreken er wettelijke kaders waarin staat hoe datagedreven profilering gebruikt mag worden. Ook baseren algoritmes hun opsporing voor fraude op verouderde data. Als er in de oude gegevens al sprake was van discriminatie, kan het algoritme dat gaan herhalen en zelfs versterken.
Overheidsinstanties zeggen vaak de algoritmes in te zetten omdat dat efficiënter zou zijn dan andere methoden om fraude vast te stellen, maar volgens de commissie is daar weinig overtuigend bewijs voor. “Ze denken dat ze efficiënt bezig zijn, maar wij zeggen: kijk wat het kost als het misgaat”, zegt Sylvester.
Daarnaast is het een probleem dat burgers vaak niet weten dat ze geprofileerd worden door de algoritmes, en welke algoritmes en criteria daarvoor worden gebruikt. Het Algoritmeregister dat overzicht moet bieden aan burgers over hoe de overheid algoritmes gebruikt en wanneer, is gebrekkig.
‘Stop met algoritmes’
De commissie roept de overheid daarom dus op om te stoppen met de datagedreven profilering, zolang discriminatie niet kan worden voorkomen. Er zijn andere methodes die de overheid kan gebruiken om fraude op te sporen, zoals aselecte controles of willekeurige steekproeven.
“Omdat profilering raakt aan kernprincipes van de rechtsstaat, democratie en goed bestuur, moet de overheid transparant zijn over haar keuzes en aantonen dat de inzet van profielen effectief is en geen schade veroorzaakt. Dit vraagt om extra waakzaamheid en terughoudendheid”, zegt Sylvester.
Het verzamelen van data kan wel een belangrijke manier zijn om ongelijkheid in kaart te brengen en tegen te gaan, maar dan moeten mensen hier toestemming voor geven “en vervolgens volwaardig worden betrokken bij beleid.”
