De kans dat veroordeelden opnieuw een delict plegen, is mogelijk jarenlang verkeerd berekend. Dat blijkt uit onderzoek van de Inspectie Justitie en Veiligheid.
De reclassering gebruikt algoritmes om het risico op herhaling van strafbaar gedrag in te schatten, maar juist dat systeem blijkt gebreken te bevatten. In ongeveer een kwart van de adviezen zou het recidiverisico, oftewel de kans dat iemand die een strafbaar feit heeft gepleegd, opnieuw de fout ingaat, verkeerd zijn beoordeeld.
Belangrijk algoritme bevat fouten
Centraal staat het algoritme OXREC, dat standaard wordt gebruikt bij adviezen aan het Openbaar Ministerie en rechters. Jaarlijks wordt het zo’n 44.000 keer toegepast.
De inspectie ontdekte meerdere fouten in de software. Sinds de invoering in 2018 blijken formules voor gevangenen en verdachten te zijn verwisseld en zijn verkeerde cijfers gebruikt in de berekeningen. Het gevolg: het risico op herhaling werd in veel gevallen te laag ingeschat. Vooral bij veroordeelden als drugsgebruikers en mensen met ernstige psychische aandoeningen, zoals een psychose, kon dat verschil aanzienlijk zijn.
De inspectie heeft niet onderzocht in hoeveel zaken rechters of reclasseringsmedewerkers de foutieve risicobeoordeling daadwerkelijk hebben overgenomen.
Verouderde data en privacyproblemen
Volgens de Inspectie Justitie en Veiligheid is de gebruikte dataset verouderd en bovendien oorspronkelijk ontwikkeld voor een andere doelgroep dan waarop de reclassering het systeem nu toepast. Ook voldoet het algoritme niet aan de privacywetgeving.
Daarnaast bestaat het risico dat medewerkers te veel vertrouwen op de uitkomst van het systeem. Hun eigen professionele oordeel zou volgens interne communicatie net zo betrouwbaar zijn als ‘het opgooien van een muntje’. Daarmee wordt het algoritme mogelijk als betrouwbaarder gepresenteerd dan het in werkelijkheid is.
Het algoritme gebruikt variabelen als ‘buurtscore’ en ‘hoogte van het inkomen’. Die factoren kunnen leiden tot discriminatie. Het College voor de Rechten van de Mens stelde eerder dat zulke variabelen in principe niet mogen worden gebruikt, tenzij goed kan worden onderbouwd waarom dat noodzakelijk is en er extra waarborgen zijn ingebouwd. Volgens de inspectie heeft de reclassering dat niet gedaan.
Jarenlang niet opgemerkt
De Inspectie Justitie en Veiligheid concludeert dat de reclassering onvoldoende heeft gestuurd op het gebruik en onderhoud van haar algoritmes. Daardoor bleven de tekortkomingen jarenlang onder de radar.
De inspectie adviseert om de problemen zo snel mogelijk te herstellen of het algoritme tijdelijk stil te leggen. Ook moet er een duidelijke structuur komen voor ontwikkeling, onderhoud en controle van algoritmes. Ze moeten worden getraind met actuele data, juridisch worden getoetst en regelmatig worden geëvalueerd.
De reclassering heeft inmiddels aangekondigd voorlopig te stoppen met het gebruik van OXREC. De inspectie zal elke zes maanden controleren hoe het staat met de verbeteringen.
Dit zijn de best gelezen artikelen van dit moment:
Foutje gezien? Mail ons. Wij zijn je dankbaar.
