Algoprudentie
Algoprudentie is beschikbaar voor verschillende soorten algoritmes, onder andere machine learning-, profilering-, publieke- en private algoritmes.
We staan open voor nieuwe cases. Dien hier een case in voor review.
Algoprudentie overzicht
Vooringenomenheid voorkomen
Afwijkingen zijn geconstateerd in het controleproces van DUO naar misbruik met de uitwonendenbeurs. Studenten die dicht bij hun ouder(s) woonden zijn aanzienlijk vaker geselecteerde voor controle naar misbruik met de uitwonendenbeurs in de periode 2012-2022. Het algoritme dat ter ondersteuning van de selectie werd gebruikt functioneerde naar verwachting, maar was niet goed onderbouwd. Lees meer...
Risicoprofilering heronderzoek bijstandsuitkering
De commissie oordeelt dat algoritmische risicoprofilering onder strikte voorwaarden kan worden ingezet voor het selecteren van burgers met een bijstandsuitkering voor heronderzoek. Het oogmerk van heronderzoek is een leidende factor bij de beoordeling van profile- ringscriteria. Lees meer...
BERT-gebaseerd disinformatie detectie-algoritme
De adviescommissie oordeelt dat er een laag risico is van (hoger-dimensionale) proxy discriminatie bij de BERT-gebaseerde disinformatie detector en dat het waargenomen verschil in algoritmische behandeling tussen verschillende soorten Twitter gebruikers gerechtvaardigd kan worden, indien bepaalde voorwaarden van toepassing zijn. Lees meer...
Type simkaart als voorspeller voor betalingsfraude
De adviescommissie adviseert tegen gebruik van type simkaart als input variabele voor een risicopredictie-algoritme om misbruik met het achteraf betalen van online bestelde producten te voorspellen. Type sim-kaart wordt geacht dusdanig een proxy-attribuut te zijn voor bijzondere persoonsgegevens dat het predictie-algoritme een onaanvaardbaar risico loopt om specifieke demografische groepen van de dienst uit te sluiten. Lees meer...
