Algoprudentie casussen
Belanghebbenden leren van onze jurisprudentie voor algoritme (algoprudentie), helpen het te verbeteren en gebruiken het om ethische vraagstukken omtrent de verantwoorde inzet van algoritmische systemen op een geharmonizeerde wijze op te lossen
Algoprudentie casussen
Voorspellen van onverantwoord rijgedrag
Case study naar het identificeren en voorspellen van onverantwoord rijgedrag in de database van een autodeelplatform. Een onafhankelijke adviescommissie heeft advies uitgebracht over onder meer modelvaliditeit, het balanceren van fout-positieven en fout-negatieven en betekenisvolle uitleg. Lees meer...
Addendum Vooringenomen voorkomen
Vervolgonderzoek naar CUB-proces DUO aan de hand van aggregatiestatistieken over de herkomst van 300.000+ studenten in de periode 2014-2022beschikbaar gesteld door het CBS Lees meer...
Vooringenomenheid voorkomen
Afwijkingen zijn geconstateerd in het controleproces van DUO naar misbruik met de uitwonendenbeurs. Studenten die dicht bij hun ouder(s) woonden zijn aanzienlijk vaker geselecteerde voor controle naar misbruik met de uitwonendenbeurs in de periode 2012-2022. Het algoritme dat ter ondersteuning van de selectie werd gebruikt functioneerde naar verwachting, maar was niet goed onderbouwd. Lees meer...
Risicoprofilering heronderzoek bijstandsuitkering
Case study naar ML-gedreven risicovoorspellingen over onrechtmatig gebruik van bijstand. Een onafhankelijke commissie oordeelt dat algoritmische risicoprofilering onder strikte voorwaarden kan worden ingezet voor het selecteren van burgers voor heronderzoek. Het oogmerk van heronderzoek is een leidende factor bij de beoordeling van profile- ringscriteria. Lees meer...
BERT-gebaseerd disinformatie detectie-algoritme
Case study naar algoritmische detectie van nepnieuws op Twitter. Een onafhankelijke adviescommissie oordeelt dat er een laag risico is van proxy discriminatie bij de BERT-gebaseerde disinformatie detector en dat het waargenomen verschil in algoritmische behandeling tussen verschillende soorten Twitter gebruikers gerechtvaardigd kan worden, indien bepaalde voorwaarden van toepassing zijn. Lees meer...
Type simkaart als voorspeller voor betalingsfraude
Case study naar ML-gedreven risicoprofilering voor het detecteren van misbruik met het achteraf betalen bij een e-commerce platform. De adviescommissie adviseert tegen gebruik van type simkaart als input variabele voor een risicopredictie-algoritme. Type sim-kaart wordt geacht dusdanig een proxy-attribuut te zijn voor bijzondere persoonsgegevens dat het predictie-algoritme een onaanvaardbaar risico loopt om specifieke demografische groepen van de dienst uit te sluiten. Lees meer...
