Algoprudentie overzicht

Jaar
Type audit
Type algoritme
Ethische kwestie
Geharmonizeerde normen
Algoritme-eigenaar

Vooringenomenheid voorkomen

Afwijkingen zijn geconstateerd in het controleproces van DUO naar misbruik met de uitwonendenbeurs. Studenten die dicht bij hun ouder(s) woonden zijn aanzienlijk vaker geselecteerde voor controle naar misbruik met de uitwonendenbeurs in de periode 2012-2022. Het algoritme dat ter ondersteuning van de selectie werd gebruikt functioneerde naar verwachting, maar was niet goed onderbouwd. Lees meer...

AA:2024:01 technische audit regel gebaseerd profilering proxydiscriminatie publieke organisatie

Risicoprofilering heronderzoek bijstandsuitkering

De commissie oordeelt dat algoritmische risicoprofilering onder strikte voorwaarden kan worden ingezet voor het selecteren van burgers met een bijstandsuitkering voor heronderzoek. Het oogmerk van heronderzoek is een leidende factor bij de beoordeling van profile- ringscriteria. Lees meer...

AA:2023:02 publieke organisatie profilering normatieve audit machine learning hoog-risico AI-systeem proxydiscriminatie

BERT-gebaseerd disinformatie detectie-algoritme

De adviescommissie oordeelt dat er een laag risico is van (hoger-dimensionale) proxy discriminatie bij de BERT-gebaseerde disinformatie detector en dat het waargenomen verschil in algoritmische behandeling tussen verschillende soorten Twitter gebruikers gerechtvaardigd kan worden, indien bepaalde voorwaarden van toepassing zijn. Lees meer...

AA:2023:01 normatieve audit bias detectie tool machine learning hoog-risico AI-systeem balanceren FP-FNs Algorithm Audit desinformatie

Type simkaart als voorspeller voor betalingsfraude

De adviescommissie adviseert tegen gebruik van type simkaart als input variabele voor een risicopredictie-algoritme om misbruik met het achteraf betalen van online bestelde producten te voorspellen. Type sim-kaart wordt geacht dusdanig een proxy-attribuut te zijn voor bijzondere persoonsgegevens dat het predictie-algoritme een onaanvaardbaar risico loopt om specifieke demografische groepen van de dienst uit te sluiten. Lees meer...

AA:2022:01 normative audit profilering proxydiscriminatie private organisatie e-commerce

Nieuwsbrief

Blijf op de hoogte van ons werk door je in te schrijven voor onze nieuwsbrief

Nieuwsbrief

Blijf op de hoogte van ons werk door je in te schrijven voor onze nieuwsbrief