Algoprudentienummer

AA:2022:01

Samenvatting advies

De normatieve adviescommissie adviseert tegen het gebruik van type simkaart als inputvariabele voor een risicopredictie-algoritme dat betalingsachterstanden voorspelt voor klanten van een e-commerce platform. De commissie acht het waarschijnlijk dat type simkaart fungeert als een proxy-variabele voor gevoelige demografische categorieën. Door gebruik van de variabele zou het model een onaanvaardbaar risico lopen om kwetsbare demografische groepen uit te sluiten van de mogelijkheden om producten achteraf te betalen. Bij gebrek aan betrouwbare gegevens die het tegendeel aantonen, weegt het ethische risico van het opnemen van de simkaart-variabele in het ML-algortime zwaarder dan de mogelijke voordelen. De commissie adviseert om verschillende alternatieven te overwegen bij het omgaan met betalingsachterstanden.

Bron van casus

Geanonimiseerde multinational met e-commerce platform.

Algoprudentie

De probleemstelling en het adviesrapport kunnen hier worden gedownload.

Normatieve adviescommissie

• Fleur Jongepier, Assistant Professor Digital Ethics, Radboud University
• Jan Overgoor, PhD Management Science and Engineering, Stanford University
• Merel Noorman, Assistant Professor Law, Technology and Society, Tilburg University
• Roel Dobbe, Assistant Professor Engineering Systems and Services, TU Delft