Dit artikel is gepubliceerd in een thema-editie van het Tijdschrift voor Toezicht (TvT) als Praktische handvatten voor empirisch toezicht op profileringsalgoritmes.

Abstract

Bij toezicht op algoritmes en AI staat niet alleen het recht, maar ook de sta8s8ek centraal. Aan de hand van een concreet profileringsalgoritme lichten we toe dat bestaande kaders, handreikingen en so> law onvoldoende houvast bieden voor het invullen van open normen uit het gelijke behandelingsrecht. We illustreren dat beproefde methoden uit de empirische wetenschap handvaBen bieden om deze normen in te vullen. Aan de hand van het prak8jkvoorbeeld wordt een vragenlijst geïntroduceerd die toezichthouders ondersteunt in het stellen van gerichte vragen over indirect onderscheid door algoritmes en AI. Deze aanpak bouwt voort op weBelijke kaders en stelt toezichthouders in staat met beperkte middelen effec8ef toezicht te houden op algoritme-gedreven besluitvormingsprocessen.