Publieke standaard profileringsalgoritme
Voortbouwend op onze ervaring met het auditeren van risicoprofileringsmethoden heeft Algorithm Audit een publieke standaard opgesteld met kwalitatieve en kwantitatieve waarborgen voor de verantwoorde inzet van dit type algoritmes.
De standaard biedt een concreet stappenplan voor de verantwoorde inzet van profileringsalgoritmes voor toepassing in de publieke sector. De standaard kan ook in de private sector worden gebruikt.
Er zijn verschillende redenen waarom ontwikkelaars van profileringsmethoden niet moeten wachten op Europese geharmoniseerde normen, die ter ondersteuning van de AI Verordening worden ontwikkeld, om profileringssystemen te reguleren:
- AI Verordeningen geharmonizeerde normen hebben een brede reikwijdte (namelijk: alle type AI-systemen) en zijn daarom ineffectief om specifieke algoritische toepassingen te reguleren, zoals profilering;
- Klassieke regelgebaseerde systemen, waarvan regels door de mens zijn opgesteld (zie pre-ambule overweging 12), vallen niet onder de definitie van een AI-systeem en vallen daarmee buiten de reikwijdte van de AI Verordening;
- AI Verordeningen geharmonizeerde normen zullen enkel beschikbaar zijn achter de betaalmuur van standaardiseringsorganisaties en hinderen daarmee publieke kennisopbouw over de verantwoorde inzet van algoritmes.
In Nederland hebben ‘simpele’ regelgebaseerde profileringsalgoritmes de afgelopen 15 jaar tot veel ophef geleid. Deze publieke standaard beoogt een bijdrage te leveren aan risicobeheersmaatregelen om de methoden op een meer verantwoorde manier in te zetten.
