Implementatie van de AI-verordening brengt lastige vragen met zich mee. Wat is de reikwijdte van de AI-systeem definitie? Aan de hand van welke criteria kan de risicocategorie van een algoritme worden geïdentificeerd? Twee dynamische vragenlijsten helpen gebruikers en ontwikkelaars bij:

1. Identificatie van AI-systeem en impactvolle algoritmes;
2. Risicoclassificatie van AI-systemen.

Complexe juridische definities uit de AI-verordening en bijbehorende richtlijnen zijn vertaald naar begrijpbare taal, zodat de tool door een brede doelgroep gebruikt kan worden.

Omdat niet alle algoritmes met invloed op burgers een AI-systeem zijn, houdt de eerste vragenlijst ook rekening met impactvolle algoritmes. Deze term wordt gebruik door de Rijksoverheid om te verwijzen naar algoritmes die niet voldoen aan de AI-systeem definitie uit de AI-verordening, maar waar wel risicobeheersmaatregelen voor ingericht dienen te worden. Meer informatie kan worden gevonden in de Handreiking Algoritmeregister van het Ministerie van Binnenlandse Zaken en Koningkrijksrelaties.

De tool is open-source ontwikkeld en kan kosteloos binnen uw organisatie worden gebruikt voor algoritemanagement. Alle mogelijke uitkomsten van de eerste vragenlijst zijn weergeven in het figuur beneden op deze webpagina. De flowcharts van beide vragenlijsten kunnen ook hieronder worden gevonden.

De vragen in de AI-verordening implemenatie tool zijn ontwikkeld in samenwerking met de gemeente Amsterdam. De broncode van de tool is beschikbaar in Github en kan worden (her)gebruikt onder de EUPL-1.2 licentie.

De uitkomst van de eerste vragenlijst wordt schematisch weergeven in onderstaand figuur. Er wordt onderscheid gemaakt tussen:

• Algoritmes: vallen buiten de reikwijdte van de AI-verordening, behoeven geen extra beheersmaatregelen.
• Impactvolle algoritmes: vallen buiten de reikwijdte van de AI-verordening, behoeven wel extra beheersmaatregelen.
• AI-systemen: vallen binnen de reikwijdte van de AI-verordening, behoeven alleen extra beheersmaatregelen als er sprake is van hoog-risico AI-systemen en specifieke vormen van generieke AI.
• Hoog risico AI-systemen: vallen binnen de reikwijdte van de AI-verordening en behoeven extra beheersmaatregelen aan de hand van geharmonizeerde normen.
• Verboden AI-systemen: vallen binnen de reikwijdte van de AI-verordening, dit type AI-systemen zijn verboden. Meer toelichting over deze categorie kan gevonden worden op Digitale overheid.

Overwegingen en keuzes die zijn gemaakt tijdens het opstellen van de vragenlijsten met betrekking tot de wettekst, richtlijnen van de Europese Commissie en de Handreiking Algoritmeregister worden in de white paper ‘Implementatie van de AI-verordening – Definitie van een AI-systeem’ beschreven. In de policy briefing wordt toegelicht waarom de richtlijnen van de Europese Commissie over de definitie van een AI-systeem op gespannen voet staan met de wettekst van de AI-verordening. De white paper en de vragenlijsten zijn beiden aangepast naar aanleiding van publicatie van de richtlijnen van de Europese Commissie.

Aan de hand van voorbeelden lichten de volgende drie explainers de reikwijdte van de AI-systeem definitie toe.

10 voorbeelden van (geen) AI-systemen

Regelgebaseerde algoritmen onder de AI-verordening

Definitie van een AI-systeem volgens de AI-verordening