Wettelijke naleving veronderstelt correcte vaststelling of algoritmische systemen onder de reikwijdte van wet- en regelgeving vallen, inclusief bijbehorende risicocategorieën. AI AQT bestaat uit dynamische vragenlijsten die helpen bij:

1A – Identificatie van AI-systemen en impactvolle algoritmes;

1B – [BETA] Identificatie van AI-systemen, impactvolle algoritmes en volledig geautomatiseerde besluitvorming;

2 – Risicoclassificatie van AI-systemen.

De tool is open-source ontwikkeld in samenwerking met de gemeente Amsterdam en kan kosteloos binnen uw organisatie worden gebruikt voor algoritmemanagement. Alle mogelijke uitkomsten van de vragenlijsten worden weergegeven in onderstaand figuur. De flowcharts van de vragenlijsten kunnen ook hieronder worden gevonden.

Het toepassen van juridische definities in de praktijk roept lastige vragen op. Bijvoorbeeld: Welke kenmerken onderscheiden AI van andere data-gedreven systemen? En welke criteria bepalen de risicocategorie van een AI-systeem? Gestandaardiseerde vragenlijsten helpen om algoritmemanagement efficiënt uit te voeren. Vragenlijsten kunnen binnen de gehele organisatie worden gedeeld en centraal worden verwerkt. AI AQT biedt hiervoor een eenduidige en gebruiksvriendelijke werkwijze en is daarmee een bouwsteen richting wettelijke naleving. Niet alleen in het kader van de AI-verordening, ook in het kader van de AVG en aanvullende beleidsinstrumenten, zoals de Handreiking Algoritmeregister, is identificatie en risicoclassificatie relevant. Hoe deze regelgeving is verwerkt in de AI AQT kan worden gevonden in onderstaand figuur.

Verloop van AI AQT vragenlijsten

De uitkomsten van de tool worden weergegeven in onderstaande figuur. Er wordt onderscheid gemaakt tussen de volgende categorieën:

Vragenlijst 1A:

• AI-systemen: Vallen onder de reikwijdte van de AI-verordening. Afhankelijk van de risicocategorie zijn aanvullende beheersmaatregelen wettelijk verplicht. Ga verder met Vragenlijst 2.
• Impactvolle algoritmes: Vallen buiten de reikwijdte van de AI-verordening, maar binnen de reikwijdte van het Nederlandse Algoritmesregister. Aanvullende controlemaatregelen zijn nodig.

Vragenlijst 1B [BETA]:

• AI-systemen: Zie uitkomst Vragenlijst 1A.
• Impactvolle algoritmes: Zie uitkomst Vragenlijst 1A.
• Volledig geautomatiseerde besluitvorming: Vallen onder de reikwijdte van artikel 22 van de AVG. Aanvullende beheersmaatregelen zijn nodig.
• Overige systemen: Vallen buiten de reikwijdte van de AI-verordening, het Nederlandse Algoritmesregister en artikel 22 van de AVG.

Vragenlijst 2:

• Verboden AI-systemen: Het gebruik van dit type AI-systeem is verboden in de Europese Unie. Meer informatie over deze categorie wordt verstrekt door de Nederlandse overheid.
• Hoog-risico AI-systemen: Er zijn aanvullende controlemaatregelen voor AI-systemen met een hoog risico nodig door middel van geharmoniseerde normen.
• Aanvullende transparantievereisten: Dit type AI-systeem vereist aanvullende transparantie, maar er zijn geen controlemaatregelen nodig.
• AI-modellen voor algemene doeleinden (General Purpose AI): Er gelden aanvullende eisen voor de ontwikkelaars.

De AI en Algoritme Kwalificatie Toolkit (AI AQT) is ontwikkeld in samenwerking met de gemeente Amsterdam. De broncode van de tool is beschikbaar in Github en kan worden (her)gebruikt onder de EUPL-1.2 licentie. De AI AQT wordt gebruikt door onder meer:

Overwegingen en keuzes die zijn gemaakt tijdens het opstellen van de vragenlijsten met betrekking tot interpretatie van de AI-verordening, richtlijnen van de Europese Commissie over de definitie van een AI-systeem, artikel 22 AVG richtlijnen van de EPDB en Autoriteit Persoonsgegevens (AP) en de Handreiking Algoritmeregister worden beschreven in de white paper ‘Implementatie van de AI-verordening – Definitie van een AI-systeem’. In de policy briefing wordt toegelicht waarom bepaalde passages uit de richtlijnen van de Europese Commissie over de definitie van een AI-systeem op gespannen voet staan met de wettekst van de AI-verordening.

Vragenlijst 1B (bèta) wordt spoedig opgenomen in de documentatie.

Aan de hand van voorbeelden lichten we de uitwerking van juridische concepten relevant voor algoritmische systemen toe.

Regelgebaseerde algoritmen onder de AI-verordening

Definitie van een AI-systeem volgens de AI-verordening

Voorkomen van uitsluitend op profilering gebaseerde besluitvorming

Link naar flow chart met volledige logica met alle vragen voor de drie definities zoals geïmplementeerd in Vragenlijst 1B: https://algorithmaudit.eu/pdf-files/technical-tools/AI-AQT/20260115%20Full%20flowchart%20identification.pdf