Wettelijke naleving veronderstelt correcte vaststelling of algoritmische systemen onder de reikwijdte van wet- en regelgeving vallen, inclusief bijbehorende risicocategorieën. AI AQT bestaat uit dynamische vragenlijsten die helpen bij:

1 – Identificatie: AI-systemen, volledig geautomatiseerde besluitvorming en impactvolle algoritmes.

2 – Riscoclassificatie: Verboden AI-systemen, hoogrisico AI-systemen, aanvullende transparantievereisten en AI-model voor algemene doeleinden (GPAI).

De tool is open-source beschikbaar en kan kosteloos binnen uw organisatie worden gebruikt voor AI governance. Alle uitkomsten van de vragenlijsten worden weergegeven in onderstaand figuur. De flowcharts van de vragenlijsten kunnen ook hieronder worden gevonden.

Het toepassen van juridische definities in de praktijk roept lastige vragen op. Bijvoorbeeld: welke kenmerken onderscheiden AI van andere algoritmische systemen? En welke criteria bepalen de risicocategorie van een AI-systeem? Gestandaardiseerde vragenlijsten helpen om algoritmemanagement efficiënt uit te voeren en wettelijke naleving op schaal te borgen. Vragenlijsten kunnen met behulp van AI AQT binnen organisaties decentraal worden ingevuld. De opgeslagen resultaten kunnen kunnen centraal door expertteams worden geanalyseerd. AI AQT bevat niet alleen vragenlijsten voor naleving van de AI-verordening, ook in het kader van de AVG en aanvullende beleidsinstrumenten (zoals de Handreiking Algoritmeregister) zijn vragenlijsten opgenomen (zie onderstaand figuur).

Infographic – Overzicht AI AQT vragenlijsten

De uitkomsten van de tool worden weergegeven in onderstaand figuur. Er wordt onderscheid gemaakt tussen de volgende categorieën:

Vragenlijst 1:

• AI-systemen: Vallen onder de reikwijdte van de AI-verordening. Afhankelijk van de risicocategorie zijn aanvullende beheersmaatregelen wettelijk verplicht. Ga verder met Vragenlijst 2.
• Impactvolle algoritmes: Vallen buiten de reikwijdte van de AI-verordening, maar binnen de reikwijdte van het Nederlandse Algoritmesregister. Aanvullende controlemaatregelen zijn nodig.
• Volledig geautomatiseerde besluitvorming (sADM): Vallen onder de reikwijdte van artikel 22 van de AVG. Aanvullende beheersmaatregelen zijn nodig.
• Overige systemen: Vallen buiten de reikwijdte van de AI-verordening, het Nederlandse Algoritmesregister en artikel 22 van de AVG.

Vragenlijst 2:

• Verboden AI-systemen: Het gebruik van dit type AI-systeem is verboden in de Europese Unie. Meer informatie over deze categorie wordt verstrekt door de Nederlandse overheid.
• Hoog-risico AI-systemen: Er zijn aanvullende controlemaatregelen voor AI-systemen met een hoog risico nodig door middel van geharmoniseerde normen.
• Aanvullende transparantievereisten: Dit type AI-systeem vereist aanvullende transparantie, maar er zijn geen controlemaatregelen nodig.
• AI-modellen voor algemene doeleinden (General Purpose AI): Er gelden aanvullende eisen voor de ontwikkelaars.

De eerste versie van AI AQT is ontwikkeld in samenwerking met de gemeente Amsterdam en is daarna door Algorithm Audit doorontwikkeld. De broncode van de tool is beschikbaar in Github en kan worden (her)gebruikt onder de EUPL-1.2 licentie. De AI AQT wordt gebruikt door onder meer de volgende organisaties:

Overwegingen en keuzes die zijn gemaakt tijdens het opstellen van de vragenlijsten met betrekking tot interpretatie van de AI-verordening, richtlijnen van de Europese Commissie over de definitie van een AI-systeem, artikel 22 AVG richtlijnen van de EPDB en Autoriteit Persoonsgegevens (AP) en de Handreiking Algoritmeregister worden beschreven in de white paper ‘AI AQT documentatie’. In de policy briefing wordt toegelicht waarom passages uit de richtlijnen van de Europese Commissie de interpretatie van de definitie van een AI-systeem vertroebelen.

Aan de hand van voorbeelden lichten we de praktische uitwerking van de definitie van een AI-systeem en hoogrisico-categorieën uit de AI-verordening toe.

De bovenstaande flowcharts voor Vragenlijst 1 zijn vereenvoudigde weergaven van de logica die nodig is om vast te stellen of een algoritmisch systeem onder een van de volgende definities valt: AI-systeem, volledig geautomatiseerde besluitvorming of impactvol algoritme. Bij een daadwerkelijk doorlop van de vragenlijst overlappen de vragen elkaar en komen gebruikers iedere vraag slechts één keer tegen. Een volledige flowchart van Vragenlijst 1 met alle paden en uitkomsten is hier te vinden.