Wettelijke naleving veronderstelt correcte vaststelling of algoritmische systemen onder de reikwijdte van wet- en regelgeving vallen, inclusief bijbehorende risicocategorieën. AI AQT bestaat uit dynamische vragenlijsten die helpen bij:

• Identificatie: AI-systemen, AVG (profilering en volledig geautomatiseerde besluitvorming) en impactvolle algoritmes.

• Rol en status: Uw rol ten aanzien van het AI-systeem (aanbieder, gebruiksverantwoordelijke etc.) en gebruiksstatus van het systeem (in gebruik of in ontwikkeling).

• Risicocategorie: Verboden en hoogrisico AI-systemen, transparantievereisten voor bepaalde AI-systemen.

• Verplichtingen: Verplichtingen volgens de AI-verordening afhankelijk van de rol, status en risicocategorie van het AI-systeem.

AI AQT is open-source ontwikkeld en kan kosteloos binnen uw organisatie worden gebruikt onder de EUPL-1.2 licentie. Alle uitkomsten van de tool worden weergegeven in onderstaand figuur. De flowcharts van de vragenlijsten kunnen ook hieronder worden gevonden.

Het toepassen van juridische definities in de praktijk roept lastige vragen op. Bijvoorbeeld: welke kenmerken onderscheiden AI van andere algoritmische systemen? En welke criteria bepalen de risicocategorie van een AI-systeem? Gestandaardiseerde vragenlijsten helpen om algoritmemanagement efficiënt uit te voeren en wettelijke naleving op schaal te borgen. Vragenlijsten kunnen met behulp van AI AQT binnen organisaties decentraal worden ingevuld. De opgeslagen resultaten kunnen kunnen centraal door expertteams worden geanalyseerd. AI AQT bevat niet alleen vragenlijsten voor naleving van de AI-verordening, ook in het kader van de AVG en aanvullende beleidsinstrumenten (zoals de Handreiking Algoritmeregister) zijn vragenlijsten opgenomen (zie onderstaand figuur).

Infographic – Overzicht AI AQT vragenlijsten

De uitkomsten van de tool worden weergegeven in onderstaand figuur. Er wordt onderscheid gemaakt tussen de volgende categorieën:

De eerste versie van AI AQT is ontwikkeld in samenwerking met de gemeente Amsterdam en is daarna door Algorithm Audit doorontwikkeld. De broncode van de tool is beschikbaar in Github en kan worden (her)gebruikt onder de EUPL-1.2 licentie. De AI AQT wordt gebruikt door onder meer de volgende organisaties:

Overwegingen en keuzes die zijn gemaakt tijdens het opstellen van de vragenlijsten met betrekking tot interpretatie van de AI-verordening, richtlijnen van de Europese Commissie over de definitie van een AI-systeem en de transparantieverplichtingen uit artikel 50 AI-verordening, artikel 22 AVG en richtlijnen van de EPDB en Autoriteit Persoonsgegevens (AP) en de Handreiking Algoritmeregister worden beschreven in de white paper ‘AI AQT documentatie’.

In onderstaande policy briefing wordt toegelicht waarom passages uit de richtlijnen van de Europese Commissie de interpretatie van de definitie van een AI-systeem vertroebelen.

Aan de hand van voorbeelden lichten we de praktische uitwerking van de definitie van een AI-systeem en hoogrisico-categorieën uit de AI-verordening toe.

De bovenstaande flowcharts voor Vragenlijst Identificatie weergeven de logica die nodig is om vast te stellen of een algoritmisch systeem onder een van de volgende definities valt: AI-systeem, AVG (profilering, volledig geautomatiseerde besluitvorming) of impactvol algoritme. Bij het doorloop van de vragenlijst komt de gebruiker iedere vraag slechts één keer tegen. Een volledige flowchart van Vragenlijst Identificatie met alle paden en uitkomsten is hier te vinden.