Documentatie voor AI-systemen

Open-source templates voor modeldocumentatie van AI-systemen. Afgestemd op de eisen uit de AI Verordening en Nederlandse soft law kaders, zoals de Handreiking Algoritmeregister van het Ministerie van Binnenlandse Zaken.

Help mee ontwikkelen, deel feedback middels Github of via info@algorithmaudit.eu.

Overzicht

Terug naar overzicht

Identificatie AI systeem en impactvolle algoritmes

Bepaal aan de hand van maximaal 7 vragen of uw toepassing een AI systeem of impactvol algoritme is.

* verplicht

Bevat de toepassing een model of beslisregels die uit data zijn afgeleid?

Ja, model of beslisregels zijn handmatig opgesteld

Model of beslisregels zijn handmatig opgesteld, maar ingegeven door data-analyse om bijvoorbeeld selectie van variabelen, weegfactoren of drempelwaardes te bepalen

Ja, model of beslisregels zijn door statistische methode opgesteld

Model of algoritme is tot stand gekomen doormiddel van optimalisatie, machine learning, simulatie of soortgelijk

Nee

Tot welke van de volgende categorieën behoort de uitkomst van de toepassing?

Een ingeschatte score, rangschikking of kans

Een ingeschat label of classificatie

Ja/nee, hoog/laag of een indeling in groepen

Een aanbeveling

Een beslissing

Content (geschreven tekst, video, audio of afbeeldingen)

Een grafiek of dashboard is geen content

Een ander soort output

Geef een beschrijving van de output
*

Automatisering van door mensen opgestelde regels

Is de toepassing automatisering van door mensen opgestelde regels?

Wanneer de regels binnen uw toepassing vooraf niet expliciet zijn opgesteld en gedocumenteerd, kies hier dan “nee”. Software vereisten (requirements) waar nog vrijheidsgraden in zitten, zijn geen expliciete door mensen opgestelde regels.

Ja, wet- of regelgeving

Eén-op-één automatisering van in wet- of regelgeving vastgestelde regels

Ja, door mensen opgesteld

Automatisering van door mensen opgestelde regels of formule(s)

Ja, logica of kennis-gebaseerd systeem

Logica- en kennis-gebaseerde benaderingen van AI waarbij uitkomsten worden afgeleid uit gecodeerde kennis of uit een symbolische weergave van de op te lossen taak

Nee

Welke wet of regelgeving?
*

Uw toepassing is op basis van uw antwoorden waarschijnlijk een AI systeem.

Een AI Act risk assessment moet worden ingevuld.

Volgende stap

De volgende vragen gaan over het proces waarin de toepassing gebruikt wordt. Het maakt hier voor de antwoorden niet uit in hoeverre dit proces geautomatiseerd is en welke rol de toepassing heeft in het proces. We vragen hierna uit welke rol de toepassing speelt.

Rol in beslissingproces

Worden in het proces beslissingen genomen voor individuele burgers?

Let op: een beslissing is veel breder dan een formeel besluit

Ja

Nee

Soort beslissing

Wat voor soort beslissingen worden genomen in dit proces? Kies de optie die de grootste overeenkomst heeft met de soort beslissing.

Beslissing over prioritering of routering van aanvragen, verzoeken, klachten en bezwaren

Beslissing over formele klachten en bezwaren

Beslissing met directe financiële gevolgen voor burger

Bijvoorbeeld beslissingen over uitkering, toeslag, subsidie, boete, terugbetaling of mogelijkheid tot betalingsregeling

Beslissing over aanvraag of verzoek zonder directe financiële gevolgen

Beslissing over controle, onderzoek of verzoek tot aanvullende informatie verschaffing door de burger

Beslissing over toewijzing van scholen

Beslissingen over advisering of het (proactief) aanbieden van voorzieningen

Anders

Beschrijf het soort beslissing
*

Type interactie met burger

Het proces draagt bij aan hoe de overheid (groepen) inwoners categoriseert of benadert?

Kies “Ja” wanneer je het niet zeker weet en beschrijf hieronder kort waarom.

Ja

Nee

Effect van toepassing

Wat is effect van de toepassing op de uitkomst van het proces?

Kies de mogelijkheid die het beste past.

De uitkomst van het proces wordt direct bepaald door de toepassing

Bijvoorbeeld straight through processing. Menselijk toezicht kan achteraf door de uitkomsten te bekijken of analyseren.

De uitkomst van het proces wordt in grote mate beïnvloed door de toepassing

Bijvoorbeeld doordat werkinstructies een consequentie verbinden aan een specifieke output van de toepassing. Een medewerker kan afwijkende keuzes maken, maar in de praktijk is de output een doorslaggevende factor voor de procesuitkomst.

De uitkomst van het proces wordt in zekere mate beïnvloed door de output van de toepassing

De output van de toepassing een belangrijke factor voor de procesuitkomst, maar een medewerker maakt zelf de keuze over de uitkomst. Deze medeweker heeft de juiste informatie, ervaring/kunde, mandaat en beschikbare tijd om deze keuze te maken.

De uitkomst van het proces wordt volledig door een mens bepaald en wordt beïnvloed door meerdere factoren waarin de output slechts een van deze factoren is

De output van de toepassing is niet doorslaggevend in de keuze.

Een ander soort effect

Beschrijf het effect van de toepassing op het proces
*

Uw toepassing is op basis van uw antwoorden geen AI systeem of impactvol algoritme.

Het zou kunnen dat contact wordt opgenomen met het primair aanspreekpunt voor deze toepassing, wanneer het AI Compliance team vragen hebben.