Verboden toepassing

Wordt het product voor een van de volgende toepassingen ingezet?

• Biometrische identificatie op afstand in real-time in openbare ruimte in het kader van rechtshandhaving i
• Sociale evaluatie of sociale classificatie i
• Toepassing van kwetsbaarheden van burgers (zoals economische status of handicap)
• Vaststellen of een burger potentieel een misdrijf gaat plegen
• Het product maakt gebruik van een databank met gezichtsherkenning of draagt hier aan bij
• Het product maakt gebruik van emotieherkenning op de werkplek of in het onderwijs
• Opzettelijke manipulatie of misleiding

Verboden

Toepassing is in strijd met de wet en/of intern beleid. Neem contact op met Al compliance Officer mocht je verder in gesprek willen.

Benodigde maatregelen i

Wordt er in het product gebruik gemaakt van:

• Beoordeling of burgers in aanmerking komen voor overheidsuitkeringen en- diensten
• Opstellen van een (risico)profiel van een persoon, groep personen of een gebied
• Toepassingen van biometrie voor categorisering op basis van gevoelige of beschermde eigenschappen of identificatie op afstand
• Emotieherkenning
• Werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid
• Toelating tot onderwijs
• Veiligheidscomponenten van kritieke infrastructuur
• Rechtshandhaving

Vaststellen van doel

De volgende stap is om het doel vast te stellen. Is de toepassing bedoeld om:

• een beperkt aantal procedurele taak uit te voeren;
• een resultaat van een eerder voltooide taak van een mens te verbeteren
• besluitvormingspatronen of afwijkingen van eerdere besluitvormingspatronen op te sporen en is niet bedoeld om de eerder voltooide menselijke beoordeling te vervangen of te beïnvloeden
• een voorbereidende taak uit te voeren in dit specifieke proces?

Type data en algoritme

Wordt een van de volgende methoden gebruikt?

• Al voor algemene doeleinden (Generative Al toepassingen die gebaseerd zijn op een taalmodel zoals bijvoorbeeld ChatGPT)
• Directe interactie(gesprek) met burgers zoals chatbots
• Synthetische data, zoals audio, videobeeld of tekstinhoud kan genereren
• Het nemen van besluiten voor burgers

Geen maatregelen

Geen maatregelen van toepassing, want lage risicocategorie

Hoog-risico maatregelen

Dit zijn de maatregelen die van toepassing zijn:

• Hyperlink naar instrumenten en contactpersonen
• Automatische email naar relevante stakeholders

Toelichting: Deze maatregelen zijn van toepassing omdat het een hoog risico toepassing betreft.

Transparantie verplichting

Dit zijn de maatregelen die van toepassing zijn:

• Hyperlink naar instrumenten en contactpersonen
• Automatische email naar relevante stakeholders

Toelichting: Deze maatregelen zijn van toepassing omdat er extra transparantieverplichtingen zijn en/of er gewerkt wordt met (bijzondere) persoonsgegevens