Zonder drempels geen verantwoording
23 september, 2026
Van principes naar toetsbare eisen: proportionaliteit, fairness en mens-in-de-lus
Deel 2 van een drieluik over AI-governance voor IT-auditors
Auteur: H. (Hein) van den Steenhoven
In deel 1, “Zonder dossier geen governance”, stond het audit ready AI-dossier centraal. Dit tweede deel bouwt daarop voort: hoe worden proportionaliteit, fairness en menselijk toezicht vertaald naar toetsbare ontwerp- en besliseisen? Figuur 1 toont deze vervolgstap binnen het drieluik.
1. Introductie: kernboodschap en doel
Proportionaliteit, fairness en menselijk toezicht worden pas auditbaar wanneer een organisatie ze vóór ingebruikname vertaalt naar toetsbare drempels, besliskaarten en bewijs.
Verantwoorde AI ontstaat niet door principes op te schrijven, maar door per toepassing vooraf te bepalen hoe zwaar de beheersing moet zijn, welk fairness-doel wordt gemeten, wie mag ingrijpen en welk bewijs de review levert. Dit artikel laat zien hoe die vertaling werkt, zodat de lezer bij een concrete AI-toepassing de opzet, het bestaan en de werking van deze eisen kan beoordelen. Het richt zich op IT-auditors en risk professionals en behandelt de ontwerp- en beslisfase. Monitoring, incidenten en bijsturing volgen in deel 3.
2. Probleemstelling: principes zijn nog geen beheersmaatregelen
Deel 1 van dit drieluik beschreef het AI-dossier als fundament voor governance en audit. Dat dossier maakt feiten, versies, besluiten en bewijs vindbaar. Maar een goed gevuld dossier zegt nog niet automatisch dat de inhoudelijke keuzes verantwoord zijn. Daarvoor moet vooraf duidelijk zijn welke grenzen de organisatie hanteert.
Juist daar ontstaat ruimte voor schijnzekerheid. Een toepassing heet “laag risico” zonder analyse van de feitelijke impact. Een fairness-rapport toont alleen gemiddelde nauwkeurigheid. Een medewerker bevestigt het AI-advies, maar mist tijd, broninformatie of mandaat om af te wijken. Op papier zijn de principes aanwezig; in de besluitvorming werken zij niet.
De centrale vraag van dit artikel luidt daarom: hoe vertaalt een organisatie proportionaliteit, fairness en menselijk toezicht vooraf naar toetsbare ontwerp- en besliseisen, en welk bewijs heeft de auditor nodig om de opzet, het bestaan en de werking daarvan te beoordelen?
Het antwoord begint met een eenvoudig uitgangspunt: principes geven richting, maar drempels geven bestuurbaarheid. Zonder expliciete criteria wordt pas achteraf bepaald wat “passend”, “eerlijk” of “voldoende menselijk” was. Dan beoordeelt de auditor niet langer een beheerst proces, maar een redenering die na de uitkomst is opgebouwd.
3. Proportionaliteit als stuurprincipe
Proportionaliteit betekent dat de zwaarte van de beheersing past bij de mogelijke schade, de waarschijnlijkheid daarvan en de context waarin AI wordt gebruikt. De AI-verordening volgt een risicogebaseerde benadering. Voor hoog-risico AI moeten maatregelen voor menselijk toezicht bijvoorbeeld in verhouding staan tot het risico, de autonomie van het systeem en de gebruikscontext. Ook het risicomanagement moet gedurende de levenscyclus blijven aansluiten op bekende en redelijkerwijs voorzienbare risico’s. [EURO24]
Proportionaliteit betekent niet “zo weinig mogelijk documentatie”. Het betekent: licht waar de impact aantoonbaar klein en goed omkeerbaar is, zwaar waar rechten, toegang, veiligheid of bestaanszekerheid kunnen worden geraakt. De eerste vraag is zelfs niet hoeveel beheersing nodig is, maar of de toepassing in deze context moet worden ingezet.
Een bruikbaar impactprofiel kijkt ten minste naar de volgende factoren.
De wettelijke risicoklasse is het minimumkader, niet het volledige impactprofiel. Ook een toepassing die juridisch niet als hoog-risico kwalificeert, kan intern zwaardere beheersing verdienen door schaal, kwetsbare gebruikers, gevoelige data of beperkte omkeerbaarheid. Andersom kan een intern label wettelijke minimumeisen nooit verlichten. Het risicoraamwerk moet daarom tijdens ontwerp, gebruik en wijziging worden bijgewerkt. [TABA23]
Auditvraag: Is de gekozen beheersingsintensiteit herleidbaar tot een gedocumenteerde impactafweging, of volgt zij alleen uit een generiek label als “hoog”, “beperkt” of “minimaal”?
4. Van risicoclassificatie naar governance-maatregelen
Een classificatie eindigt niet met een kleur. Zij leidt tot concrete eisen voor documentatie, testen, menselijk toezicht, monitoring en besluitvorming. Een intern impactprofiel vult de juridische kwalificatie aan.
Verboden gebruik stopt bij de eerste gate. Voor andere toepassingen wordt het profiel opnieuw beoordeeld wanneer doel, doelgroep, data, model, beslisdrempel, autonomie of leverancier wezenlijk verandert.
De Appendix / Toolkit met formats en sjablonen is onderdeel van de driedelige uitgave AI Governance in de praktijk, naast het hoofdboek als naslagwerk en het bestuurdersdeel. De toolkit combineert AIA, FRIA en DPIA in één beslisstraat: inventarisatie en classificatie, grondrechten en fairness, privacy en datakwaliteit, risicoweging en maatregelen, gevolgd door review en besluit. Dat voorkomt dubbel werk en tegenstrijdige conclusies.
De juridische uitkomsten blijven wel onderscheiden. Niet iedere AI-toepassing vereist een FRIA of DPIA; de beslisstraat bepaalt juist welke toets van toepassing is en hergebruikt gemeenschappelijke informatie. Een FRIA heeft onder de AI-verordening specifieke toepassingsvoorwaarden. Een DPIA volgt uit de AVG wanneer de verwerking waarschijnlijk een hoog risico voor rechten en vrijheden oplevert. [EURO16, EURO24, STEE26]
Auditvraag: Is per impactprofiel vooraf vastgelegd welke maatregelen en bewijzen verplicht zijn, en wordt bij iedere relevante wijziging opnieuw beoordeeld of dit profiel nog klopt?
5. Fairness: van waarde naar meetplan
Fairness is geen algemene eigenschap die een model wel of niet bezit. Het is een keuze over welk nadeel de organisatie in een concrete context wil voorkomen. Bij kredietvoorselectie kan dat het missen van kredietwaardige aanvragers zijn; bij fraudedetectie het verschil in fout-positieven; bij een risicoscore de vraag of dezelfde score voor groepen dezelfde werkelijke kans betekent.
Daarom begint een fairness-plan niet bij een grafiek, maar bij vooraf vastgelegde keuzes:
- het fairness-doel en het te voorkomen nadeel;
- de populatie, relevante groepen en intersectionele combinaties;
- de kwaliteit van het doelkenmerk of label waarmee “juist” wordt bepaald;
- de gekozen metrics en hun beperkingen;
- de drempels, onzekerheidsmarges en minimale datavolumes;
- de eigenaar, beslisroute en maatregelen bij overschrijding.
Een metric belicht steeds één kant van eerlijkheid. De onderstaande vier komen vaak voor.
