AI beheersing: van gedrag naar verantwoording
21 september, 2026
Veiligheid vraagt om meer dan regels
AI-systemen handelen steeds autonomer en hun gedrag krijgt steeds vaker gevolgen buiten het model systeem zelf. Dat vraagt om een volgende stap in AI-governance: van principes over verantwoord gebruik naar het systematisch signaleren, onderzoeken en verantwoorden van ongewenst AI-gedrag. Die ontwikkeling wordt deze week zichtbaar vanuit twee kanten.
In de Tweede Kamer ligt een voorstel voor een Nederlands AI-veiligheidsinstituut, in samenwerking met vergelijkbare Europese initiatieven. Premier Jetten heeft aangegeven dit te willen verkennen en aansluiting te zoeken bij lopende Europese initiatieven. Tegelijk introduceerde OpenAI een systematiek voor het vastleggen, onderzoeken en openbaar maken van zogenoemde model misalignment. Daarbij zijn direct voorbeelden gepubliceerd van modellen die ongeautoriseerde acties uitvoerden, beperkingen probeerden te omzeilen of informatie verborgen.
Voor NOREA is vooral interessant dat AI-gedrag daarmee steeds meer wordt behandeld zoals ander gedrag met maatschappelijke gevolgen: incident vaststellen, onderzoeken wat gebeurde, maatregelen nemen en ervan leren.
Mona de Boer, NOREA Kennisgroep AI
“Bij AI moeten we niet alleen weten wat een systeem hoort te doen, maar juist ook wat er gebeurt als het daarvan afwijkt. Dan moet je kunnen reconstrueren wat er is gebeurd, waarom en of de genomen maatregelen werken.”
Tegelijkertijd heeft AI specifieke eigenschappen. Een AI-agent kent niet de fysieke beperkingen van een menselijke medewerker, kan in seconden handelen, acties parallel uitvoeren en op grote schaal opereren. Menselijk toezicht kan daarom niet simpelweg betekenen dat iemand iedere handeling vooraf goedkeurt.
De uitdaging wordt om de mens effectief in de loop te krijgen én te houden: door vooraf bevoegdheden en grenzen te bepalen, risicovolle handelingen te laten escaleren, gedrag continu te monitoren en waar nodig onmiddellijk te kunnen ingrijpen.
Marc Welters RE RA, voorzitter NOREA
“AI-veiligheid vraagt uiteindelijk om aantoonbaarheid. Niet alleen afspraken over wat een systeem zou moeten doen, maar bewijs dat grenzen functioneren, incidenten worden herkend en bestuurders daadwerkelijk grip houden op de toepassing.”
Een AI-veiligheidsinstituut kan daarbij een belangrijke rol spelen. Technisch veiligheidsonderzoek, toezicht en onafhankelijke assurance zijn echter verschillende functies. Digital trust ontstaat wanneer die functies elkaar aanvullen en kunnen steunen op betrouwbare evidence.
Wat kunnen organisaties nu doen?
Wachten op nieuwe instituties of regelgeving is niet nodig. Organisaties kunnen nu al:
- vastleggen welke AI-systemen en agents zelfstandig mogen handelen en binnen welke grenzen;
- bepalen welke acties altijd menselijke goedkeuring vereisen;
- vaststellen dat de toegang tot AI-systemen adequaat is ingeregeld;
- zorgen dat beslissingen en acties achteraf reconstrueerbaar zijn;
- afwijkend gedrag en incidenten systematisch registreren en onderzoeken;
- testen of escalatie-, stop- en herstelmechanismen daadwerkelijk functioneren;
- en het bestuur periodiek laten beoordelen welk restrisico wordt geaccepteerd.
AI wordt daarmee steeds meer een regulier bestuurlijk risicovraagstuk — maar wel één dat door snelheid, schaal en autonomie om nieuwe vormen van beheersing en assurance vraagt.
Geschreven door
Peter van der Leij
Contentmanager NOREA
