Grip op AI: Verplicht, verstandig en verantwoord

19 november, 2026
AI in het jaarplan van de CAE en de IT-assurance professional 
Auteurs Guus Focken en Jean-Jacques Bistervelds

De AI-verordening vertelt wat verplicht is, maar waar zet je als CAE en als IT-auditor je schaarse uren in? 

Een recruiter laat Copilot vijftig sollicitaties rangschikken. Handig en snel. Maar daarmee wordt een algemene AI-tool ingezet voor werving en selectie, en dat is volgens de AI-verordening een hoogrisico toepassing. De HR-medewerker was hiervan niet op de hoogte. Toch gebruikt de organisatie vanaf dat moment een hoog-risicosysteem, met alle verplichtingen die daarbij komen kijken. 

Het laat zien hoe snel de AI-verordening je inhaalt, en hoeveel werk erachter schuilgaat. Op 4 november 2026 spraken hoofden audit, risk en compliance van verzekeraars en pensioenfondsen over beheersing van risico’s van AI vs. kansen, de AI-verordening en de rollen van de lijnen. Ferocia faciliteerde het event in haar kantoor in Utrecht. De achterliggende vraag: als alles werk is, waar zet je als hoofd interne audit, risk of compliance je schaarse capaciteit in? En op basis van welke criteria? Het antwoord van de dag was: kijk wat verplicht is, bepaal wat verstandig is en zorg dat je het kunt verantwoorden.  
Verplicht 
De AI-verordening is juridisch van opzet [EURO24]. Wie haar toepast, komt al snel tot vier vragen: Is het AI? In welke categorie valt het? Welke rol heb ik zelf ten aanzien van AI? En hoe verhoudt het zich tot andere wetgeving (figuur 1)?
Een ‘slimme’ spreadsheet is nog geen AI
Een van de belangrijkste punten van advies vanuit het event was de definitie van AI uit de verordening zelf te gebruiken: artikel 3 omschrijft wat een AI-systeem is. [EURO24] Die definitie is juridisch geformuleerd. Ze sluit over het algemeen niet aan op de manier waarop de meeste IT-auditors en IT risk officers over AI praten. Leg de strekking daarom intern goed uit. Anders registreert de ene afdeling elke slimme spreadsheet, een andere afdeling niets en een derde alles ertussenin.

De verordening regelt in de eerste plaats AI-systemen: de toepassing in haar context. Zie figuur 2. Voor de makers van grote taalmodellen gelden aparte verplichtingen. Voor een organisatie die zo’n model gebruikt, is het systeem waarin het model draait het object: de applicatie, de koppelingen, de data en de instructies.

Hoe ver de AI-definitie reikt, staat op dit moment nog niet vast. Neem klassieke statistiek zoals lineaire en logistische regressie, al decennia in gebruik voor onder meer modellen voor premies en kredietbeoordeling. De richtsnoeren van de Europese Commissie plaatsen die methoden buiten de definitie. [EURO25] EIOPA vroeg in april 2026 om dat uitdrukkelijk vast te leggen. [EIOP26] Toch overweegt het AI Office om deze modellen alsnog als AI-systeem aan te merken. [VERB26, INSU26] Houd deze modellen dus in beeld. Ze kunnen zomaar binnen de scope van de AI-verordening vallen.
Hoog risico is een etiket, geen oordeel
Hoog risico is in de verordening geen uitkomst van een risicoanalyse, maar een wettelijke indeling. Een systeem is daarbij een hoog risico systeem als het valt onder een toepassingsgebied uit bijlage III, of onder de productwetgeving uit bijlage I van de AI-verordening. [EURO24] Of het past bij je eigen risicobeoordeling en risk appetite, doet daarbij niet ter zake.

Bijlage III leest als een dwarsdoorsnede van de economie. Werving en selectie, zoals de recruiter met Copilot, raakt elke werkgever. Beoordeling van de kredietwaardigheid van personen raakt onder meer de banken. Toegang tot publieke voorzieningen en uitkeringen raakt de overheid. En risicobeoordeling en prijsstelling bij levens- en zorgverzekeringen raakt verzekeraars. Een schadeverzekeraar heeft daardoor een ander profiel onder de verordening dan een zorgverzekeraar. Lees de bijlagen dus goed om te bepalen of activiteiten met AI een hoog risico vormen onder de AI-verordening. En let op dat dat nog geen eigen interne weging inhoudt. 

En let op: ook de agents die medewerkers zelf in kantoorsoftware bouwen, kunnen AI-systemen zijn. Of ze hoog risico zijn, hangt af van waarvoor ze worden gebruikt. Een agent die vergaderingen samenvat, is iets anders dan een agent die sollicitaties rangschikt.

Het is belangrijk om tijdig het gebruik van AI in te delen naar deze categorieën, want er gelden extra eisen voor hoog risico-AI-systemen [EUR26]. Er is echter nog tijd voor voorbereiding. Met de Digital Omnibus gelden de eisen voor hoog-risicosystemen uit bijlage III pas vanaf 2 december 2027. [EURO26] Maar uitstel is geen afstel.
Ongemerkt aanbieder & uitbesteding
De verordening legt de zwaarste verplichtingen bij de aanbieder: de partij die een systeem ontwikkelt en onder eigen naam op de markt brengt of in gebruik neemt. Wie inkoopt, is meestal gebruiksverantwoordelijke ofwel deployer. [EURO24] Ook die rol is niet vrijblijvend. Bij een hoog-risicosysteem moet je het systeem gebruiken volgens de gebruiksaanwijzing, menselijk toezicht beleggen bij mensen die daarvoor bekwaam zijn, toezien op de invoerdata, de werking monitoren en de logs bewaren. Werknemers moeten vooraf weten dat zo’n systeem op de werkvloer wordt ingezet. Overheden, en financiële instellingen die hoog-risicosystemen gebruiken, moeten daarnaast vooraf de gevolgen voor grondrechten beoordelen.

Voor hoog-risicosystemen gelden Europese CE-markering en een gebruiksaanwijzing, net als bij machines. Die regelt de aanbieder. Dan kan de organisatie op het normale interne uitbestedingsproces steunen welke voldoet aan de normaal geldende sectorale wetgeving. Maar je kunt ongemerkt van rol wisselen: wie een hoog-risicosysteem onder eigen naam of merk aanbiedt, het wezenlijk wijzigt of een algemene tool inzet voor een doel dat hoog risico is, wordt zelf aanbieder. [EURO24] Dan komen conformiteitsbeoordeling, technische documentatie en CE-markering op jouw bord. Dat is het risico dat de recruiter met Copilot loopt.

Ook in het klein word je snel aanbieder. Een verzekeraar die een ingekocht taalmodel als ‘Verzekeraar X Chat’ op de eigen website zet, is aanbieder van dat systeem. Bij een gewone chatbot blijven de verplichtingen beperkt: klanten moeten vooral weten dat ze met AI praten. Wordt dezelfde chatbot ingezet voor een hoog-risicodoel, dan gelden de zware eisen.
Een register, geen CMDB
Alles begint bij weten wat je hebt. Een register van AI-toepassingen met hun indeling en de rol van de organisatie is onmisbaar. Zonder register kun je niet aantonen dat je alles hebt geclassificeerd. Tegelijk klonk de zorg voor overmatige bureaucratie: het register hoeft geen uitputtende CMDB te worden waarin van elke toepassing het waarom tot in detail is vastgelegd. Leg vast wat nodig is om in te delen en te beheersen: wat het systeem doet, wie de eigenaar is, of het is ingekocht of zelf ontwikkeld, in welke categorie het valt en welke rol de organisatie heeft.

Hoe groot die klus is, vertelde een verzekeraar die voor al haar AI-systemen een risicoanalyse uitvoerde. Dat bleek een flinke kluif. Het onderscheid tussen inkopen en zelf ontwikkelen was de eerste splitsing, omdat het de rol en dus de verplichtingen op grond van de AI-verordening bepaalt. Wat dus nog voor de eigen bedrijfsmatige eisen komt die je op basis van je beleid ook nog kan hebben.
Verstandig
De verordening vertelt wat moet. Ze vertelt niet wat verstandig is. Daarvoor zijn je eigen logica en ervaring nodig. Vraag je dus af welke beheersing passend is bij het gebruik van je bedrijfsdocumenten door AI of bedrijfsactiviteiten via AI. En ben bereid de kosten voor de benodigde AI te dragen.
Wat de wet niet ziet
De verordening beschermt gezondheid, veiligheid en grondrechten van mensen. [EURO24] En die sluit aan bij het concept van Klantbelang Centraal [AFM26]. De indeling in risicoklassen volgt die bril: het belang van klant, burger en werknemer staat centraal. Dat is iets anders dan het risico voor de organisatie zelf in het licht van winstgevendheid en het risico op verlies. Een toepassing kan wettelijk hoog risico zijn terwijl de organisatie haar eigen bedrijfsvoeringsrisico beperkt inschat. En andersom.

Neem een pakketleverancier die bij een reguliere release het model achter een module voor de beoordeling van schadeclaims vernieuwt. De uitkomsten voor een hele productgroep schuiven op. Wettelijk is dat geen hoog-risicosysteem, maar het is wel een serieus risico voor resultaat en reputatie. Aan een van de tafels was de eerste reactie praktisch: terug naar de vorige versie en nieuwe releases voortaan testen. Rapporteren aan het bestuur vond die tafel te operationeel. Dat kan kloppen voor het incident zelf. Maar het onderliggende probleem, modelwijzigingen die buiten beeld blijven, hoort wel in het beeld dat het bestuur krijgt.

Neem daarom in je AI-beleid ook eigen bedrijfsspecifieke risicoafwegingen op, naast de wettelijke risico-indeling. Voor financiële instellingen is dat geen vrije keuze. De Wft vereist een integere en beheerste bedrijfsvoering. Dat geldt voor alle risico’s, dus ook voor AI-toepassingen die buiten het hoog-risico-etiket vallen.
Zo goed als de documenten
Elke toepassing vraagt andere beheersing. Een AI-assistent die antwoorden haalt uit eigen documenten, met ‘retrieval-augmented generation’ of RAG, is zo goed als die documenten. Een AI-assistent zonder RAG komt mogelijk elke keer met andere antwoorden. AI is namelijk vooral statistiek en dus variabel. De beheersing zit dan in goed beleid over welke documenten erin mogen en in regelmatige toetsing of ze nog juist en actueel zijn. Een verouderde verzekeringsvoorwaarde in de kennisbank leidt tot een fout antwoord, hoe goed het taalmodel ook is.
Human in the loop
Bij een agent die zelfstandig taken uitvoert, ligt het voor de hand om er een medewerker tussen te zetten die het antwoord beoordeelt en verstuurt: het bekende principe van ‘human in the loop’. Dat kan een goede beheersmaatregel zijn, maar het verandert de risicoklasse niet. Een hoog-risicotoepassing blijft hoog risico, ook met een mens ertussen. Menselijk toezicht is daar zelfs een verplichting. En de maatregel werkt alleen als je hem effectief inricht: zit die medewerker er echt tussen en beoordeelt hij het antwoord echt, of klikt hij alleen op verzenden? Ook de AVG vraagt dit nog als er met persoonsgegevens wordt gewerkt. Systemen waarvan de uitkomsten dus consequenties voor klanten kunnen inhouden zouden hoog op de planning van Compliance, Risk en/of Interne Audit kunnen eindigen.

Dat betekent niet dat AI nooit zelfstandig met klanten mag communiceren. De vraag is dan hoe je effectief toezicht organiseert. Een klantgerichte AI-toepassing werkt 24 uur per dag, 7 dagen per week. Toezicht in de standaardcyclus van control en kwartaalafsluitingen komt dan te laat. Net als bij cyberrisico heb je een vorm van 24/7-monitoring nodig: signalen die afwijkende antwoorden direct zichtbaar maken, een heldere drempel om in te grijpen en iemand die dat ook buiten kantoortijd kan doen.

Bij generatieve AI spelen bovendien variabiliteit en verklaarbaarheid. Dezelfde vraag levert niet altijd hetzelfde antwoord op. Bij machine learning en generatieve AI is een uitkomst alleen tegen veelal onaanvaardbare inspanning en kosten te herleiden. Bij klassieke algoritmes en regressiemodellen speelt dat veel minder. Dan is de vraag niet hoe je het toch uitlegt, maar of je zo’n toepassing voor dit doel wel wilt inzetten.
Beheersing heeft een prijs
Naleving van de verordening werd die middag niet voor niets ‘de champions league van compliance’ genoemd. De implementatie van interne beheersing rond AI is kostbaar en specialistisch. Er moet veel gebeuren: een register opzetten en bijhouden, toepassingen indelen, per systeem een risicoanalyse uitvoeren, documentatie op orde brengen, menselijk toezicht beleggen, logging en monitoring inrichten, afspraken maken met leveranciers over modelwijzigingen, nieuwe releases testen en medewerkers opleiden. Dat is werk voor de eerste lijn, met risk en compliance ernaast. En het vraagt capaciteit van de IT-auditor om te toetsen of voorafgaand aan het onderzoek om aan normuitleg tijd te besteden.

Twee lessen kwamen terug. Houd centraal grip en voorkom dat afdelingen los van elkaar AI ontwikkelen. En maak een goede afweging tussen inkopen en zelf bouwen. Wie zelf bouwt, neemt de kosten van beheersing mee. Een businesscase voor een impactvolle AI-toepassing die alleen de opbrengst telt, is niet af. Dat is voor een IT-auditor dus een interessante insteek voor een onderzoek naar bedrijfsmatige grip op AI met relevante uitkomsten voor zowel RvB als RvC.
Begin bij wat mis kan gaan
AI opnemen in het jaarplan kost al snel veel capaciteit. Van alle tweede- en derdelijn disciplines. Een grotere organisatie kan dat makkelijker opvangen, maar ook daar hakt het erin bleek uit de dialoog. Bovendien is niet alles al relevant voor Interne Audit of significant genoeg om hier capaciteit op te alloceren. Kiezen is dus onvermijdelijk.

Begin daarom bij de vraag wat er mis kan gaan. En niet bij de vraag wat er verplicht is. Een klant die een fout antwoord krijgt? Persoonsgegevens die in de prompts van een publieke AI-tool belanden? Een fraudesignaal dat niemand kan uitleggen? Bedrijfsmatige resultaten of uitkomsten die verschuiven na een update van de leverancier? Weeg zulke scenario’s met een paar eenvoudige criteria: Is de (financiële) schade omkeerbaar of te beperken? Speelt dit breder? Raakt het de klant direct? Ligt er een wettelijke verplichting met een datum? Is er een eigenaar? En hoe snel verandert de toepassing?
Verantwoord
Wie kiest, kiest ook iets niet. Dat is geen probleem, zolang je het kunt uitleggen.
Kiezen is ook iets niet-kiezen
Stem de criteria voor de selectie van AI-onderwerpen af met bestuur en de auditcommissie of RvC voordat je het jaarplan invult. Dat geldt voor elke lijn: risk, compliance en audit. Niet alles is al relevant, en wat relevant is, verschilt per lijn. Voor de CAE en de IT-auditors is dit de kern: denk goed na of en wanneer je je schaarse capaciteit inzet op AI.

Leg daarna vast welke AI-toepassingen je bewust niet onderzoekt en wat dat betekent voor de dekking. Zo wordt een keuze die anders impliciet blijft, een besluit dat bestuur en commissarissen bewust nemen. Waar nodig accepteert het management het resterende risico formeel.
De kwartaalrapportage als podium
Bedenk vooraf welke AI-toepassingen impact hebben en welke lijn je daarover in je rapportages aan bestuur en auditcommissie wilt neerzetten. Bij verzekeraars en pensioenfondsen hebben de houders van sleutelfuncties, zoals risicomanagement, compliance, internal audit en de actuariële functie, daarin een eigen verantwoordelijkheid richting bestuur en toezichthouder. Die lijn bepaalt mede of je nu al iets moet doen om je rol als tegenkracht richting het management in te vullen.

Ga daarnaast het gesprek aan met de commissarissen, en niet alleen over risico’s. Zij maken zich zorgen over tijdig beleid, maar hebben niet altijd zicht op de kansen of de kennis om goed toezicht te houden op AI [GTCB25]. Ook daar kan de IT-auditor een rol spelen om de commissarissen wegwijs te maken in het AI-vraagstuk.
Wat komt er nog? 
Aan het eind van de middag ging het gesprek over de toekomst. Daarbij ging het over zogenoemde ‘world models’: AI die niet alleen tekst voorspelt, maar leert hoe de fysieke wereld zich gedraagt. Zo’n model kan voorspellen hoe een brand zich verspreidt of hoe water van een tafel op de grond valt. Dat spreekt tot de verbeelding. De verordening kent voor zulke algemene modellen aparte regels voor de makers. Maar of een toepassing hoog risico is, hangt nog steeds af van waarvoor je haar inzet en hoe breder AI inzetbaar wordt, hoe vaker dat verschuift. Een eenmalige indeling volstaat dan niet. De organisatie moet blijven herbeoordelen, en de IT-auditor kan toetsen of dat ook gebeurt.
Resumerend…
Een organisatie moet weten welke AI-systemen ze heeft, in welke categorie die vallen en welke rol ze zelf speelt. Die indeling in de AI-verordening is juridisch van aard en gericht op de rechten van mensen. Ze zegt niets over het risico voor de organisatie zelf, en de beheersing die erbij hoort, kan veel kosten met zich meebrengen. Daarom moet de CAE met de IT-auditor kiezen waar gekeken wordt, en die keuze kunnen uitleggen. Dat geldt ook voor Risk en zeker ook Compliance. De wet vertelt wat moet. Wat verstandig is, bepaal je zelf in afstemming met je bestuurders. En dat moet je kunnen verantwoorden.
Disclaimer
Bij het schrijven van dit artikel is AI gebruikt ter ondersteuning bij structuur en taal.
Over de auteurs
Guus Focken is partner bij Ferocia. Jean-Jacques Bistervels is hoofd Internal Audit bij Bovemij Verzekeringen.

Samen organiseerden zij op 4 november 2026 de bijeenkomst Grip op AI voor hoofden audit, risk en compliance bij verzekeraars en pensioenfondsen. Met een bijdrage van Mirjam Keizer van DNB, Angelo van Meel en Remko Bruinsma van Achmea.
Literatuur
Guus Focken
Als partner bij Ferocia verbind ik organisaties aan de juiste expertise op het gebied van Internal Audit en Risk Management. Of het nu gaat om een consultancy- of adviestraject, een interim professional, of een opleidingsvraag, ik zorg dat de juiste oplossing op de juiste plek terechtkomt.

Mijn achtergrond in de financiële sector en het publieke domein helpt me snel te begrijpen wat een organisatie werkelijk nodig heeft. Als mede-ontwikkelaar van Behavioral Auditing 2.0 kijk ik daarbij verder dan processen en normen.
Jean-Jacques Bistervels
Jean-Jacques Bistervels is hoofdredacteur van NOREA-magazine. Na zijn studie Technische Bedrijfskunde aan de TUE is hij zijn carrière bij Ernst & Young gestart als IT-auditor. Hij heeft daarna ruim zeven jaar gewerkt binnen de farmaceutische sector, gevolgd door om en nabij vijftien jaar in de financiële sector bij met name banken en verzekeraars. En kort nog even in de wereld van gemeenten en media & educatieve bedrijven vertoefd. Hij is momenteel werkzaam als hoofd Interne Audit bij Bovemij.