Norea logo

Publicatie van ‘NOREA Guiding Principles Trustworthy AI-Investigations’

De NOREA Kennisgroep Algorithm & Assurance publiceert vandaag de ‘Guiding Principles Trustworthy AI-Investigations’ als een consultatiedocument, waarbij de leden worden opgeroepen om voor 12 april 2021 te reageren op deze consultatieversie (norea@norea.nl). 

Organisaties maken bij hun digitale transformatie steeds vaker gebruik van intelligente algoritmische systemen. Deze worden in de ‘NOREA Guiding Principles’ gedefinieerd als geautomatiseerde wiskundige modellen, gebruikt in besluitvormingsprocessen en gekenmerkt door hun autonome gevolgtrekking uit enorme hoeveelheden gevarieerde datasets.

De steeds grotere rol die deze systemen spelen in besluitvormingsprocessen, met aanzienlijke potentiële gevolgen voor het welzijn van werknemers, consumenten, burgers, patiënten, etc., is aanleiding tot de roep om meer verantwoording over het ontwerp, de implementatie en toepassing van algoritmes.

Dit document gaat in op de rol van IT-auditors als (publieke) trust-providers, in de context van algoritmische verantwoording. Het document presenteert de leidende beginselen voor betrouwbare AI-onderzoeken. Deze beginselen zijn ontwikkeld om gekwalificeerde IT-auditors (RE’s) in Nederland te begeleiden bij het uitvoeren van onderzoeken naar algoritmische systemen op basis van toonaangevende praktijken voor betrouwbare Artificial Intelligence (AI).

Zowel de invoering van algoritmische systemen door ondernemingen als de controle daarvan door IT-auditors, zijn domeinen in opkomst. Omdat we ons bewust zijn van het vroege stadium in deze ontwikkeling, dekken de leidende beginselen (nog) niet de uitgangspunten die nodig zijn voor het geven van zekerheid over het ontwerp, de implementatie of operationele effectiviteit van algoritmische systemen. Ook de dialoog over de vereiste verantwoordingsnormen en controleprocedures tot het geven van zekerheid, in de vorm van assurance-rapporten, is nog in beweging.

In plaats daarvan zijn deze ‘Guiding Principles’ bedoeld om IT-auditors te ondersteunen bij het uitvoeren van ex ante en/of ex post onderzoeken van algoritmische systemen en om organisaties te helpen in hun zoektocht naar de inzet van betrouwbare AI-toepassingen. Bovendien zijn de principes niet bedoeld als raamwerk voor algoritmisch systeemonderzoek, maar wordt de nadruk gelegd op sleutelvragen die de IT-auditor moet stellen als ‘context-relevant’, gebaseerd op de huidige leidende praktijken voor betrouwbare AI.

In de toekomst zullen deze ‘Guiding Principles’ door de NOREA Kennisgroep Algorithm & Assurance worden bewerkt tot een handreiking.