'Voor digitale ethiek moeten Kamerleden verder kijken dan alleen het algoritme'

Dit is een expertquote van Joris Krijger, Ethics en AI Officer, De Volksbank.

U kunt dit bericht, of delen hiervan gebruiken op uw kanalen, met vermelding van de naam van de expert en organisatie. Aanleiding: Tweede Kamer: Commissiedebat - Digitale Zaken - Inzet algoritmes en data-ethiek binnen de rijksoverheid | ANP

De Commissie Digitale Zaken debatteert woensdag over de inzet van algoritmes en data-ethiek binnen de rijksoverheid. Tot nu toe lag in deze discussie de nadruk vooral op de laatste schakel in de keten: het algoritme zelf en de ontwikkelaar die het moet bouwen. Wil de overheid echt grip krijgen op data-ethiek, dan zou het goed zijn als er in het debat aandacht komt voor de hele ‘algoritmeketen’: alle schakels in de organisatie die van belang zijn bij de besluitvorming rond de ontwikkelprocessen.

De afgelopen jaren is er veel te doen geweest om verantwoord gebruik van algoritmes en data door de overheid. De Toeslagenaffaire, die indirect ook weer op de agenda staat, heeft de thematiek stevig op de kaart gezet. Toch werd de overheid ook vorig jaar nog op de vingers getikt door de Algemene Rekenkamer: tweederde van de getoetste algoritmen bleek niet aan de basisvereisten te voldoen.

Dat wil niet zeggen dat er de afgelopen jaren niks is gebeurd. De overheid is zeer actief geweest met handreikingen en wil onder meer een mensenrechtentoets verplicht stellen voor het gebruik van algoritmes. Goede stappen en hulpmiddelen, maar de ervaring van organisaties die langer met vergelijkbare toetsing werken leert dat extra kaders en een focus op enkel het algoritme de uitvoering niet helpt. Goed gebruik van dit soort instrumenten vereist aanpassingen in de organisatie. In veel sectoren is die verschuiving van hulpmiddelen naar bredere organisatorische volwassenheid rond dit thema volop in gang. Dat betekent aandacht voor de hele context rond een algoritme en, naast duidelijke kaders, ook structurele aanpassingen in organisatieprocessen.

Door het zwaartepunt te leggen op enkel de laatste schakel in het gebruik van algoritmen worden belangrijke aspecten en randvoorwaarden voor een goede invulling van digitale ethiek over het hoofd gezien. Als de Kamer serieus werk wil maken van digitale ethiek, dan moet ze verder kijken dan alleen het algoritme.