Transparantie is niet genoeg: de afweging blijft mensenwerk
Auteur
Hanneke van Stigt Thans
In het Algoritmeregister van de Nederlandse overheid staan inmiddels ruim vijftienhonderd algoritmebeschrijvingen, van risicoselectie tot de afhandeling van aanvragen. Overheden maken daarmee zichtbaar welke geautomatiseerde systemen ze gebruiken, zodat burgers, media en volksvertegenwoordigers kunnen meekijken. Dat is winst, en het is terecht dat erop wordt ingezet.
Een register laat zien welke systemen een organisatie gebruikt en, als het goed is ingevuld, iets over de juridische grondslag en de menselijke tussenkomst. Wat een registratie niet garandeert, is dat de afweging om een systeem in te zetten ook zorgvuldig is gemaakt. En op die afweging komt het aan voor de legitimiteit van een geautomatiseerd besluit. Is de toepassing rechtmatig? Behandelt ze mensen gelijk? Kan iemand de uitkomst aanvechten? Dat zijn vragen die thuishoren voordat een systeem live gaat.
De overheid heeft daar instrumenten voor. De mensenrechtentoets die bij impactvolle algoritmes wordt aanbevolen, is bedoeld om dat gesprek vooraf te voeren. Maar uit een evaluatie van uitgevoerde toetsen bleek dat de kwaliteit sterk uiteenloopt, van kort en onvolledig tot uitgebreid en goed beargumenteerd. Een instrument dwingt de afweging niet af. Het werkt alleen wanneer iemand het serieus neemt en de juiste vragen stelt.
En dat is waar dit voor de arbeidsmarkt interessant wordt. Zo’n afweging vraagt iemand die een technisch systeem kan doorgronden en tegelijk kan wegen wat het betekent voor de mensen die ermee te maken krijgen. Iemand die het gesprek kan voeren tussen de datawetenschapper, de jurist en de bestuurder, en de uitkomst kan vertalen naar een besluit dat publiek te verantwoorden is. Zo iemand hoeft niet op alle drie de terreinen expert te zijn. Wat telt is digitale diepgang, met genoeg begrip van recht en bestuur om de disciplines bij elkaar te brengen. Dat profiel is schaars, en de behoefte eraan zal de komende jaren alleen maar toenemen.
Die ontwikkeling krijgt bovendien een extra impuls door nieuwe regelgeving. Vanaf eind 2027 verplicht de AI-verordening publieke organisaties en uitvoerders van publieke diensten om bij bepaalde hoog-risico-systemen vooraf een grondrechteneffectbeoordeling uit te voeren. Dat is geen formulier dat je even invult, maar een onderbouwde analyse van wat een systeem doet met de rechten van mensen en hoe het toezicht is geregeld. Daarmee wordt straks verplicht wat goede governance nu al zou moeten zijn.
Want legitimiteit laat zich niet achteraf met transparantie repareren wanneer de oorspronkelijke afweging niet deugde. Ze ontstaat op het moment dat een organisatie die afweging bewust maakt, met de juiste mensen aan tafel en met iemand die de verantwoordelijkheid neemt voor wat eruit komt. De documentatie is daarvan de neerslag. De afweging zelf blijft mensenwerk.
Een register laat zien welke systemen een organisatie gebruikt en, als het goed is ingevuld, iets over de juridische grondslag en de menselijke tussenkomst. Wat een registratie niet garandeert, is dat de afweging om een systeem in te zetten ook zorgvuldig is gemaakt. En op die afweging komt het aan voor de legitimiteit van een geautomatiseerd besluit. Is de toepassing rechtmatig? Behandelt ze mensen gelijk? Kan iemand de uitkomst aanvechten? Dat zijn vragen die thuishoren voordat een systeem live gaat.
De overheid heeft daar instrumenten voor. De mensenrechtentoets die bij impactvolle algoritmes wordt aanbevolen, is bedoeld om dat gesprek vooraf te voeren. Maar uit een evaluatie van uitgevoerde toetsen bleek dat de kwaliteit sterk uiteenloopt, van kort en onvolledig tot uitgebreid en goed beargumenteerd. Een instrument dwingt de afweging niet af. Het werkt alleen wanneer iemand het serieus neemt en de juiste vragen stelt.
En dat is waar dit voor de arbeidsmarkt interessant wordt. Zo’n afweging vraagt iemand die een technisch systeem kan doorgronden en tegelijk kan wegen wat het betekent voor de mensen die ermee te maken krijgen. Iemand die het gesprek kan voeren tussen de datawetenschapper, de jurist en de bestuurder, en de uitkomst kan vertalen naar een besluit dat publiek te verantwoorden is. Zo iemand hoeft niet op alle drie de terreinen expert te zijn. Wat telt is digitale diepgang, met genoeg begrip van recht en bestuur om de disciplines bij elkaar te brengen. Dat profiel is schaars, en de behoefte eraan zal de komende jaren alleen maar toenemen.
Die ontwikkeling krijgt bovendien een extra impuls door nieuwe regelgeving. Vanaf eind 2027 verplicht de AI-verordening publieke organisaties en uitvoerders van publieke diensten om bij bepaalde hoog-risico-systemen vooraf een grondrechteneffectbeoordeling uit te voeren. Dat is geen formulier dat je even invult, maar een onderbouwde analyse van wat een systeem doet met de rechten van mensen en hoe het toezicht is geregeld. Daarmee wordt straks verplicht wat goede governance nu al zou moeten zijn.
Want legitimiteit laat zich niet achteraf met transparantie repareren wanneer de oorspronkelijke afweging niet deugde. Ze ontstaat op het moment dat een organisatie die afweging bewust maakt, met de juiste mensen aan tafel en met iemand die de verantwoordelijkheid neemt voor wat eruit komt. De documentatie is daarvan de neerslag. De afweging zelf blijft mensenwerk.