Wat zou je als ambtenaar kunnen doen wanneer het gebruik van technologie binnen je organisatie risico's met zich meebrengt? In het project Algo-Resist onderzochten Waag Futurelab, Tilburg University en Leiden University deze vraag samen met ambtenaren.
Een gemeentelijke IT-medewerker krijgt de opdracht een systeem te ontwikkelen dat grote risico's met zich meebrengt voor de rechten van burgers. De medewerker legt uit dat de opdracht technisch niet uitvoerbaar is en stelt een andere, minder risicovolle oplossing voor. Een andere ambtenaar werkt als ethisch expert en geeft een negatief advies over het gebruik van een omstreden AI-model. Een softwareontwikkelaar trekt openlijk de technische kennis van de ambtenaar in twijfel. Toch blijft de ambtenaar bij het negatieve advies.
Zijn dit voorbeelden van weerstand of verzet? Of hoort dit simpelweg bij het werk van een kritische ambtenaar?
In gesprek over weerstand en verzet
Om deze vragen te onderzoeken, organiseerden Waag Futurelab, Tilburg University en Leiden University workshops met ambtenaren die zich bezighouden met beleid, evaluatie of het gebruik van data-intensieve technologie. De deelnemers kwamen uit verschillende overheidsorganisaties en hadden uiteenlopende professionele achtergronden.
Tijdens de workshops bespraken zij ingewikkelde situaties rondom technologiebeleid die zij in hun werk tegenkomen of zouden kunnen tegenkomen. Ook onderzochten ze hoeveel invloed zij zelf op zulke situaties kunnen uitoefenen. Met presentaties, groepsgesprekken en gezamenlijke discussies brachten de deelnemers verschillende vormen van weerstand en verzet in kaart.
Ambtelijke weerstand in de praktijk
Tijdens de workshops bleek dat deelnemers verschillend denken over wat weerstand en verzet betekenen. Sommigen noemden het bewust vertragen van procedures om mogelijke problemen met technologie te voorkomen. Anderen dachten bij weerstand aan collega's die weigeren met bepaalde technologie te werken.
Verschillende deelnemers vertelden dat kritiek leveren ongemakkelijk en vermoeiend kan zijn. Het kan spanningen met collega's veroorzaken, werkprocessen vertragen of extra werk opleveren. Ook spraken deelnemers over groepsdruk, waardoor het lastig kan zijn om zorgen te uiten. Sommigen ervaarden dat hun deskundigheid of advies over ethische en juridische risico's niet serieus werd genomen of zelfs werd genegeerd.
Hoeveel ruimte ambtenaren ervaren om problemen aan te kaarten, hangt ook samen met hun functie. Deelnemers zonder duidelijk afgebakende verantwoordelijkheden voelden zich vaak vrijer om kritiek te uiten. Tegelijkertijd werd hun advies niet altijd serieus genomen, juist omdat er geen formele procedure was waarin hun kritiek moest worden meegenomen. Ambtenaren met een specifiek takenpakket ervaarden juist minder vrijheid om zich uit te spreken over problemen die buiten hun eigen verantwoordelijkheden vielen.
Wanneer krijgt advies ruimte?
Een ander terugkerend probleem was het moment waarop ambtenaren bij beslissingen over technologie worden betrokken. Sommige deelnemers vertelden dat hun advies alleen aan het begin van een ontwikkel- of beleidsproces werd gevraagd, maar niet meer tijdens de invoering van de technologie. Dat kan problematisch zijn, omdat technologie verandert. Een systeem dat aanvankelijk geen ethische of juridische problemen lijkt op te leveren, kan later alsnog risico's met zich meebrengen.
Andere deelnemers werden juist pas op het laatste moment bij beslissingen betrokken. Daardoor kregen zij nauwelijks de ruimte om nog invloed uit te oefenen en werd hun advies vooral een formaliteit om af te vinken.
Eerste bevindingen
Uit de workshops komen twee voorlopige inzichten naar voren. Ten eerste kunnen reacties van ambtenaren op mogelijke problemen verschillende vormen aannemen, van mondelinge kritiek tot het aanpassen van procedures, contracten en technologie. Deelnemers zagen vooral die laatste vormen van ingrijpen soms als verzet. Mondelinge of schriftelijke kritiek en advies beschouwden zij vrijwel altijd als een normaal onderdeel van het werk van een kritische ambtenaar.
Ten tweede speelt de omgeving waarin ambtenaren werken een belangrijke rol. Kritiek, weerstand en verzet ontstaan niet los van collega's en de onderlinge verhoudingen binnen een organisatie. Om te begrijpen hoe ambtenaren met problematisch technologiebeleid omgaan, moet er verder worden gekeken dan hun individuele situatie.
Hoe gaan we verder?
De workshops roepen vragen op over de relatie tussen de functie van ambtenaren en de manieren waarop zij kritiek leveren of weerstand bieden aan problematisch tech-beleid. Hoe gaan leidinggevenden hiermee om? En welke rol spelen medewerkers die betrokken zijn bij de inkoop van AI-systemen? Ook de ervaringen van mensen die op het snijvlak van overheid en bedrijfsleven werken, roepen vragen op. Hoe kijken zij naar de ontwikkeling en het beheer van technologie?
Deze vragen bieden aanknopingspunten om verder te onderzoeken hoe ambtenaren omgaan met technologiebeleid dat zij problematisch vinden.
Werk je zelf bij een Nederlandse (lokale) overheid en wil je hierover in gesprek met collega's van andere overheidsorganisaties? Neem dan contact op met dr. Gijs van Maanen via g.vanmaanen <at> tilburguniversity.edu.
Auteurs: Danny Lämmerhirt, Tessel van Leeuwen, Gijs van Maanen, Aviva de Groot en Afke Alink.
