Dit is een samenvatting van het langere essay Waardig digitaal overheidsbestuur dat hier als pdf beschikbaar is. Dit essay is door Maaike Kamps geschreven, als eerste deelnemer (fellow) aan het Open Government Fellowship van Waag. Ze schreef dit essay op persoonlijke titel.
'Waardig digitaal overheidsbestuur' belicht vier samenhangende technologische ontwikkelingen, te weten big data, sensortechnologie, algoritmen en het Internet of Things. Het is aantrekkelijk voor overheden om deze nieuwe technologieën te gebruiken, want ze maken het mogelijk om overheidstaken efficiënter en effectiever uit te voeren, wat een van de beginselen is van 'goed openbaar bestuur'. Er kunnen echter ook publieke waarden in het gedrang komen.
Publieke waarden
Om welke publieke waarden gaat het dan? Ten eerste gaat het om privacy en transparantie. Er worden 'in het algemeen belang' in de openbare ruimte data over burgers verzameld zonder dat zij weten dat dit gebeurt en met welk doel. Ook wordt er vaak geen toestemming gevraagd. Deels komt dit omdat overheden zich onvoldoende houden aan de Algemene Verordening Gegevensbescherming (AVG). Maar ook als overheden zich wél aan de AVG zouden houden, zijn niet alle problemen opgelost. Mede door de stapeling van initiatieven is het voor burgers ondoenlijk om steeds te achterhalen en te doorzien waarvoor ze eigenlijk toestemming geven. Het wordt bovendien steeds moeilijker voor burgers om zich aan datavergaring in de openbare ruimte te onttrekken. Als de verzamelde informatie vervolgens gebruikt wordt om het gedrag van burgers te sturen, kan men zich bovendien gemanipuleerd voelen. Er is overigens wel een ethische standaard ontwikkeld waaraan gedragssturing zou moeten voldoen, maar het is de vraag of overheden deze toepassen. Bij het Internet of Things geldt dat de genoemde vraagstukken zich naar de privésfeer kunnen verplaatsen, als het gaat om interactie van overheidsapparatuur met apparaten die burgers gebruiken.
De AVG heeft als doel de privacy te beschermen, maar de AVG blijkt niet waterdicht. Geanonimiseerde data zijn te de-anonimiseren en niet-persoonlijke data krijgen steeds vaker persoonlijke kenmerken. Het is daarom van belang dat transparant is wanneer, hoe en waarom overheden data verzamelen, zodat de burger daar kennis van kan nemen en eventueel bezwaar kan maken. Hier ligt een spanningsveld omdat de Wet open overheid, die vergaande openbaring van gegevens afdwingt, stagneert.
Er zit echter ook een keerzijde aan transparantie over data. Als inzichtelijk is over welke data overheden beschikken, kunnen deze data opgevraagd worden. Ten eerste kunnen persoonlijke data door andere overheden opgevraagd worden om ze binnen een nieuwe context te gebruiken. Deze vorm van function creep druist in tegen de vereisten van de AVG, maar de AVG kent uitzonderingen hierop en het zal maar al te verleidelijk zijn voor overheden om hiervan gebruik te maken. Ten tweede kunnen private partijen data opvragen. De overheid zal deze data vervolgens met deze partijen moeten delen in het kader van de Wet hergebruik overheidsinformatie. Zoals gezegd zijn niet-persoonlijke data steeds vaker persoonlijk. Hier zit dus alsnog een privacy-risico.
Tot slot is het gebruik van algoritmen om data te verwerken niet onomstreden. Zo kan het ontwerp van algoritmen leiden tot discriminerende effecten en zogenoemde 'feedback loops'. Daarnaast is er sprake van toenemende complexiteit van algoritmen, waardoor algoritmen straks niet meer uitlegbaar en/of controleerbaar zullen zijn en waardoor openheid, transparantie en accountability in het gedrang komen. Als algoritmen niet openbaar zijn en gecontroleerd (kunnen) worden, blijven eventuele ongewenste bijwerkingen onzichtbaar.
(Deel)oplossingen
Deels zijn er oplossingen voor bovengenoemde problemen, zoals:
- Een sensordataregister, waardoor inzichtelijk wordt welke overheid welk type data in de openbare ruimte vergaart. Dit lost het probleem van verminderde keuzevrijheid echter nog niet op. Om in ieder geval te voorkomen dat hele gemeenten onbegaanbaar worden voor burgers die niet van monitoring gediend zijn, dient de volksvertegenwoordiging een zeer kritische afweging te maken tussen algemeen belang en individueel belang.
- In situaties waarin het ondoenlijk is om expliciet de toestemming van iedere burger te vragen voor datavergaring- of verwerking, zou die toestemming ieder geval bij de volksvertegenwoordiging moeten zijn opgehaald.
- Vergaande dataminimalisatie en access control. Dit kan aantasting van de privacy helpen voorkomen. Hier zijn technische hulpmiddelen voor in ontwikkeling, maar er wordt wel veel zelfredzaamheid van de burger bij gevraagd.
- Het ontwikkelen van 'technologisch burgerschap'. Dit zou burgers weerbaar maken tegen de invloeden van digitalisering. Hier mogen we echter niet te veel van verwachten. Veel burgers ontberen het denk- en doenvermogen dat hiervoor nodig is.
- Een toezichtscommissie voor controle op ingewikkelde algoritmen en hun effecten. Dit lost het probleem van oncontroleerbare algoritmen niet op. Het is daarom van belang dat overheidsorganisatie eerst afwegen in welke beleidsvelden welk type algoritmen ingezet mogen worden. Dit is een politieke keuze.
De consequentie van dataminimalisatie en het niet gebruiken van oncontroleerbare algoritmen, is wel dat er soms maatschappelijke kansen onbenut zullen blijven. Het is aan gemeenteraden en Provinciale Staten om over deze gemiste kansen verantwoording af te leggen aan de burger.
Het is dus vooral aan overheden zelf om meer sturing en richting te geven aan een integere omgang met nieuwe technologieën en verantwoording af te leggen over gemaakte keuzes daarbij. Dit betekent dat juist politici, bestuurders en ambtenaren zich moeten ontwikkelen tot 'technologisch burger'. Het begint dan bij besef van de problematiek, dat gestimuleerd kan worden door debat. Basiskennis bij ambtenaren zou gestimuleerd moeten worden door interne opleidingen. Daarnaast zou bij iedere overheidsorganisatie voldoende specialistische kennis over ethiek in relatie tot digitalisering in de organisatie aanwezig moeten zijn. Het is niet logisch om dit op projectbasis in te huren, omdat de problematiek zich in toenemende mate in alle beleidsvelden voordoet, zowel in beleidsontwikkeling als in -uitvoering.
Volledige publicatie: Waardig digitaal overheidsbestuur (pdf)
