Surveillance camera AI smart city visual
Waag BY-NC-SA
for democratic technology

Do worry, be happy: waarden in tijden van crisis

Hoe kunnen we privacy waarborgen in tijden van corona?

In de blogserie ‘Do worry, be happy!’, spreken we met experts uit het veld van technologie, innovatie en ethiek over de actualiteiten. We vragen hen naar hun zorgen en hun hoop: do worry, maar be happy dus.

Alle neuzen in Nederland staan dezelfde kant op: we willen het coronavirus stoppen. De intelligente lockdown beroept burgers op hun solidariteit, maar erkent haar soevereiniteit. Je mag een boodschap of frisse neus halen, mits je 1,5 meter afstand houdt en dit op rustige plekken doet. In andere landen, China, Zuid-Korea en Israël bijvoorbeeld, treedt de overheid veel strenger op. In Zuid-Korea worden burgers digitaal gevolgd om in kaart te brengen waar en met wie coronapatiënten in contact zijn geweest. In Israël krijg je via een sms’je te horen als je contact hebt gehad met een coronapatiënt. Ook Nederland wil middels een app het contact en de symptomen van coronapatiënten in kaart brengen. Gezondheid boven alles. Waarom moeten we ons zorgen maken over surveillance in tijden van corona? Heb je als burger überhaupt nog een stem in de beslissingen en wat zijn alternatieven voor deze surveillance methoden? 

We spraken met Douwe Schmidt van Waag en Tada, specialist in internetveiligheid, data en ethiek. Binnen het Smart Citizens Lab van Waag doet hij onderzoek naar tools en applicaties waarmee burgers zelf de wereld om hen heen in kaart kunnen brengen. Bij Tada werkt hij samen met overheden en bedrijven om het gebruik van data ethisch in te richten.

Wat is het probleem?
'Er zijn meerdere problemen. Sommige veroorzaakt door de overheid. Sommige door onszelf als burger en consument. Om met de laatste te beginnen: In tijden van crisis worden er onder druk vaak snelle beslissingen gemaakt om maar zoveel mogelijk door te kunnen gaan op de oude voet. We gebruiken wat we voorhanden hebben. Dat is nu bijvoorbeeld Zoom, Skype, WhatsApp en Microsoft Teams. 

Het probleem is dat deze technologische middelen zijn gebaseerd op het businessmodel van surveillance kapitalisme. We maken gratis gebruik van online diensten in ruil voor onze data. Het nut van deze data is echter eindig en de vraag is wie er nog bereid is te betalen voor deze tools als de grote techbedrijven geen interesse meer hebben om ze ons gratis aan te bieden omdat ze nu genoeg data hebben. 

Dat is overkomelijk als we in rustige tijden iets anders moeten zoeken om met onze ouders te bellen, maar problematisch als grote onderdelen van ons onderwijs, gezondheidszorg en andere vitale delen van de economie van deze tools afhankelijk zijn geraakt.

Daar moeten we ons van bewust zijn bij het gebruik van deze private technologieën; dat ze gratis aan ons ter beschikking worden gesteld is niet een vaststaand gegeven en de data die we delen met de bedrijven is niet altijd van onschuldige aard. 

In deze crisis ontdekken we dat we onvoldoende hebben gewerkt en geïnvesteerd in alternatieve, eerlijke en open source middelen die veilige communicatie tussen natuurlijke mensen als prioriteit heeft en niet de shareholders.’

Waarom moeten we ons hier zorgen over maken?
‘Het probleem is dat burgers vooral als consument worden gezien. Een consument van de maatschappij, commerciële producten, en de politiek, maar niet als actieve deelnemer en mede-vormgever van die maatschappij, producten en politiek. Dit heeft twee oorzaken. Aan ene kant zijn burgers gewend om deze ‘consumptieve’ rol te vervullen en zijn zij niet meer gewend om actief mee te denken en bij te dragen aan maatschappelijke oplossingen. 

Aan de andere kant heeft de overheid een fundamenteel wantrouwen in de capaciteit van de burger om kennis te delen. De overheid heeft veel kennis, maar ze moeten en kunnen het niet alleen doen. Ze hebben baat bij het betrekken van goed geïnformeerde burgers bij het zoeken naar de juiste oplossing. Nederland bezit veel kennis en vaardigheden binnen universiteiten, bedrijfsleven en de ontwerp en maakwereld. Enerzijds is het een uitdaging voor burgers om deze kennis naar de overheid over te brengen en anderzijds moet de overheid het ontvangen van dit soort kennis faciliteren.

Als er iets is dat we leren met deze crisis dan is het het vermogen om zelfredzaam te zijn. De overheid wil nu dat iedereen zichzelf gaat surveilleren (ook wel souveilleren genoemd). Ze appelleert dan alleen aan iedereens verantwoordelijkheid en handelsbekwaamheid om zichzelf te souveilleren, maar niet aan de kennis in de maatschappij om deze technologie zelf te ontwikkelen. Terwijl dat zou wel eens beter zou kunnen werken.’

Zie je een trend? 
‘Een terugkerend fenomeen is het optimisme en vertrouwen in technologie en data, gecombineerd met een gebrek aan kennis over de complexiteit van het probleem dat moet worden opgelost en de mogelijke schade voor andere rechten dan veiligheid en gezondheid. Het geloof dat technologie de oplossing is voor veel problemen, is in de huidige crisis niet anders en loopt het risico ons te verblinden voor meer voor de hand liggende oplossingen. Zou een nationale cursus handen wassen en een workshop mondkapjes naaien onder leiding van Premier Rutte niet meer doen om het virus in te dammen dan iedereen tracken met een app? Niemand die het weet, want die vraag wordt niet gesteld.

'Het geloof dat technologie de oplossing is voor veel problemen, is in de huidige crisis niet anders en loopt het risico ons te verblinden voor meer voor de hand liggende oplossingen.'

Een andere trend slaat op het gebruik van online middelen waarvan we weten dat ze ons afluisteren en onze data gebruiken voor andere doeleinden; de surveillance kapitalisten. We zijn gewend geraakt aan de functionaliteit van commerciële tools. Het vergelijken van goedbedoelde open source alternatieven met partijen die miljarden aan marketing en gebruikservaring kunnen besteden, is bij voorbaat oneerlijk. Open source middelen worden vaak ontwikkeld door vrijwilligers en kunnen niet tegen deze commerciële partijen op. In plaats van dat open source ontwikkelaars innovatieve voorlopers zijn, bootsen ze nu vaak de commerciële middelen na. En dan loop je per definitie achter. De huidige open source programma’s voelen al snel als ‘een jurk van vorig jaar’. Zolang gebruikers een bepaald fetisjisme blijven houden voor de beste user interface en de nieuwste sticker packs, is dit een ongelijke strijd. Daarbij moet echter ook vermeld worden dat alternatieven die beter scoren op privacy en het beschermen van mensenrechten soms ook gewoon niet werken. Je kan dit als gebruiker moeilijk negeren.’

'De huidige open source programma’s voelen al snel als ‘een jurk van vorig jaar’.'

Hoe kunnen we zelf invloed uitoefenen? 
‘Op de korte termijn zijn de mogelijkheden erg beperkt. Je kan je smartphone weggooien, maar individuele privacy is in deze situatie minder relevant. Het gaat om groepsprivacy: hoe gaan we hier met elkaar mee om? We hebben onze overheid bepaalde macht gegeven om rigoureuze maatregelen te nemen in tijden van crisis.

Op de lange termijn kun je jouw burgerplicht verrichten: het controleren van de uitvoerende macht en je volksvertegenwoordigers ter verantwoording roepen. Kunnen ze uitleggen welke afwegingen zijn gemaakt in de keuze voor een bepaalde technologie? Is er gehandeld vanuit crisismanagement? Zorg dat de maatregelingen teruggedraaid worden als de crisis bezworen is en laat je zien als er weer gestemd mag worden. Het ergste wat kan gebeuren is dat de overheid maatregelen treft op technisch vlak zonder zich te laten informeren door experts uit de maatschappij en onderlegde burgers over hoe je met minder invasieve middelen hetzelfde kan bereiken.

Daarnaast kan een select groepje goed geïnformeerde, onderlegde burgers een bijdrage leveren aan de verdere ontwikkeling van online tools. Lessen trekken uit de huidige crisis en documenteren wat er nu gebeurt, zodat je in een volgende crisis er beter voor staat.’ 

 Welke alternatieven raad jij aan?  
‘Een applicatie moet worden gemaakt door een organisatie die mensen vertrouwen en door een groep die belang heeft bij de verzamelde data. De OLVG corona-check-app is hier een mooi voorbeeld van. Het is een goede stap dat een ziekenhuis deze app heeft gemaakt. Zij weten welke data ze nodig hebben en hebben belang bij de verzamelde data. Dit helpt bij dataminimalisatie; er wordt enkel data gevraagd die van belang is. In de VS zijn vergelijkbare initiatieven opgestart door Google. Dat is een partij die zich in dit geval met het verzamelen van data op een plek begeeft waar ze niet thuishoort.

'Persoonlijke data kan dus zeker gebruikt worden voor de volksgezondheid op een manier die niet privacy invasief is.'

Persoonlijke data kan dus zeker gebruikt worden voor de volksgezondheid op een manier die niet privacy invasief is. In Nederland wordt al heel lang goed nagedacht over hoe je data kan gebruiken zonder dat de privacy van individuen wordt geschaad. In het volgende artikel wordt beschreven hoe je op een privacy-vriendelijke wijze contacten kan traceren. We moeten vooral kijken hoe we ervoor gaan zorgen dat we dit niet aan mensen overlaten die daar minder lang over hebben nagedacht. We hebben in Nederland gezamenlijk veel kennis over het onderwerp. Het is van belang om een bredere groep experts te betrekken in het proces. Dit vereist ook een actievere houding van burgers. Het heeft geen zin om tegen Den Haag te roepen: ‘jullie doen het verkeerd,’ maar laat ook zien wat er wél mogelijk is!

Zoals ik eerder aangaf, is het belangrijk om je altijd af te vragen of de technologische oplossing wel de beste is. Ook een zeer AVG-bestendige en door Tada goedgekeurde app kan schijnveiligheid veroorzaken als het de werkelijkheid veronachtzaamd. En daarmee bedoel ik dat er nog veel onbekend is over besmettingen. Nabijheid van mensen is een factor, maar we hebben nog geen zicht op hoe belangrijk die factor is. De app waar nu zelfs door de minister over gepraat wordt loopt daarmee het risico om de complexiteit van het coronavirus te versimpelen tot een zaak van tracen en daarmee de aanpak ervan te verzwakken. Ik denk daarom dat een app voor contact-tracing eigenlijk nog helemaal geen goed idee is.

De meest kwetsbare groep mensen, de zeventig plussers, zijn nou nét de mensen die wat minder vaak een appje installeren. Ook kinderen blijven ongezien in deze meetmethode. We weten volgens mij nog weinig over de rol van kinderen in het verspreiden en zij zullen niet te volgen zijn met een app.

Mijn grootste angst is dat we uiteindelijk toch naar Telco zullen grijpen als blijkt dat een app niet werkt en veel mensen en de Premier achter het idee van controle staan. Dit zet de deur weer wat verder open voor de stap naar algehele surveillance.'