Blog

Marleen Stikker about big data

This interview with Marleen Stikker was written together with Erica Meijers. It was published in the Dutch magazine de Helling, year 29/4. This issue was about big data. There is no translation available yet, you might try a translation service.

Via sociale media, geldtransacties en openbaar vervoer heeft iedereen te maken met big data. Veel toepassingen zijn handig en fascinerend, maar wekken tegelijk onbehagen: hoe ver reikt de – grotendeels onzichtbare – invloed van al die dataverzamelingen? Sinds het begin van het digitale tijdperk volgt Marleen Stikker de ontwikkelingen.

We ontmoeten haar in hartje Amsterdam, waar Marleen Stikker (1962) met haar Waag Society sinds 1994 de digitalisering van de samenleving actief begeleidt met onderzoek en allerlei initiatieven. Ze herinnert zich de obscure zaaltjes met internetactivisten uit haar beginjaren. Nu adviseert Stikker de policy strategy group van de Europese Commissie en bezoekt ze grote conferenties met beleidsmakers, onderzoekers en ja, ook nog steeds activisten. Marleen Stikker zet zich in voor een open toegang tot internet en voor transparantie in de omgang met data. We beginnen ons gesprek bij de basale vragen over het wat en hoe van big data.

Wat zijn big data?

“Big data is een verzamelbegrip voor alles wat ‘gedataficeerd’ wordt. Alle informatie kan worden omgezet in digitale data en de datasets die daarmee ontstaan kun je weer combineren. Als je heel veel data verzamelt, kun je inzichten verkrijgen die je anders niet hebt. Je kunt bijvoorbeeld patronen vinden en voorspellingen doen.”

Wie verzamelt die data?

“Iedereen, dat is het spannende: de wetenschap, bedrijven, adviesbureaus, overheden en tegenbewegingen. Er zijn datasets waarvan we niet weten dat ze worden verzameld of waar we zelden van horen, zoals die van de veiligheidsdienst. Mede dankzij Snowden krijgen we daar iets meer zicht op. De grootste verzamelaars zijn natuurlijk de Googles van deze wereld, maar vlak ook bedrijven als Uber en Airbnb niet uit. De waarde van deze groep technologische ‘Silicon Valley’-bedrijven zit in de data en de bijbehorende algoritmes.”

Dat is ook een cruciale term, algoritme. Wat is dat? 

“Een algoritme is een instructie, een reeks codes die je van tevoren programmeert volgens de regel 'als dit, dan dat'. Dat is de basis van elke software. In die regel staat ook hoe je data moet interpreteren. Algoritmes worden geschreven, ontworpen. Die komen niet van god, die zijn man made. Veel mensen beschouwen technologie en ICT als een 'harde wetenschap', die ontdekt wat al bestond: een natuurwet. Maar alles in relatie tot ICT creëren wij als mensen zelf. Ik noem het ook wel ontwerpende wetenschap.”

Algoritmes zijn dus sturingsmechanismen bij het verzamelen en ordenen van data?

“Data zelf zijn natuurlijk ook al interpretatie. Als je bijvoorbeeld een verzameling mensen demografisch indeelt, dan heb je die categorieën zelf aangebracht. Allerlei niet meetbare zaken laat je buiten beschouwing. Als je iemand vraagt: ben je een man of een vrouw, dan zijn dat de categorieën waartoe je je moet verhouden. Al het andere telt niet mee. Onder de keuze voor wat we wel of niet meten, ligt een heel wereldbeeld. Dergelijke veronderstellingen met betrekking tot data worden eigenlijk nooit besproken. Big data en alles wat ermee samenhangt worden doorgaans gepresenteerd als een ongecompliceerde oplossing: ‘We gaan dingen veiliger, inzichtelijker, makkelijker, duurzamer, sneller én leuker maken’. Waar is dat optimisme eigenlijk op gebaseerd?”

Misschien op de gedachte dat technologie een neutraal instrument is dat je op verschillende manieren kunt inzetten? 

“De eerste stap is accepteren dat technologie niet neutraal is. Dat is lastig, want dat opent een enorm gebied met vragen. Veel mensen willen gewoon leuke dingen doen: apps maken, een beetje opschieten en de wereld redden met big data. En je kan er inderdaad van alles mee: je kunt er nieuwe inzichten mee krijgen waardoor we misschien beter gaan handelen, maar je kan met big data mensen ook manipuleren.”

We hebben sinds de opkomst van de wetenschap altijd al zaken gemeten, maar sinds een aantal jaar spreken we ineens over big data. Wat maakt big data nou big?

“Door de toenemende groei van de dataverzamelingen is er een kantelpunt bereikt. We steken niet langer een metertje in de grond, om de resultaten op de computer te verwerken; we stoppen nu sensors in de grond die voor een permanente stroom data zorgen. Ook voor sociale media geldt: het is een stroom van data. En al die stromen kunnen ook met elkaar gecombineerd worden. Dat is het tweede element. Een bank kijkt niet meer alleen naar je transacties, maar combineert die ook met data uit je sociale gedrag. Ten derde zijn er businessmodellen rondom het interpreteren van data ontstaan. Dit alles samen maakt dat we van big data spreken. Vooral over de verdienmodellen maken mensen zich zorgen: men voelt dat men er geen vat meer op heeft.”

Het Big Brother-gevoel.

“Er is al lang niet meer één Big Brother, er zijn meerdere Big Brothers en ook nog verscheidene little sisters, en we weten niet of die samenwerken. Wat we wel weten, en dat is een vierde dimensie, is dat alle apparaten data onderscheppen. Sinds Snowden weten we dat de waarschuwing van hackers geen complotdenken was: elke telefoon, camera, of wat voor apparaat of applicatie ook, verstuurt standaard data naar de bedrijven die ze gemaakt hebben. Het probleem is dat de bedrijven niet transparant zijn over de codes, de algoritmes. Als bedrijven ons niet willen vertellen wat er onder de motorkap gebeurt, dan kunnen we ze alleen maar wantrouwen.”

Is er wellicht nog een vijfde dimensie, namelijk dat iedereen de grip op big data verliest?

“Dan kom je op deep learning, kunstmatige intelligentie. Dat is niet nieuw, maar beleeft een revival. Het is de gedachte dat algoritmes zelf een autonoom systeem vormen dat nieuwe algoritmes maakt, dat zelf kan handelen. Dat kan natuurlijk tot hele rare dingen leiden. Wij bepalen zelf of we die machines vertrouwen, maar hebben we dat type slimheid nodig? En wie heeft de aansprakelijkheid over dergelijke systemen? Dat is niet geregeld. Doorgaans weten we ook hier niet wat de oorspronkelijke codes zijn. Het is alsof je een rechtsstelsel creëert zonder te weten op basis van welke wetten. Dat roept de vraag op hoe we waarde(n) creëren.”

Leg eens uit?

“We zijn als mensen supernieuwsgierig en verzinnen van alles. Dat levert veel op, maar houdt ook gevaar in. Om dat in te dammen bouwen we veiligheidssystemen, denk maar aan nucleaire energie en kernwapens en de internationale afspraken daarover. Het verleden heeft ons geleerd: we hebben onze nieuwsgierigheid nog nooit bedwongen omdat het gevaarlijk werd. Dat gaat nu dus ook niet gebeuren. Zeker niet als er de belofte is dat er veel geld verdiend kan worden.

Er zijn een heleboel gebieden waar al die datasets veel kunnen betekenen, in de medische wetenschap bijvoorbeeld. Maar we hebben nog niet of nauwelijks grenzen gesteld aan wat we willen, zoals we dat bij kerncentrales wel hebben gedaan. Een open discussie hierover wordt gehinderd door de competitie tussen bedrijven: zij willen geen pottenkijkers. Moeten we hen dan maar op hun blauwe ogen geloven? We hebben nu geen middelen om hen te controleren. Transparantie en openheid over de ontwikkelingen is een voorwaarde om als samenleving grip te krijgen op wat gaande is en om grenzen en controlemechanismes te kunnen bepalen.”

Hoe krijgen we die openheid als bedrijven er geen belang bij hebben?

“Wetenschappers gelukkig wel. Zij werken nog grotendeels met open access, open data, open algoritmes, open modellen. Ook in de samenleving is er een beweging voor openheid, verbonden met sociale thema’s. Denk maar aan de hackers. Zij zeggen: ‘If you can’t open it, you don’t own it.’ Dat is ook mijn lijfspreuk. De grote vraag is: gaan overheden hier écht voor open staan?”

Je hebt veel samengewerkt met de gemeente Amsterdam. Hoe gaat de politiek met big data om? 

“Dat kun je goed zien aan de smart cities. Aan Google gelieerde bedrijven bieden steden de infrastructuur, de sensors en alle data voor niets aan. Het bedrijf krijgt die data dan natuurlijk ook. Voor veel gemeentes is dit verleidelijk, want ze hebben zelf de middelen niet. Maar je slaat dan wel een cruciale stap over: wat is de strategie in het databeleid? Helaas zie je vooral dat het ICT-dossier als een hete aardappel wordt doorgegeven. Het is oncontroleerbaar, dus ongeliefd. Kijk maar naar de problemen bij de Belastingdienst. Het komt nogal eens bij de zwakste wethouder terecht, die zich op de interne automatisering gaat richten, terwijl databeleid alle politieke vraagstukken raakt: hoe de zorg georganiseerd is, wat identiteit is, wat privacy is, wat de soevereiniteit van de burger is. De grote vraag is wat voor samenleving de technologie mogelijk moet maken.”

Kun je een voorbeeld geven? 

“De ov-chipkaart is zo ontworpen dat je, anders dan met de strippenkaart, niet meer samen op een kaart kunt reizen. Dat is namelijk efficiënter voor de vervoersbedrijven en de overheid. Niemand heeft bij het ontwerpen de vraag gesteld: hoe willen mensen eigenlijk reizen? Het systeem van individuele kaarten en poortjes verhindert ons om gastvrij te zijn. Daar zie je hoe de architectuur van ICT ingrijpt in onze sociale dynamiek.

Ingewikkelder wordt het bij de digitale identiteit. De overheid werkt nu aan de opvolger van DigiD, de EiD. De voorwaarde om digitaal te kunnen handelen, is feitelijk dat je niet altijd dezelfde persoon voor elke dienst bent. In het huidige systeem kan degene aan wie ik mijn ID laat zien omdat ik bier wil kopen niet alleen zien dat ik 18-plus ben, maar ook mijn religieuze voorkeur, of ik een partner heb en wat mijn status is op Facebook. Voor veel diensten hoef je alleen te bewijzen dat ze met een echt persoon te maken hebben, verder niet. Moet mijn zorgverzekeraar weten, die al weet hoeveel stappen ik vandaag heb gezet, dat ik een boek heb gekocht over veel vlees eten? Als je wilt voorkomen dat er profielen opgebouwd worden waar je zelf geen weet van hebt, moet je dat in de technologie mogelijk maken. 

Het gaat om onze soevereiniteit. Dat is een lastig begrip, maar het betekent dat je zelf besluit in welke relatie je wat prijsgeeft. Dat doen we de hele dag door, vanzelfsprekend. In een werkrelatie geef je iets anders prijs dan in een privérelatie. Dat moet dus in de digitale omgang ook mogelijk zijn. Als je dat niet in de technologie verankert, heb je daarvoor straks honderden verschillende pasjes nodig. Dat is de hackersmethode, maar de overheid zou dat moeten regelen. Want die technologie wordt ons opgelegd. Een DigiD en een BSN zijn verplicht.”

Is de overheid wel opgewassen tegen de belangen van grote internationale bedrijven? 

“Er zijn twee bewegingen rondom technologie: de ene is: creëer openheid, democratiseer, stel mensen in staat zich beter te organiseren en kennis te delen. De andere is: exploiteer, eigen toe en accumuleer macht. Als geld de allesbepalende factor is, dan wint de tweede beweging. Maar ik denk dat ook de kracht van mensen zelf een rol speelt. Er zijn ook andere waarden dan geld in het spel. Er is bijvoorbeeld een beweging die zich bezig houdt met commons: gemeenschappelijk bezit en een open toegang tot bestaansmiddelen. De uitkomst staat dus nog niet vast, maar we zien natuurlijk dat er een strijd gaande is.”

Hoe zou je die strijd typeren als het om big data gaat? 

“De technologie-optimisten claimen dat technologie alle maatschappelijke vraagstukken kan oplossen. Mobiliteit, duurzaamheid, zorg, veiligheid… voor alles is een app en een start-up. De ontwikkelaars behoren tot de happy few, de elite die het al goed voor elkaar heeft, die in een Tesla rijdt en bij Barista-koffie in een designercafeetje ecodingen doet. Ze zijn zeer tevreden over zichzelf omdat ze in hun eigen ogen de wereld aan het redden zijn. Ondertussen zijn de apps die ze ontwikkelen gebaseerd op businessmodellen die schaamteloos gebruikers exploiteren. Ze dragen bij aan de culminatie van macht bij bedrijven die al aan de top van de piramide staan. Het zelfinzicht in een groot deel van de start-upwereld is bedroevend. Daartegenover staat de beweging van makers die kennis en oplossingen deelt en dat doet vanuit een economisch-sociale visie. Als je een eerlijke samenleving nastreeft, moet je ook naar andere businessmodellen kijken en technologie baseren op open en faire principes.“

Kun je de nieuwe digitale technologieën niet inzetten om de samenleving groener en socialer te maken? Die visie is veel te vinden bij GroenLinks.

“Dat is te instrumenteel gedacht. De komst van internet is een gamechanger geweest. Het is geen centraal bestuurd platform, maar een gedistribueerd platform, een peer to peer platform. Dat betekent dus een verschuiving van een verticale geïnstitutionaliseerde besluitvorming naar horizontale. Maar de politiek houdt nog vast aan het institutionele beeld. Daarom wil men big data gebruiken voor de invoering van het eigen beleid. Ik mis een echte politieke agenda op dit terrein, ook bij GroenLinks. Dit zou moeten beginnen bij de vraag: wat betekent dat gedistribueerde karakter van de technologie nu voor de ordening van de samenleving?

Voor de energietransitie betekent dit bijvoorbeeld dat we een systeem nodig hebben dat aansluit bij de mogelijkheid die de technologie ons biedt om zelfvoorzienend te zijn. Ik pleit niet voor autarkie, we blijven met elkaar verbonden in netwerken. Dan heb je natuurlijk ook organisatorische en bestuurlijke verantwoordelijkheden, maar je verandert wel het perspectief. Je zegt als overheid niet langer: hier gaan we windmolens neerzetten, maar: hoe kunnen we het mogelijk maken dat burgers samen windmolens neerzetten. De staat moet zich kortom anders gaan gedragen.”

Zou het kunnen zijn dat politici, overheden en zelfs veruit de meeste burgers het gewoon niet snappen? Misschien moeten hackers en denkers nog een keer uitleggen: dit zijn de mogelijkheden, hier moeten we naartoe.

“Zeker! De verbinding tussen technologie en sociale verandering blijkt erg moeilijk politiek te vertalen. De Piratenpartij probeert het wel en ook de liberale groep in het Europees Parlement, waar D66 toe behoort. Maar bij GroenLinks ontbreekt de hele technologie-agenda.

Veel mensen wachten niet op de politiek, maar handelen zelf al naar hun politieke inzicht, bijvoorbeeld in de smart citizens beweging in Amsterdam. Een gevolg van het achterblijven van de politiek is wel dat er bij veel van deze actieve burgers een afkeer van de huidige politiek is ontstaan. Ik vind het zelf ook bizar, dat je politieke partijen moet uitleggen dat iets politiek is. Dat is toch hun vak, hun passie? Hoe kunnen ze zo blind zijn?”

Recent blog posts

- Thursday 05 October 2017

The 'Metaal Kathedraal': a former church and metal factory, but now a cultural and ecological breeding ground at the edge of Utrecht. Xiamyra went to visit the place.

- Tuesday 03 October 2017

In a world where science is most often practiced in isolated labs, gaining access to the primary tools is of great importance to many independent researchers.

- Monday 02 October 2017

MAD summerschool, sounds like a crazy summerschool but it actually stands for ‘Man and Design’ i.e. a design summerschool. Xiamyra participated.

- Friday 29 September 2017

Paulien Melis and Janine Huizenga were at the camp Entre-Nous to speak about Make Health on behalf of the Creative Care Lab.

- Thursday 28 September 2017

In this blog series ‘DO worry, be happy!’, we talk to experts in the field of technology, innovation and ethics about new developments and why sometimes we need to worry a little more.