Technologie is niet neutraal. Het is een reflectie van cultuur en politieke overtuiging. Net als in andere vertalingen van macht liggen in technologie vooroordelen, ongelijkheden en racisme ingebakken. In deze serie duiken we in de materie om de onderste steen boven te halen. We laten aan de hand van concrete voorbeelden zien dat technologie niet neutraal is én gaan op zoek naar oplossingen.
In de jaren vijftig introduceerde Kodak (grote Amerikaanse multinational in fotografie en film) hun zogenaamde 'Shirley card'. Een hulpmiddel om het kalibreren van kleuren in de fotografie te vergemakkelijken. De kaart toont een portret van een witte vrouw - Shirley Page, een voormalig medewerker van Kodak - omgeven door gekleurde blokken (roze, geel, groen, blauw, rood, zwart, grijs en wit). Het werkte als volgt: de fotograaf fotografeerde de fysieke Shirley-kaart in een hoek van een van de zesendertig frames van de filmrol. De drukker kon de belichting kalibreren op basis van de referentiekaart. Als Shirley’s huid er natuurlijk uit zag werd de foto beschouwd als goed belicht.
Shirley's lichte huid diende als 'neutrale' standaard. Maar de kaart had één enorme tekortkoming: het kon donkere kleuren zoals bruin niet goed oppakken, wat leidde tot fouten bij het fotograferen van mensen met een donkere huid. Het laat zien dat fotografie niet alleen een systeem is om licht vast te leggen, maar eerder een technologie van subjectieve beslissingen. Door een witte vrouw als norm te gebruiken werd een onbewuste raciale vooringenomenheid ingebouwd in de technologie van de fotografie. Tachtig jaar later is de voorkeur voor een lichtere huid in technologie nog steeds aanwezig in bijvoorbeeld gezichtsherkenningssoftware.
De installatie 'Behind Shirley' van kunstenaar Ibiye Camp onderzoekt deze raciale vooringenomenheid in fotografie en in de software voor gezichtsherkenning. Camp’s installatie maakt deel uit van de tentoonstelling Digital Shadows en is tot 26 februari te zien in OBA Oosterdok. Een gesprek met kunstenaar Ibiye Camp over haar installatie 'Behind Shirley'.
Behind Shirley
'Behind Shirley' (2020) bespreekt hoe met een donkere huid geen rekening werd gehouden in de fotografie en nu wordt genegeerd in gezichtsherkenningssoftware. De installatie bestaat uit een video-essay, twee 3D-geprinte bustes en een augmented reality-applicatie.
Camps aanvankelijke idee voor dit kunstwerk kwam voort uit het werken met fotogrammetrie: de kunst en wetenschap om 3D-informatie uit foto's te halen. Je voert foto's in de software in, waarna de software de beelden aan elkaar plakt.
Bij het scannen van een drukke markt in Lagos (Nigeria) met haar telefoon, merkte Camp hoe de scans door de contrasterende verlichting en de enorme hoeveelheid bewegende mensen nietig en ontoereikend werden. Camp ontdekte dat de ruimte niet goed herkenbaar was voor Google (via Maps). Naast straatbeelden wilde ze ook de mensen op de markt in beeld brengen.
Door ‘glitches’ (digitale scheuren/storingen) zag ze hoe gezichten van zwarte mensen vaak niet als gezicht werden herkend. De software kon zwarte mensen niet scheiden van de bruine muren achter hen en gingen soms in elkaar over. Deze mis-identificatie, vooral van zwarte vrouwen, deed Camp dieper ingaan op hoe deze software is ontworpen en, belangrijker nog, voor wie. Eerder onderzoek toonde aan hoe gezichtsherkenningstechnologie onderhevig is aan vooroordelen op basis van de verstrekte datasets en de omstandigheden waarin de algoritmen worden gemaakt.
Een mensen-probleem
Het verkeerd of niet herkennen van zwarte mensen bracht Camp op het werk van Joy Buolamwini. 'Dichter van de code' Joy Buolamwini werd een grote inspiratiebron tijdens Camp’s onderzoek naar vooringenomenheid in technologie. Buolamwini's onderzoek naar de vooringenomenheid bij kunstmatige intelligentie belichtte (letterlijk) de lange geschiedenis van misidentificatie. Een systeem gebaseerd op de voorkeur voor lichte huid, die begon in de kleurenfotografie in de jaren vijftig en nog steeds doorwerkt in de huidige ontwikkeling van gezichtsherkenningssoftware. Deze software wordt ontwikkeld en getest door voornamelijk witte mannen in Noord-Amerika, die informatie putten uit gebrekkige datapools. De verzamelde gegevens in de datapools vertegenwoordigen niet de hele samenleving, wat leidt tot onnauwkeurige gezichtsherkenningstechnologie.
'Scansoftware wordt meestal getest in westerse, tamelijk ongerepte en technologievriendelijke plaatsen' - Ibiye Camp
Het werd duidelijk dat de Shirley-kaart de basis vormde voor de manier waarop mensen in de fotografie huidtinten herkennen en kleuren matchen. Het had een enorme invloed op hoe de maatschappij mensen zag. "Gestandaardiseerde ideeën over kleur en huidskleur zijn nu vertaald naar kunstmatige intelligentie (AI)," zegt Camp. In haar video-essay, waarin ze de hedendaagse spanningen en vooroordelen over donkere huidskleuren onderzoekt, nodigden de ‘glitches’ ook uit om anders te denken.
'Er is een positief en ook een verschrikkelijk negatief aspect van verkeerd geïdentificeerd worden' - Ibiye Camp
Camp stelt dat als mensen van kleur en/of queer mensen in zekere zin 'onleesbaar' zijn voor technologie, we misschien een nieuw soort technologie kunnen bedenken. Ze vervolgt: 'mijn werk is in die zin speculatief bedoeld en stelt vragen over hoe een mogelijke toekomst eruit zou zien. Vooral augmented reality (je ziet de wereld met een extra laag informatie er overheen) vind ik een interessante manier om de toekomst te ontwerpen en opnieuw voor te stellen. Zoals de stem van de AI in haar video-essay uitlegt: het is niet echt een AI-probleem dat mensen verkeerd worden geïdentificeerd, het is meer een probleem van mensen. Vooroordelen komen van mensen, niet van AI.
Wat kunnen we doen?
'Wees kritisch over de soorten software die je gebruikt', antwoordt Camp. 'Ik gebruik zelf Spark AR, dat onderdeel is van Meta,' zegt ze, 'en dat zou ik waarschijnlijk niet moeten doen.' Camp merkt hoe veel mensen in de digitale gemeenschap momenteel nieuwe codes schrijven en die delen: 'Het is belangrijk om gesprekken en code te delen, zodat we de mainstream datapools die in Noord-Amerika worden verzameld diverser kunnen maken.' Er zijn steeds meer aanwijzingen dat niet alleen de verzamelde datapools moeten worden gediversifieerd, maar ook de mensen die de technologieën zoals gezichtsherkenning creëren, testen en inzetten.
Bezoek de tentoonstelling Digital Shadows in OBA Oosterdok en neem deel aan een van de rondleidingen! Te zien tot 26 februari 2023.
En kom naar de Digital Shadows Performance avond op vrijdag 24 februari 19:30 waar kunstenaar Dani Ploeger een lezing-performance geeft rond zijn korte sci-fi film The Cults.
Lees meer over Ploeger's scify-cultfilm in De Volkskrant: ‘The Cults’ is een verrukkelijke mengelmoes van scifi-droom en cultuurkritiek