Elke dag worden we in hokjes gestopt aan de hand van onze data zonder dat we hier iets over te zeggen hebben. Als je een film op Netflix kijkt zal het algoritme je daarna meer van dezelfde films aanraden en als je in een dure wijk woont kan de prijs voor een vlucht online opeens hoger uitvallen. Iedereen wordt continue gecategoriseerd door algoritmes. Dit zijn nog voorbeelden die niet zo veel kwaad doen, maar wat gebeurt er als je een baan niet krijgt of langer naar de gevangenis moet gebaseerd op je data?
In haar boek Weapons of Math Destruction beschrijft Cathy O’neill hoe classificatiesystemen een negatieve impact op de samenleving kunnen hebben. Een gevaarlijk onderdeel van deze algoritmes zijn het gebruiken van data als proxy, zoals het gebruiken van adresgegevens om in te schatten hoeveel kans je hebt om crimineel te zijn. Ook kijken de algoritmes alleen naar mensen zoals jij en niet naar wie jij zelf bent.
Afgelopen maanden heb ik als onderdeel van mijn stage bij Waag onderzoek gedaan naar hoe algoritmes mensen kunnen veranderen in een set datapunten waarop ze beoordeeld kunnen worden. In dit onderzoek ontdekte ik dat algoritmes vaak vooral meningen zijn van degene die het algoritme hebben gemaakt. De keuze in welke data gebruikt wordt en op welke manier deze gewogen wordt heeft veel effect op de uitslag.
Onder begeleiding van Tom Demeyer en Stefano Boccini ontwikkelde ik een framework voor het herkennen van soorten mensen aan de hand van hun foto's. Ter afsluiting van dit onderzoek bouwde ik een installatie van meerdere Tinder chatbots die naar foto’s kijken en deze beoordelen op verschillende factoren. De bots maken daarna een keuze of de persoon achter het profiel bij hun past.
Om het algoritme te trainen zocht ik naar clichés die vaak voorkomen op Tinder. Mannen nemen foto’s met hun auto of buikspieren en onder alle gebruikers zijn vakantie- en festival foto’s populair. Daarom trainde ik een algoritme om buikspieren, auto’s en strand foto's te herkennen en gaf zes Tinderbots allemaal hun eigen voorkeuren waar naar ze zochten.
De eerste reacties op de bots waren verdeeld. Veel Tinder gebruikers voelden zich voor de gek gehouden of waren het niet eens met het oordeel van het algoritme. Anderen waren verrast en vonden het een interessant initiatief. Het project werd afgesloten in Sociëteit Sexyland, waar uitslagen besproken werden met verschillende sprekers.