Escape the smart city

Tomo Kihara is op 17 oktober 2018 cum laude afgestudeerd aan de TU Delft op zijn onderzoek naar het gebruik van AI-surveillancetechnologie in de stad. Hiervoor ontwierp hij het spel 'Escape the Smart City'. Tomo rondde hiermee tevens een stageperiode bij Waag af, waarin hij verschillende projecten heeft uitgevoerd, zoals 'Street Debater' en 'phonvert AI'. In de afstudeercommissie zaten namens Waag Stefano Bocconi en Tom Demeyer.

De master thesis van het onderzoek is als publicatie (pdf) te downloaden.

Samenvatting van het onderzoek

'Escape the Smart City' is een zogenoemde 'pervasive game' om bewustzijn te creëren over de implicaties van AI-surveillancetechnologie in de slimme stad. Het reageert op groeiende bezorgdheid over de massale inzet van bewakingscamera's die zijn verbeterd met kunstmatige intelligentie (AI) die de steden in digitale panoptiek veranderen (Sadowski & Pasquale, 2015).

Dergelijke zorgen worden versterkt door de centrale rol die multinationals spelen bij de ontwikkeling van de technologieën die de stad 'slim' zouden maken. De technologieën achter AI-surveillance zijn niet open en de aard ervan is inherent een 'black-box' die voor burgers moeilijk te begrijpen is. Ook kunnen ze geen invloed uitoefenen op het gebruik ervan in de stad.

Daardoor zijn mensen die in de steden wonen met slimme bewaking vaak niet voldoende op de hoogte van de gevolgen van de alomtegenwoordige technologie in hun omgeving. Dit onderzoek gaat in op dit gebrek aan bewustzijn door een escape room-achtige ervaring te creëren in de stad, waar spelers verborgen bewakingscamera's zoeken, algoritmische vooroordelen ontdekken en proberen het algoritme voor gezichtsdetectie voor de gek te houden om tegen een fictief alziend AI-surveillancesysteem in te gaan.

Door middel van het prototype kregen de spelers interactieve feedback te over hoe AI-bewaking de wereld zou waarnemen, en konden de spelers een idee krijgen van de aard van AI en kritische vragen te stellen over de noodzaak en consequenties. Bovendien zorgde de in-situ ervaring buiten voor een verhoogd bewustzijn van bestaande surveillance-infrastructuren.