Kritisch kijken naar de invloed van AI

Karien Vermeulen

In mei 2018 presenteerde Stefania Druga de eerste resultaten van haar onderzoek "My Doll Says It's OK: Voice-Enabled Toy Influences Children's Moral Decisions". Dit onderzoek was voor ons de aanleiding om kritisch te kijken naar de invloed van artificiële intelligentie (AI) in de relatie tussen ouders en kinderen. Dat doen we in het project 'AI AI Barbie', samen met Medialab SETUP, met financiële ondersteuning door het SIDN Fonds.

In 'AI AI Barbie' ontwerpen we samen met ouders, kinderen en experts uit verschillende disciplines nieuwe kaders voor verantwoord gebruik van AI in speelgoed. Onder 'verantwoord' verstaan wij: het zelf blijven begrijpen en kritisch kunnen reflecteren op de technologische concepten achter deze ontwikkeling.

Dat doen we op een hands-on manier: we gaan slimme Barbie’s 'hacken' en nieuwe regels voor haar gedrag opstellen. Door in de technologie te duiken werken we aan bewustwording rond dit thema en denken we na over alternatieven. Naast deze praktische benadering nemen wij een ook meer kunstzinnige benadering.

We volgen het adagium van Peter Paul Verbeek: "Dit betekent niet dat we alles maar moeten doen wat technisch mogelijk is. Het betekent wel dat we alles wat mogelijk is, moeten durven doordenken. En vooral dat we nieuwe morele kaders moeten durven ontwikkelen om de versmelting van mens en techniek te begeleiden in een wenselijke en waardige richting."

Het is voor ons een gestructureerde verkenning om na te denken over de vraag:

Welke rol willen we AI laten innemen in onze gezinnen?

AI die ons nu bereikt maakt nog altijd gebruik van door mensen geschreven codes en is veelal ontwikkeld voor en door een commercieel bedrijf. Zij is dus tastbaar en begrijpelijk maar niet feilloos en al helemaal niet zonder een agenda.

Over de auteur

  • Karien Vermeulen is hoofd programma bij het Creative Learning Lab van Waag.