Het zaadje voor 'iets met slim speelgoed' werd geplant op een conferentie in Barcelona in mei van vorig jaar. Karien Vermeulen (Waag) was daar om een presentatie te geven en liep Stefania Druga tegen het lijf. Stefania presenteerde in Barcelona haar onderzoek, waaruit was gebleken dat slim speelgoed de morele opinies van kinderen beïnvloedt.
Toen Karien in juli met Jelle van der Ster (stichting SETUP) onder het genot van een limonade op een terras zat, kwam het gesprek terloops op opvoedbarbies en het onderzoek van Druga. Dit deed Jelle direct denken aan een aflevering van The Simpsons. In de aflevering gaat Lisa de strijd aan met de niet-feministische, seksistische en stereotypen-bevestigende Malibu Stacey, door zelf een pop te ontwikkelen die meisjes moet emanciperen en hen moet steunen in hun ontwikkeling tot een volwassen, zelfstandige vrouw: Lisa Lionheart. Op basis hiervan ontstond het idee voor een project rondom de ethische vraagstukken van slim speelgoed.
The rest is history. Op 6 juni is er een volledig dag- en avondprogramma bij Waag, waarin we verkennen hoe we op een menswaardige wijze richting kunnen geven aan de rol die AI gaat spelen in de opvoeding van kinderen. In de aanloop naar deze hackathon en publieksavond, zit ik met Karien en Jelle om de aanleiding van het evenement te bespreken.
Karien, Jelle, wat spreekt volgens jullie zo tot de verbeelding als het gaat om slim speelgoed?
Dat slim speelgoed directe invloed heeft op 'onze' kinderen, spreekt altijd tot de verbeelding. Veel ouders zijn constant op zoek naar wat goed is voor een kind. Ze willen graag leerzaam speelgoed en denken al snel als het praat of iets doet, dat hun kind er iets van kan leren. Maar we moeten ook de vraag (durven) stellen: is dat wel zo? En als dat zo is, heeft het dan ook consequenties op een ander vlak?
Als er over slim speelgoed wordt gepraat, gaat het vaak over privacy en veiligheid. Maar de ethische gevolgen voor de opvoeding van een kind en de verhouding tussen ouder en kind worden nog niet besproken. Wij missen vragen als: Hoe beïnvloedt slim speelgoed de socialisatie van kinderen? Is een band met een Barbie waardevol voor de rest van je leven? Wat doet dit met het vrij speelgedrag?
We zien een enorme technologische push, maar vragen ons ook af in hoeverre fabrikanten aandacht besteden aan het ontwerp van slim speelgoed. Is slimme Barbie ontstaan vanuit een pedagogisch of een commercieel doel? Zijn we ons ervan bewust dat er veel culturele en morele waarden opgesloten zitten in zo’n ding? En zijn dat ook de waarden die je als ouder wil meegeven aan je kind? Al deze vragen zijn van belang te stellen in deze context.
Waarom is slim speelgoed een onderwerp waar we het nu over moeten hebben?
Er is steeds meer mogelijk op technologisch gebied, dus er gebeurt ook meer. Veel van de toepassingen waar we het over zullen hebben, zijn nog niet beschikbaar op de Nederlandse markt. Daardoor is dit het moment dat we met elkaar kunnen vragen, hoe zijn die dingen ontworpen en willen we dat in huis halen? Het draait om bewustwording voor consumenten, maar ook voor fabrikanten.
Omdat slim speelgoed in Nederland nog geen voldongen feit is, geeft dit ons de kans om met zijn allen slim speelgoed op een kritische manier vorm te geven. Daarom hebben we gekozen voor een hackathon en publieksavond met mensen in Nederland die hier iets voor kunnen betekenen en hier ook nog invloed op kunnen hebben.
De generatie die nu opgroeit, is de eerste generatie kinderen die een leven omgeven door sociale robots tegemoet gaat. Hoe wij kinderen nu opvoeden, geeft vorm aan hoe zij in de toekomst met die sociale robots zullen leven. Dat je het letterlijk in huis brengt en het speelgoed tussen ouder en kind plaatst, verhoogt de urgentie van het debat.
Wat denken jullie als organisaties toe te kunnen voegen aan deze (al dan niet bestaande) discussie?
De discussie gaat veel over privacy en tracking. Wij hopen dat mensen door het evenement meer inzicht krijgen in hoe AI in slimme objecten om je heen werkt en wat erbij komt kijken als je daarvoor gaat programmeren. Daardoor kunnen er uitspraken gedaan worden over wat belangrijk is. We willen een breder begrip van privacy introduceren in het debat. Eigenlijk willen we het genuanceerde debat uit de zorg ook bij slim speelgoed introduceren. We hebben de kans om momentum te creëren in Nederland en mensen die hiermee bezig zijn hierbij aan te haken. We willen basiskennis creëren waar experts later op kunnen teruggrijpen.
Als je ouders vertelt dat slim speelgoed in staat is de morele opinies van hun kind te beïnvloeden (zoals is gebleken uit Amerikaans onderzoek), dan denken ze wel, shit. Alleen dat al, dat er een belletje gaat rinkelen, dat is al een toegevoegde waarde. Hierna kunnen ze zich dan afvragen, kan ik slim speelgoed een verlengstuk van mezelf laten zijn?
Waarom is gekozen voor een hackathon en publieksavond?
We wilden Stefania Druga naar Nederland halen en mensen die zich bezighouden met slim speelgoed, AI en de morele vragen daaromtrent, bij elkaar brengen. Ook hadden we beiden de insteek dat als we er iets zinnigs over willen kunnen zeggen, moeten we er ook letterlijk mee aan de slag, het zelf ervaren. Je gaat dingen altijd dingen beter begrijpen als je een gedeelte zelf gaat maken.
Ook zien we de kracht van mensen met verschillende invalshoeken (onderwijs, design, hackers) samenbrengen, actief met een onderwerp aan de slag gaan en daarop reflecteren. Dit past bij ons als organisaties. Wij zijn geen onderwijsinstituten, we hebben een maatschappelijk-agenderende functie.
Wat verwachten jullie van de hackathon en wat mag het publiek verwachten van de publieksavond?
In de hackathon zetten we een gave groep mensen bij elkaar. Zij gaan in teams aan de slag. We hopen dat ze met verrassende dingen komen en verwachten dat ze ook heel erg gefrustreerd zullen raken. Omgaan met nieuwe technologieën is altijd ingewikkeld, dus om in een dag een werkend provotype te kunnen presenteren, is pittig. Het is wel een beetje de bedoeling dat er extreme scenario’s, verrassende en gekke dingen, uitkomen.
Het avondprogramma is eigenlijk bedoeld om mensen inzichten te geven. We willen experts uit verschillende netwerken samenbrengen, zodat zij elkaar ontmoeten, kennis delen en blijvende relaties aangaan op het gebied van dit onderwerp. Daarnaast is het interessant om zelf programmeren met AI toegankelijk te maken. We hopen dat (niet-technische) mensen daardoor geïnspireerd raken om daarmee aan de slag te gaan.
Hoe zien jullie de toekomst van deze discussie –waar leidt het toe? Moet je bijvoorbeeld denken aan iets als wet- of regelgeving?
We zien eigenlijk veel kansen op het gebied van slim speelgoed. Sociale robots kunnen ook sociaal gedrag stimuleren. Uit onderzoek blijkt dat het spel van kinderen verandert doordat de scheiding fysieke en digitale wereld niet meer zo strikt is. Dit hoeft niet per se negatief te zijn. Tegelijkertijd zien onderzoekers nog steeds veel kenmerken van traditioneel spel. Er is nog steeds veel fantasie, maar die wordt nu op een interactieve Furby geprojecteerd. Er zijn ook veel onderzoeken die zeggen dat sociale en educatieve robots bij kinderen veel positieve effecten kunnen hebben. Kortom, het veld biedt veel kansen, maar we moeten wel vragen blijven stellen.
Het lijkt ons interessant als er een soort van gedragscode of tien ontwerpregels voor slim speelgoed ontstaan voor fabrikanten. Dit moeten geen technische of juridische vragen zijn, maar gaan over wat een fabrikant met slim speelgoed wil. We willen een soort besef creëren dat het interessant is om slim speelgoed ook in co-creatie te ontwikkelen. Dat als Mattel een nieuwe Barbie wil maken, niet alleen een technische expert vraagt, maar ook iemand als Stefania Druga uitnodigt voor de ethische en maatschappelijke vragen en consequenties.
Dit interview is een bijdrage van Maud Vis.
