waag
for open, fair & inclusive internet

Terugkijken: Staat van het internet 2021: Inclusieve AI

29-1-21 16:00 - 29-1-21 17:15
Online

Elk jaar steken we de peilstok in het internet. Dit jaar onderzochten we algoritmisch onrecht en andere potentiële gevaren van slimme en zelflerende systemen. Wie zitten er aan de knoppen? Wie ontwerpt de knoppen? En hoe zorgen we dat de veelgebruikte systemen voor iedereen even goed werken? 



Kijk De staat van het internet 2021 terug

Lees de rede terug

Kijkwijzer: AI, algoritme en bias 

Artificiële- of kunstmatige intelligentie is een verzamelnaam voor systemen of applicaties die taken uitvoeren waarvoor vroeger menselijke input nodig was, zoals de geautomatiseerde chatbots die antwoorden geven op vragen van mensen. Ook zijn dit systemen die informatie verzamelen om zichzelf hiermee te trainen om hun taken beter uit te voeren. 

Een algoritme is een wiskundige regel of recept, die met input een bepaalde uitput kan bepalen. Dat kunnen beslissingen zijn over wat jij op je beeldscherm ziet om de reclame's af te stemmen op je voorkeuren, maar ook in de rechtspraak wordt er gebruikt gemaakt van deze algoritmes.

Bias is een afwijking, of systematische fout, die ook in technologie voorkomt. Door bijvoorbeeld vooroordelen of culturele overtuigingen kunnen bepaalde keuzes in technologie deze bias veroorzaken, met soms vergaande gevolgen. 

Hoofdspreker van De staat van het internet 2021 was Sennay Ghebreab, neuro-informaticus en professor aan de Universiteit van Amsterdam. 'Discriminerende algoritmes versterken de groeiende ongelijkheid in de samenleving,' waarschuwde hij eerder in een interview met OneWorld

'Discriminerende algoritmes versterken de groeiende ongelijkheid in de samenleving.'

Het programma bestond uit de volgende sprekers: 

  • Sennay Ghebreab - neuro-informaticus en professor aan de Universiteit van Amsterdam, verzorgt ook de keynote over inclusieve AI
  • Roel Dobbe - assistent-professor aan de TU Delft, gespecialiseerd in de techniek, het ontwerp en de governance van data- en algoritme-gedreven systemen voor controle en besluitvorming
  • Nani Jansen Reventlow - mensenrechtenadvocaat, gespecialiseerd in onder meer vrijheid van meningsuiting
  • Valerie Frissen - CEO SIDN Fonds
  • Martine Stig en Stef Kolman - ontwikkelaars van WeAlgo.org

AI is niet neutraal

We weten het al langer: technologie is niet neutraal. Het is een vertaling van cultuur, wereldbeeld en politieke overtuiging. Vooroordelen, ongelijkheden en racisme zitten in technologie ingebakken. Het is de vraag welke ethische waarden als uitgangspunt worden gebruikt in de ontwerpen. Op verschillende niveaus kunnen er aannames in de systemen verwerkt worden, die daarna veelal niet goed traceerbaar zijn. Dus ook fouten, of bevooroordeelde aannames worden zo op grote schaal herhaald en bevestigd.

Het is vaak ondoorzichtig wat er precies ‘onder de motorkap’ van zelflerende technologie gebeurt, laat staan wie er verantwoordelijkheid draagt. Daarom is het evidenter en urgenter dan ooit om kritische vragen te blijven stellen bij het ontwikkelen en beoordelen van zelflerende technologie. 

Tijdens deze editie van De staat van het internet gaan we in gesprek met een aantal experts over (on)verantwoorde algoritmes. Wat zijn de gevolgen voor de mensen waartegen AI bevooroordeeld (biased) is, wat is een wenselijk toekomstperspectief, en welke acties zijn er nodig?

Het programma bestaat uit een keynote van Sennay Ghebreab en een discussie met panelleden uit de politiek, wetenschappelijk onderzoek en wetgeving. 

Panel

  • Sennay Ghebreab - neuro-informaticus en professor aan de Universiteit van Amsterdam, verzorgt ook de keynote over inclusieve AI
  • Roel Dobbe - assistent-professor aan de TU Delft, gespecialiseerd in de techniek, het ontwerp en de governance van data- en algoritme-gedreven systemen voor controle en besluitvorming
  • Nani Jansen Reventlow - mensenrechtenadvocaat, gespecialiseerd in onder meer vrijheid van meningsuiting
  • Valerie Frissen - CEO SIDN Fonds
  • Martine Stig en Stef Kolman - ontwikkelaars van WeAlgo.org

Over De staat van het internet



Op 15 januari 2019 trapten we af met de eerste editie van De staat van het internet. Sindsdien staan we jaarlijks stil bij het moment waarop voor Amsterdam het internet als publiek domein toegankelijk werd. Op 15 januari 2021 is het inmiddels 27 jaar geleden dat de Digitale Stad haar deuren opende en het internet publiek toegankelijk werd. 

Tijdens de eerste editie in 2019 verzorgde hoogleraar media en digitale samenleving (Universiteit Utrecht) José van Dijck de lezing, waarin ze inzoomde op de rol van platforms in onze publieke ruimte. Vorig jaar ging Jaap-Henk Hoepman, expert op het gebied van privacy by design, in op onze digitale identiteit.

Kijk hier de lezingen terug van 2019 en 2020

De staat van het internet wordt mede mogelijk gemaakt door SIDN en de Universiteit van Amsterdam. Via het SIDN fonds steunt SIDN veel projecten die AI op een verantwoorde manier inzetten. Zie hier een overzicht.

SIDN

 

UVA