In een vorig artikel bespraken we ethische richtlijnen en de bruikbaarheid ervan in de publieke sector. Om te achterhalen hoe de richtlijnen in de praktijk werken, gingen we in gesprek met datawetenschapper Maarten Sukel. Als AI developer bij de gemeente Amsterdam ontwikkelt hij algoritmen voor stedelijke toepassingen.
Maarten heeft onder andere een algoritme ontwikkeld dat aanvragen van burgers categoriseert. Door de classificatie van teksten worden verzoeken van burgers zo toegewezen aan verschillende afdelingen van de gemeente. Ook werkt hij aan modellen voor objectdetectie, met een applicatie die scant op afval in Amsterdam om de inzameldiensten van de stad te verbeteren.
In het gesprek over hoe ethische richtlijnen in de praktijk functioneren, hebben we ons primair gericht op de ethische principes die zijn geschetst door de high level expert group over AI van de Europese Unie. Zijn zulke richtlijnen nuttig voor ontwikkelaars om te gebruiken en te implementeren? Hier lees je wat we hebben geleerd.
Het format van ethische principes
Over het algemeen zijn ethische principes er om te zorgen voor een verantwoorde omgeving waarin ontwikkelaars en gebruikers profiteren van technologie. Is het opsommen van principes een nuttig format voor ontwikkelaars om te gebruiken tijdens het bouwen van AI-systemen? Volgens Maarten en andere critici is dat niet altijd zo. Het risico bestaat dat de richtlijnen als checklist fungeren, met onderdelen die simpel kunnen worden afgevinkt, zelfs als aan bepaalde eisen niet wordt voldaan.
“Ik ben het eens met het meeste van de genoemde punten, maar als ik het in de praktijk zie, zorgen dit soort beoordelingen voor veel papierwerk. Ik heb niet het idee dat het daarom daadwerkelijk wordt gecontroleerd voordat er iets wordt ontwikkeld. Veel ontdekkingen worden gedaan omdat de juiste gegevens aanwezig waren, iemand die heeft bestudeerd en iets bouwde, en dan later wordt het ethische gedeelte behandeld,” zegt Maarten.
Een ander probleem met het format van algemene principes is dat de diversiteit van velden, toepassingen en interesses van AI een hoog abstractieniveau vereist, met algemene termen als eerlijkheid, maatschappelijk en ecologisch welzijn en diversiteit.
Ontwikkelaars van algoritmen die robotarmen of zelfrijdende auto's bouwen, efficiëntere systemen ontwikkelen om afval in de stad te verzamelen of Facebook's rangschikkingsalgoritmen maken hebben niet veel belangen gemeen, omdat ze worden geleid door verschillende waarden en zorgen. Als gevolg daarvan fungeren principes alleen als algemene suggesties en moeten ze worden vertaald naar elk individueel geval.
Volgende stappen
Er is veel werk te doen om algoritmen te creëren die eerlijk, transparant, veilig en maatschappelijk verantwoord zijn. Volgens Maarten moeten we softwareontwikkelaars en datawetenschappers trainen in de ethiek van AI, omdat zij degenen zijn die deze applicaties maken.
Filosoof Brent Mittelstadt, een criticus van het principes-format, suggereert dat het misschien nodig is om AI-ontwikkeling formeel te gaan zien als een beroep dat gelijkwaardig is aan andere risicovolle beroepen.
Een andere belangrijke taak voor ontwikkelaars, zoals Maarten suggereert, is om doorlopend te communiceren en open te zijn over wat deze technologieën doen, zelfs als het niet mogelijk is om alles te delen vanwege privacyregelgeving.
Lees hier een uitgebreide beoordeling van enkele van de individuele principes op basis van de discussie met Maarten Sukel.
