Tijdens de Big Brother Awards was er dit jaar extra aandacht voor de positieve impact van voorvechters van onze internetvrijheid. De zogenoemde Felipe Rodriquez Award - naar één van de oprichters van XS4ALL en grondlegger van de digitale burgerrechtenbeweging in Nederland - ging dit jaar naar maar liefst vijf winnaars. Met deze prijs willen we anderen inspireren en motiveren om samen werk te maken van onze digitale rechten. We lichten dan ook graag de winnaars één voor één voor je uit in deze interviewreeks. Deze keer aan het woord: Niels Westerlaken. Hij won de prijs voor het aankaarten van het discriminerende algoritme waarmee visumaanvragen worden beoordeeld door het ministerie van Buitenlandse Zaken.

Over Niels Westerlaken

Niels Westerlaken won de Felipe Rodriquez Award als voormalig functionaris gegevensbescherming bij het ministerie van Buitenlandse Zaken. Daar kaartte hij het discriminerende algoritme aan waarmee visumaanvragen worden beoordeeld aan.

Deze software berekent voor mensen die een visum in Nederland aanvragen een risicoscore op basis van eerdere aanvragen, persoonsgegevens en hits in databases van onder meer de Koninklijke Marechaussee en de Immigratie- en Naturalisatiedienst (IND). Ook vergelijkt het algoritme visumaanvragen met die van andere reizigers, bijvoorbeeld op nationaliteit, leeftijd, geslacht en de plek van aanvraag. Vervolgens rolt daar een ‘risicoprofiel’ uit. Niels zag terecht discriminatierisico’s in het gebruiken van deze software, kaartte het gebruik ervan aan en stelde kritische vragen. Dat escaleerde en escaleerde, maar verandering bleef uit - en dus vertrok Niels. Maar Niels zag in zijn rol als functionaris gegevensbescherming (FG) dat er ook heel veel ambtenaren binnen het Ministerie waren die wél luisterden naar zijn waarschuwingen en adviezen, en hij heeft veel projecten zien verbeteren.

Wat heeft je gemotiveerd tot deze actie?

"Mijn drijfveer kwam voort uit de macht die overheden hebben in het bepalen van het lot van individuen, zoals het toestaan van familie-ontmoetingen in Nederland via een Schengenvisum. Wanneer algoritmes die macht uitoefenen, moeten ze absoluut eerlijk en te begrijpen zijn. Als toezichthouder voelde ik de verantwoordelijkheid om de integriteit van deze algoritmes vast te stellen. Het was mijn taak om ervoor te zorgen dat elke vorm van onderscheid tussen mensen dat door deze algoritmes werd gemaakt, gerechtvaardigd en proportioneel was. Het ontbreken van een goede reden voor het anders behandelen van verschillende nationaliteiten, geslachten en leeftijden is echt een ernstig symptoom van een onderliggend ontbreken van tegenmacht."

Hoe kijk je erop terug?

"Ik zie het als een betekenisvolle stap voorwaarts naar meer openheid over processen die anders verborgen blijven voor kwetsbare individuen, voor politici, en voor de samenleving. Ik verwacht dat dit zal leiden tot een streven naar beter uitlegbare algoritmen. Daarnaast hoop ik op een verhoogd bewustzijn onder bestuurders om de personen op wie het beleid van toepassing is, te betrekken bij hun besluitvorming."

Wat kunnen we de aankomende tijd van jou verwachten?

"Verwacht voortdurende verbeteringen van organisaties op het gebied van mensenrechten vanuit mijn hoek. De bescherming van gegevens speelt een cruciale rol in algoritmes en AI, en daar zal mijn focus liggen. Mijn doel is om processen meer transparant te maken en individuen een sterkere stem te geven in grote systemen."

Wat zou je graag willen meegeven aan mensen die in eenzelfde positie zitten als jij?

"Als je onrechtvaardigheid in een systeem opmerkt, spreek je dan uit voor diegene die niet gezien of gehoord worden. Draag bij aan het geven van een stem en gezicht aan gemarginaliseerde groepen binnen jouw organisatie. Blijf plezier vinden in je werk en stap op als je merkt dat jij meer door het werk wordt beïnvloed dan andersom."

Lees de volledige reeks