Vandaag waren we te gast bij de Directie Coördinatie Algoritmes, de nieuwe tak van de Autoriteit Persoonsgegevens.

Sinds januari van dit jaar heeft de Autoriteit Persoonsgegevens er een nieuwe taak bij, namelijk de coördinatie op algoritmen. Als Directie Coördinatie Algoritmen zal de organisatie zich richten op normuitleg, het versterken van samenwerking tussen verschillende toezichthouders en signalering van wat er allemaal speelt op het gebied van algoritmes. Hierover zullen periodiek rapporten worden uitgebracht die moeten zorgen voor bewustwording bij organisaties.

De belangen van de burgers moeten centraal staan

Wij hebben ons al eerder kritisch uitgelatenLees hier waarom we hier kritisch over zijn over de invulling van deze taak, omdat we de belangen van burgers nog erg missen, terwijl die juist centraal zouden moeten staan. Op uitnodiging van de Directie Coördinatie Algoritmes zijn we daarover met elkaar in gesprek gegaan, samen met andere maatschappelijke organisaties. In dat gesprek hebben we aangegeven dat er 3 dingen nodig zijn om de belangen van burgers beter te beschermen:

1. Er is een toezichthouder nodig die toegankelijk is voor burgers die geraakt worden door de inzet van algoritmes. Burgers moeten bij een toezichthouder terecht kunnen met vragen of zorgen.
2. Burgers hebben recht op transparantie, uitlegbaarheid en controleerbaarheid van algoritmes. De werking van een algoritme en de totstandkoming van een beslissing moet op een begrijpelijke manier worden uitgelegd, zodat burgers zich ook tegen beslissingen kunnen verweren. Dit moet kunnen worden afgedwongen door toezichthouders, indien organisaties daar niet zelf aan voldoen.
3. Er is actief toezicht nodig, waarbij organisaties die over de schreef gaan ter verantwoording worden geroepen. Het komt namelijk te vaak voor dat organisaties grote risico's nemen bij de inzet van algoritmes, terwijl burgers met de schade komen te zitten als die risico's zich verwezenlijken.

In bijgaande position paper lees je meer over onze zorgen met betrekking tot het gebruik van algoritmen en wat er volgens ons nodig is om daar op een goede manier mee om te gaan.