Nieuw toezicht op algoritmen
Vandaag is de officiële start van de algoritmetoezichthouder, dat bij de Autoriteit Persoonsgegevens is belegd.
Nieuwe taken voor de Autoriteit Persoonsgegevens
In het coalitieakkoordLees hier het coalitieakkoord werd eind 2021Lees hier wat we daarover schreven aangekondigd dat algoritmen gecontroleerd moesten worden op transparantie, discriminatie en willekeur. Een toezichthouder moest dit bewaken. Die toezichthouder is de Autoriteit Persoonsgegevens. Vandaag starten ze met een nieuwe taak waarin ze naast toezicht op de naleving van de Europese privacywet, ook toezicht gaan houden op algoritmen.
In de inrichtingsnota algoritmetoezichthouderLees hier de inrichtingsnota van de staatssecretaris van de staatssecretaris wordt aangegeven hoe de invulling van die rol er uit zal zien. De algoritmetoezichthouder zal zich richten op drie taken. Ten eerste zal de toezichthouder sectoroverstijgende risico’s en effecten van algoritmen signaleren en analyseren en daar kennis over delen. Ten tweede wil de toezichthouder (bestaande) samenwerkingen tussen verschillende toezichthouders verbeteren. Tot slot is het doel om tot gezamenlijke normuitleg te komen en overzicht te scheppen in geldende regels.
Een toezichthouder zonder loket voor mensen
We zijn erg blij dat dit kabinet werk heeft gemaakt van het tot stand brengen van toezicht op algoritmen. Dat is wat ons betreft hard nodig. Algoritmen worden al breed toegepast binnen onze samenleving en kunnen een behoorlijke impactBeluister onze podcast voor meer informatie hebben op mensenlevens. Het is dan ook belangrijk dat mensen ergens terecht kunnen als ze geen transparante en begrijpelijke uitleg krijgen, of wanneer ze het niet eens zijn met een (deels) geautomatiseerde beslissing die hun leven raakt.
Alleen is dat helaas niet de invulling die aan de toezichtrol gegeven wordt. De toezichthouder is geen loket waar geraakte burgers naartoe kunnen als ze zich zorgen maken over algoritmen. De staatssecretaris schrijft dat uit expertsessies is gebleken dat er niet veel draagvlak was voor een klachtenloket. Dit zou namelijk de herkenbaarheid voor burgers kunnen verslechteren en tot een “lokettenjungle” kunnen leiden. Bits of Freedom was bij één van de expertsessies aanwezig en pleitte er juist wél voor dat burgers terecht kunnen bij de toezichthouder.
Als burgers zich niet tot de toezichthouder kunnen wenden, voor wie is de toezichthouder dan bedoeld? Dat een loket ten koste zou gaan van de herkenbaarheid, vinden we niet erg overtuigend. Wel kunnen we ons voorstellen dat een nieuw loket waar klachten kunnen worden ingediend geen zin heeft als er te weinig middelen worden vrijgemaakt om die klachten in behandeling te nemen. Dat is immers al jarenLees hier wat we daar eerder over schreven het geval bij de Autoriteit PersoonsgegevensLees hier wat de AP daar zelf over schreef. En ook nu zijn de middelen die zijn vrijgemaakt voor deze nieuwe taak heel beperkt, namelijk vanaf 2023 1 miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026. Daar koop je niet veel voor. Vooral als je dat plaatst naast de 45 miljoen euroZie de Nederlandse digitaliseringsstrategie die jaarlijks wordt vrijgemaakt voor AI-innovatie, -onderzoek en co-financiering.
Als burgers zich niet tot de toezichthouder kunnen wenden, voor wie is de toezichthouder dan bedoeld?
Wel actiever toezicht op algoritmen
De staatssecretaris geeft in haar brief ook aan dat de Autoriteit Persoonsgegevens zich als privacytoezichthouder de komende jaren actiever wil inzetten om toezicht te houden op algoritmen waarbij persoonsgegevens gebruikt worden. Dat is bemoedigend, alleen is het geen gegeven dat gedurende het gehele proces bij het gebruik van algoritmen ook persoonsgegevens worden gebruikt.
Vaak wordt er bij profileringCheck hier ons filmpje over datagedreven profilering gebruik gemaakt van gegevens in de vorm van statistieken; cijfers die iets over bepaalde groepen mensen zeggen. Vervolgens worden die mensen gekoppeld aan profielen. Vanaf dat moment worden er persoonsgegevens gebruikt en is de Europese privacywet van toepassing (en de Autoriteit Persoonsgegevens bevoegd als toezichthouder), maar juist de totstandkoming van die profielen en de reden waarom iemand daaraan gekoppeld wordt, is interessant voor burgers. Die willen immers weten waarom ze in een bepaald hokje gestopt worden, waarbij er allerlei aannames over hen gemaakt worden.
Maar zoals het er nu op lijkt kunnen burgers daarvoor helaas dus nog steeds niet terecht bij een toezichthouder. Wat ons betreft is het nieuwe toezicht op algoritmen een stapje in de goede richting, maar hebben we nog een lange weg te gaan voordat burgers echt de bescherming krijgen waar ze recht op hebben.