Naar aanleiding van het WRR-rapport “Big Data in een vrije en veilige samenleving” nodigde de minister van Veiligheid en Justitie, Ard van der Steur ons uit om samen met een afvaardiging van verschillende partijen met hem en minister Stef Blok (in zijn eigen woorden “in zijn avatar van de minister van Binnenlandse Zaken”, Ronald Plasterk) te praten over big data-toepassingen bij de overheid. Afgelopen maandag waren we op bezoek bij de Haagse ‘Towers of Power’ om onze zorgen met ze te delen.

Ter voorbereiding schreven we een brief met onze punten van zorg (zie hieronder een opsomming van die punten) Zo wordt een belangrijke eerste vraag niet beantwoord: Is er een harde noodzaak om big data in te zetten, zijn er geen andere, minder vergaande mogelijkheden? De inzet van big data wordt nu als een gegeven gepresenteerd, terwijl de bescherming van onze data bestaat om onze privacy en autonomie te waarborgen. Er is geen reden om big data ineens als een uitzondering te beschouwen, waarvoor die zorgvuldig opgebouwde bescherming ineens uit het raam zou moeten worden gegooid. Die bescherming zit bijvoorbeeld in het uitgangspunt van doelbinding. Dat wordt bij big data losgelaten, omdat jouw gegevens voor het ene doel zijn verzameld en ze vervolgens voor een ander, mogelijk onverenigbaar, doel worden gebruikt.

Wij zaten aan tafel met Thomas Bruning (Nederlandse Vereniging voor Journalisten – NVJ), Brendan Newitt (Nederlandse Vereniging voor Strafrechtadvocaten – NVSA), Jelle Klaas (PILP/NJCM – Nederlands Juristen Comité voor de Mensenrechten), Alexander Blom (Internet Society Nederland – ISOC), Vincent Böhre (Privacy First), Jaap-Henk Hoepman (Wetenschappelijk directeur Privacy & Identity Lab en Universitair hoofddocent computersecurity, privacy en identitymanagement aan de Radboud Universiteit) en Hans de Zwart en ikzelf van Bits of Freedom.

In het open gesprek dat we voerden zijn de meeste van onze punten kort aan de orde gekomen. De bewindslieden twijfelen echter niet over nut en noodzaak van de inzet van big data. Van der Steur maakte glashelder dat de inzet van big data wat betreft het kabinet sowieso gaat plaatsvinden. Wel willen ze dat zorgvuldig inrichten. Hij wil bijvoorbeeld de kans op false positives zo klein mogelijk maken, een specifieke inzet van de toepassingen en de controleerbaarheid vergroten door transparantie van algoritmes. Meer zal blijken uit de officiële kabinetsreactie op het rapport, die we in het najaar kunnen verwachten. We zullen dat kritisch blijven volgen en jullie op de hoogte houden van de ontwikkelingen.

Onze belangrijkste punten van zorg:

• Ongerichte surveillance en gebrek aan doelbinding – belangrijke uitgangspunten van de rechtsstaat worden hierdoor losgelaten.
• Ontbreken van noodzaak – de overheid kan door de ontwikkeling van technologische mogelijkheden niet ontslagen worden van haar plicht tot het aantonen van de noodzaak van iedere inbreuk op de privacy van de burger.
• Schadelijke effecten binnen een democratische rechtsstaat:
  • Vrije meningsuiting en zelfcensuur – burgers passen vaker zelfcensuur toe en de controlerende rol van de media op de staat komt in het geding.
  • Verstoring relatie tussen overheid en burger – door de toenemende asymmetrie in de informatiepositie van de overheid aan de ene kant en burgers aan de anderen kant. Versterking van de civielrechtelijke algemeen-belangactie onder artikel 3:305a BW en introductie van de mogelijkheid van rechterlijke toetsing aan de Grondwet.
  • Individuele rechtsbescherming in het gedrang – de burger zal straks moeten bewijzen ten onrechte met een profiel te zijn geassocieerd, in plaats van omgekeerd.
  • Vals positieven – juist in de publieke context zijn vals positieven maatschappelijk slecht te legitimeren.
  • Institutionele vooroordelen – datasets worden samengesteld door mensen met hun menselijke vooringenomenheid. In machine learning omgevingen met de bijbehorende feedback loops, worden discriminatieproblemen cumulatief versterkt.
  • Vertrouwen in digitale communicatie wordt aangetast – als burgers de digitale infrastructuur niet meer kunnen vertrouwen, richt dat maatschappelijke schade aan.