Dit jaar gaat de expertprijs naar het ministerie van Justitie en Veiligheid, dat het wel héél bont maakt als het gaat om inbreuken op de privacy en vrijheid van burgers. Om recht te doen aan het aantal missers reiken we dit jaar een oeuvreprijs uit. In een serie blogs besteden we aandacht aan de verschillende redenen waarom volgens onze vakjury het ministerie van Justitie en Veiligheid deze bijzondere prijs verdient.

Deel 4: De obsessie van de Nederlandse politie met onze gezichten met Frederik Zuiderveen Borgesius.

Waarom de politie graag onze gezichten verzamelt, en dat een probleem is

Het lijkt wel alsof de politie totaal geobsedeerd is met onze gezichten. Ze test en tweakt technologie om die te herkennen in de Johan Cruijff ArenA. Zij heeft er meer dan 2,6 miljoen in haar eigen databank gevangen, die ze niet eens goed op orde heeft. Ze heeft de infrastructuur van de ANPR-camera's gebruikt om er nog meer vast te leggen, zonder dat dit mocht. En ze heeft geprobeerd gezichten te herkennen met gebruik van de diensten van het omstreden bedrijf Clearview AI, zonder hier open over te zijn. Dat is zorgwekkend, want op basis van je gezicht kun je worden gevolgd, geanalyseerd, gemanipuleerd en geïdentificeerd. En als je eenmaal de controle over je gezichtsgegevens kwijt bent, dan krijg je die niet meer terug.

Expert-jurylid Frederik Zuiderveen Borgesius, Hoogleraar ICT en Recht aan de Radboud Universiteit, legt uit waarom de inzet van gezichtsherkenningstechnologie door de politie één van de redenen is dat het ministerie van Justitie en Veiligheid de Big Brother Award in de wacht heeft gesleept.

“Gezichtsherkenningssoftware in het algemeen is één van de grote privacyvraagstukken en -problemen van nu en de komende tien jaar. Want het nachtmerriescenario is dat die camera's die overal hangen gekoppeld worden aan gezichtsherkenningssoftware. Het idee dat je min of meer anoniem en onbespied over straat kan lopen verdwijnt dan. En hoewel dat nu weliswaar nog niet aan de orde is, is het wél zo dat de politie inmiddels, grotendeels buiten beeld van media en politici, een enorme databank met gezichten heeft opgebouwd en toegang heeft tot de beelden van camera’s op straat. En gebruik heeft gemaakt van de gezichtsherkenningssoftware van Clearview AI. Dat is dus wel reden om ons zorgen te maken.”

Geen gezichtssurveillance zonder maatschappelijk debat

"Als er al een systeem voor gezichtsherkenning zou moeten worden aangelegd, dan zou daar eerst een maatschappelijke discussie aan vooraf moeten gaan. De regering moet dan met een voorstel komen in een aparte wet waarop officiële adviesorganen als de Raad van State en de Autoriteit Persoonsgegevens commentaar kunnen geven, maar ook burgers en organisaties als Bits of Freedom worden geconsulteerd, het media-aandacht krijgt en er een debat in de Kamer over is waar er over wordt gestemd. Dan zou ik nog hopen dat er wordt beslist om niet zo’n systeem aan te leggen. Maar dan zou het een ander veraal zijn. Nu is het grotendeels buiten de radar van de publieke opinie en politici ontwikkeld en dat maakt het extra problematisch. Het waren een paar scherpe journalisten die een jaar of vijf geleden naar buiten brachten dat de politie dit gebruikt.Lees hier het artikel van de NOS"

Het waren ook journalisten die in 2020 rapporteerden over de chaos in deze massale gezichtendatabank. Zij schreven dat er tienduizenden mensen onterecht in de databankLees hier meer over deze rapportage staan, maar de politie ook niet precies weet hoeveel. En dat er na een eenmalige opruimactie meer dan tweehonderdduizend foto's moesten worden verwijderdLees hier meer over deze opruimactie die uit een oud systeem waren gehaald.

“Dit soort gezichtsherkenningssoftware kan ongetwijfeld nuttig zijn. De vraag is meer of het nut opweegt tegen de privacy-inbreuk. En daar twijfel ik over.”

En dan is er nog Clearview AI

Naast CATCH is er nog een ander gezichtsherkenningssysteem dat door de Nederlandse politie is gebruikt: het omstreden Clearview AI. Een systeem dat commercieel is ontwikkeld door een Amerikaans bedrijf. Dat heeft een databank aangelegd met allerlei gegevens die ze via social media hebben verzameld en die proberen ze te exploiteren, door deze aan te bieden aan politiediensten. In Amerika wordt daar grootschalig gebruik van gemaakt, in Europa is dat verboden. De Nederlandse politie heeft weliswaar nooit betaald voor het product, maar heeft er volgens nieuwssite Buzzfeed wel zoekslagen in uitgevoerd.

“Zoals Clearview die databank heeft aangelegd, door op grote schaal miljarden foto’s van iedereen die je op het web kunt vinden geautomatiseerd in een databank te stoppen, daar naam en vindplaats aan te hangen en doorzoekbaar te maken, dat mag absoluut niet volgens de Europese privacywetgeving. Als je dan geen net Europees bedrijf kan huren om het te doen, omdat in Europe die databank nooit gebouwd had mogen worden, dan vind ik het moreel absoluut verwerpelijk om daar toch gebruik van te maken als politieagent. Dat Clearview product, dat is door een Europese bril gewoon illegaal. Dus eigenlijk vind ik dat je als politie daar helemaal van af moet blijven.”

Wat deze prijs moet doen

We hebben net een aantal voorbeelden gezien van de wijze waarop de politie eigenlijk alle infrastructuur waar zij haar handen op kan leggen, gebruikt om onze gezichten vast te leggen. Ook hebben we gehoord dat er geen real time gezichtsherkenning in de straten nodig is om onze gezichten op de straten te kunnen herkennen. Dat haalt het angstscenario dat veel mensen hebben, een stuk dichterbij. De Big Brother Award moet die ontwikkeling een halt toeroepen. Het Ministerie moet verantwoordelijkheid nemen voor het gebruik van technologie door de politie en zorgen dat dit op een verantwoordelijke manier gebeurt, waarbij onze rechten en vrijheden goed zijn beschermd.

Over de Big Brother Awards

Tijdens de Big Brother AwardsMeer weten? Neem een kijkje op onze Big Brother Awards 2021 website! onderzoeken we hoe het is gesteld met ons recht op privacy in Nederland: We voelen de grootste privacyschenders aan de tand en vragen aandacht voor personen, bedrijven en overheden die hierop grove inbreuken maken. De grootste privacyschenders maken vervolgens kans op de Publieksprijs of de Expertprijs. Daarnaast is er een positieve privacyprijs, de Felipe Rodriguez Award, voor een persoon die juist een buitengewone bijdrage heeft geleverd aan het beschermen van onze digitale burgerrechten.

Volgende keer: De laatste in de rits aan privacymissers die ertoe hebben geleid dat de Expertprijs dit jaar een oeuvreprijs is voor het ministerie van Justitie en Veiligheid! We bespreken hoe zogenaamde Living Labs levende laboratoria maken van onze publieke ruimte waarin burgers verworden tot proefkonijn.