In het wetsvoorstel van de Europese Commissie over kunstmatige intelligentie staat een gedeeltelijk verbod op biometrische surveillance in de openbare ruimte. Dat is een goed begin en laat zien dat ons werk zeker niet voor niets is. Maar er zitten nog te veel gaten in de wetgeving om van echte bescherming te kunnen spreken. Daarom gaan we door met de strijd voor een verbod op álle biometrische surveillance in de openbare ruimte.

Welke bescherming biedt het voorstel wél?

De CommissieLees hier het gehele wetsvoorstel erkent expliciet de grote inbreuk die biometrische surveillancesystemenLees hier onze position paper voor een verbod op biometrische massasurveillance kunnen maken op de rechten en vrijheden van burgers. Daarom komt zij tot een verbod op de inzet van live biometrische identificatiesystemen die worden ingezet in de publiek toegankelijke ruimte voor handhavingsdoeleinden. Dat betekent dat opsporingsinstanties, maar ook andere instanties op hun verzoek, geen gezichtsherkenning of andere biometrische identificatie mogen inzetten in de openbare ruimte, waarbij in real time de match wordt gemaakt tussen de personen in een databank en de personen die geregistreerd worden door het systeem.

Andere vormen van biometrische surveillance in de openbare ruimte vallen onder het regime voor applicaties die hoge risico's met zich meebrengen, en daarom aan strengere regels worden gebonden. Om de transparantie en controleerbaarheid van dit soort applicaties te verhogen, introduceert het wetsvoorstel een Europese databank. Lidstaten worden verplicht hoge-risico applicaties hierin te registreren.

Welke bescherming missen we in dit voorstel?

Allereerst is de verwoording van het verbod erg specifiek, en laat het vele soorten biometrische surveillance buiten beschouwing. Die vallen dus allemaal niet onder het verbod. Denk bijvoorbeeld aan deze soort surveillance voor commerciële doeleinden. Hiermee lijkt het wetsvoorstel vormen van biometrische massasurveillanceLees hier de inventarisatie die we met de Reclaim Your Face groep van biometrische surveillance in de Europese Unie hebben gemaakt toe te staan die minimaal op gespannen voet staan met de fundamentele rechten en vrijheden die in bestaande Europese wetgeving zijn verankerd.

Ook staan er meteen uitzonderingen op het verbod geformuleerd die nog aardig wat ruimte laten. Bijvoorbeeld voor het gericht zoeken naar een potentieel slachtoffer van criminaliteit, preventieve inzet wanneer er sprake is van een dreiging ten opzichte van de fysieke veiligheid van een persoon of het zoeken van iemand die verdacht wordt van een zwaarder misdrijf. Wel worden er bij deze uitzonderingen vereisten geformuleerd zoals beperkingen in tijd, plaats en gerichtheid op personen.

Daarnaast is het verbod expliciet beperkt tot real time systemen. Dat betekent dat bijvoorbeeld gezichtsherkenning die wordt toegepast op de beelden die zijn opgenomen door 'normale' camera's in de openbare ruimte niet onder het verbod vallen. Daarmee is het verbod dus niet van toepassing op CATCHLees hier wat we eerder schreven over CATCH, het systeemLees hier het artikel van Vice over gezichtsherkenning op de Nederlandse straten dat de Nederlandse politieLees hier wat wij eerder zeiden over CATCH gebruikt, maar valt dat enkel binnen het hoge risico regime.

En beperkt het verbod zich tot biometrische identificatie. Dat is een erg beperkte formulering. De Europese toezichthouder op gegevensbescherming heeft eerder gezegd dat iemand onderscheiden van andere mensen hier ook onder valt. Maar dat lijkt in het voorstel niet te worden meegenomen. Dit zet de deur open voor mogelijk discriminatoire praktijken als het categoriseren of selecteren van mensen op basis van uiterlijke kenmerken. Ook zegt het niets over het volgen van mensen in de publieke ruimte zonder dat dit gericht is op hen identificeren.

Tot slot schuilt er gevaar in de vage bewoordingen. Het verbod geldt nu ten aanzien van systemen die worden ingezet zonder voorafgaande kennis van de gebruiker van het systeem over of de persoon waar de inzet zich op richt aanwezig zou zijn en geïdentificeerd kan worden. En als je hier de draad kwijtraakt is dat niet gek, dat doen wij ook een beetje.

Een begin, maar wij gaan door! Jij ook?

We zijn blij met de erkenning van de Commissie dat deze systemen enorm indringend zijn en hoge risico's meebrengen voor onze rechten en vrijheden en onze vrije samenleving. Ook is het een eerste stap dat er nu een gedeeltelijk verbod in het voorstel is opgenomen. Maar voor echte bescherming is er meer nodig. Daarom blijven wij strijden voor een verbod op álle biometrische surveillance technologieLees hier ook het statement van Reclaim Your Face in de openbare ruimte.