Biometrische surveillance in de publieke ruimte moet verboden worden. In een Europees wetsvoorstel over kunstmatige intelligentie worden hier stapjes naar gezet, maar het verbod gaat daarin niet ver genoeg. Dat vinden nu ook de Europese toezichthouder en de koepel van nationale toezichthouders op gegevensbescherming. Zij roepen, net als wij, op tot een breder verbod met minder uitzonderingen.

 

In heel Europa voeren we actie om biometrische surveillance in de publieke ruimte te verbieden. Met deze technologie kan je worden geïdentificeerd, geanalyseerd en gevolgd in de openbare ruimte. Lees hier meer over onze zorgen en actiesWij vinden dat deze vorm van massasurveillance niet thuis hoort in onze straten.

De Europese toezichthouders versterken onze oproep

In het huidige wetsvoorstel over kunstmatige intelligentieLees hier wat wij eerder schreven over het gehele wetsvoorstel erkent de Europese Commissie de grote risico's van biometrische surveillance in publiek toegankelijke ruimten. Maar het bereik van het verbod dat in het voorstel is opgenomen om daar bescherming tegen te bieden is erg kleinLees hier wat wij eerder schreven over dit verbod. De Europese toezichthouder (EDPS) en de koepel van nationale toezichthouders (EDPB) op gegevensbescherming roepen nu samen op tot een uitbreiding van dit verbod, en daarmee van de bescherming van onze rechten en vrijheden. Anderhalf jaar geleden zaten wij nog met de Europese toezichthouder aan tafel om te pleiten voor een verbod op biometrische surveillance in de openbare ruimte.Lees hier het pleidooi terug dat wij destijds hielden Dat blijkt nu zeker de moeite waard te zijn geweest.

Het probleem is breder dus het verbod moet dat ook zijn

In het huidge wetsvoorstel is het verbod op een aantal manieren beperkt. Dat biedt volgens ons en de Europese toezichthouders onvoldoende bescherming. In hun gezamenlijke reactie op dit voorstelLees hier de gezamenlijke reactie van de toezichthouders schrijven zij dat er een generiek verbod moet komen op elk gebruik van kunstmatige intelligentie voor geautomatiseerde herkenning op basis van lichamelijke - of gedragskenmerken in publiek toegankelijke ruimten.

Dat betekent dat het verbod niet beperkt zou moeten zijn tot opsporings- en handhavingsdoeleinden, maar ook voor bijvoorbeeld commerciële doelen zou moeten gelden. Een andere beperking in het huidige verbod die de toezichthouders bekritiseren is die tussen "real time" en "post" systemen. Deze beperking in het huidige voorstel zorgt ervoor dat CATCHLees hier wat wij eerder schreven over CATCH, het gezichtsherkenningssysteem van de Nederlandse politie buiten het verbod valt.

Ook willen de toezichthoudersLees hier ook wat de Nederlandse toezichthouder erover zegt in de Volkskrant dat het gebruik van biometrische gegevens om mensen te sorteren op basis van etniciteit, gender, politieke of seksuele oriëntatie of andere gronden waarop mensen gediscrimineerd kunnen worden, verboden wordt. Hetzelfde schrijven zij over het gebruik van kunstmatige intelligentie voor het maken van aannames over iemands emoties. Opvallend is dat zij aandacht vragen voor het begrip "publiek toegankelijke ruimte" en stellen dat dit niet beperkt zou moeten worden tot de fysieke ruimte, maar zich ook moet uitstrekken over de online ruimte. Hiermee zouden diensten als Clearview AILees hier hoe jij ons kan helpen Clearview AI in Nederland aan te pakken ook aangepakt kunnen worden.

Tot slot nemen de toezichthouders stevig stelling over de uitzonderingen. Zij schrijven dat deze zo ver gaan dat zij het verbod in de praktijk betekenisloos kunnen maken.

"To do" voor het Europees Parlement en de Raad

Het is nu aan het Europees Parlement en de Raad van de Europese Unie om iets met deze boodschap te doen. Zij mogen wijzigingen aanbrengen in het huidige voorstel. De toezichthouders hebben al voor een mooi lijstje wijzigingen voor het verbod op biometrische surveillance in publiek toegankelijke ruimten gezorgd.

Daar worden wij heel erg blij van, maar we zijn er nog niet. Om ervoor te zorgen dat deze instituties het lijstje wijzigingen ook echt overnemen, moeten we de publieke druk hoog blijven houden. Daarom helpt het als jij ons burgerinitiatief ondertekent. #ReclaimYourFace!Lees hier meer over dit burgerinitiatief