In april wordt de Europese Unie de eerste wereldmacht met uitgewerkte plannen om kunstmatige intelligentie te reguleren. Met onze Europese partnerorganisaties startten we een burgerinitiatief om biometrische surveillance in de publieke ruimte te verbieden.

De nieuwe regels gaan ook over biometrische surveillance technologie- zoals gezichtsherkenning- in de openbare ruimte. Met deze technologie worden unieke gegevens over onze lichamen en ons gedrag verzameld die gevoelige informatie prijsgeven over wie we zijn. Het is schokkend dat meer dan de helft van de EU lidstaten gezichtsherkenning en vergelijkbare technologie gebruiken op manieren die strijdig zijn met hun eigen mensenrechtenwetgevingLees daar meer over in ons position paper Ban Biometric Mass Surveillance. Maar de nieuwe wetgeving biedt een unieke kans daar een stokje voor te steken.

We zijn een Europees burgerinitiatief gestart!

Dit soort technologie wordt vaak afgeschilderd als een effectieve manier om criminaliteit te voorkomen, maar die effectiviteit is helemaal niet bewezen. Wel is duidelijk dat steeds grotere groepen mensen ermee in de gaten gehouden kunnen worden. Daarom hebben wij, in een coalitie van maar liefst 40 Europese organisaties - verenigd in de campagne Reclaim Your Face - besloten de strijd aan te binden tegen deze schadelijke technologie. We zijn een Europees burgerinitiatiefBekijk hier de campagnepagina gestart waarin we de Europese Commissie oproepen tot een verbod. Het burgerinitiatief heeft in korte tijd al bijna 30.000 ondertekeningen weten te behalen. Hieronder leggen we je uit waarom.

De automatisering van surveillance in de EU

Terwijl gezichtsherkenningstechnologie al decennia bestaat, zien we pas de laatste paar jaar dat vanwege bezuinigingen bij overheden en de politie surveillance steeds vaker geautomatiseerd wordt. Hierbij gebruiken ze technologie die onze lichamen en ons gedrag monitort en analyseert. Op basis van grootschalige dataverzameling kan een gemiddelde als norm worden gesteld, en alles wat daarvan afwijkt als verdacht worden aangemerkt.

Dat zien we onder andere bij iBorderCTRL, een 'leugendetector' die gebruik maakt van kunstmatige intelligentie om jou op basis van spierbewegingen in je gezicht een risicoscore toe te kennen die bepaalt welke controle je moet ondergaan bij de douane. En zo zijn er meer door de EU gefinancierde projecten die zich richten op het automatiseren van surveillance. Deze projecten worden om meerdere redenen bekritiseerd. Allereerst om het gebrek aan transparantie waarmee deze experimenten die grove inbreuk maken op onze rechten en vrijheden worden uitgevoerd. Maar ook omdat ze onderdeel zijn van een ‘border-industrial-complexLees hier meer over in de Frontex Papers van Corporate Europe Observatory’ dat leidt tot een inhumaan grensbeleidLees hier het rapport van EDRi. En omdat we zien dat surveillancetechnologie bijna letterlijk steeds verder onder onze huid kruipt.

Biometrische surveillance in Nederland

Maar voorbeelden vinden we ook dichter bij huis. In StratumseindLees hier wat we eerder schreven over Stratumseind in Eindhoven, waar biometrische surveillance technologie wordt ingezet om agressief gedrag te voorspellen en te voorkomen door groepsgedrag te sturen met technologische interventies. Of bij de Johan Cruijff ArenaLees hier meer over dit project, de 'Digitale Perimeter', waar het onderdeel is van een ‘virtueel hek’, dat streeft een ‘innovatief’ alternatief op een fysiek hek te zijn, maar vooral het gebied vermaakt tot ondoorzichtige datafuik. En al eerder schreven we over CATCHLees hier wat wij eerder schreven over CATCH, de gezichtsherkenningstechnologieLees hier wat wij eerder over gezichtsherkenning door de politieschreven die gebruikt wordt door de Nederlandse politie, met massale databanken vol gezichten. Zo heeft de Nederlandse politie in haar strafrechtdatabank maar liefst 1,4 miljoen mensenLees hier wat we daar eerder over zeiden bij RTL Nieuws opgenomen en in haar vreemdelingendatabank maar liefst tegen de zeven miljoen.

Wij en onze samenleving verdienen beter

Onze straten, supermarktenLees hier over de formele waarschuwing die de Autoriteit Persoonsgegevens stuurde aan supermarkten en parkenLees in dit overzichtsartikel van de Volkskrant waar gezichtsherkenning allemaal ingezet is volhangen met deze technologie zal bestaande discriminatie tegen mensen van kleur, mensen met beperkingen en andere gemarginaliseerde groepen versterken. En dat terwijl de technologie deze praktijken verpakt in een allure van objectiviteit. Verschillende politie-eenheden zoals in Londen en in NederlandLees hier meer over in het artikel van Vice claimen dat geautomatiseerde gezichtsherkenning nooit op zichzelf iemand kan identificeren. Maar onderzoekLees hier het onderzoek van Cambridge University wijst uit dat het voor mensen erg moeilijk is om tegen een geautomatiseerde beslissing in te gaan. Laten we dan niet alsnog de algoritmen bepalen?

Met de belofte inzicht te geven in wat mensen denken of gaan doen, bewegen we met het gebruik van biometrische systemen richting een high-tech gedachten-politie. Door ‘gedachtenlees-experimenten’ als iBorderCTRL legitimeert de EU flinterdunne pseudowetenschap, en zet Brussel de deur open voor invasieve biometrische systemen. Hierbij wordt geen rekening gehouden met het feit dat emoties en hoe men die uit tussen individuen en groepen enorm variëren. Biometrische detectie van verdacht gedrag dwingt iedereen zich exact te gedragen naar een arbitrair vastgestelde en technologisch bewaakte norm.

Overheden openen een doos van Pandora als ze technologie willen inzetten waarmee hun controle wordt uitgebreid naar wat mensen denken of willen. Of naar voorspellingen over schuld en onschuld op basis van biometrische gegevens en algoritmen. Die inzet van technologie druist in tegen de principes van een democratische rechtsstaat. En die zouden overheden toch juist moeten beschermen.

Disclaimer: Bij het klikken op de link wordt je doorverwezen naar de pagina van het burgerinitiatief Reclaim Your Face. Bij het ondertekenen wordt om persoonsgegevens gevraagd. Deze gegevens zijn nodig om je ondertekening geldig te maken, zoals vereist in de Europese Verordening over het Europees burgerinitiatief.Hier vind je de wetgeving die dit vereist