We hebben onderzoek gedaan naar de problemen rondom het gebruik van gezichtsherkenning in de publieke ruimte door de politie. Als onderdeel van dit onderzoek wilden we zelf eens de proef op de som nemen. Hoe werkt gezichtsherkenningstechnologie nou echt?

Digitaal toerisme

Op de Dam in Amsterdam, naast Hotel Krasnapolsky, hangt een camera. Dit is geen gewone beveiligingscamera: deze camera zendt beelden van de Dam, 24 uur per dag, 7 dagen per week, in superhoge kwaliteit uit op YouTube. De camera kan vanaf de ene kant van het plein helemaal inzoomen naar de andere kant van het plein. Goed voor ‘digitaal toerisme’, zo is op de site van de leverancierZie de site van webcam.nl van de camera te lezen. Deze camera is ook goed voor ons onderzoek: het biedt de perfecte mogelijkheid om gezichtsherkenningstechnologie te testen. Hoe bizar is het, dat de duizenden mensen die per dag over de Dam komen, zonder dat zij dit weten, ook op YouTube te zien zijn? En een nog enger toekomstbeeld: wat als zij allemaal geregistreerd zouden kunnen worden door middel van gezichtsherkenningstechnologie?

Amazon’s Rekognition

Voor dit onderzoek hebben we de gezichtsherkenningstechnologie van Amazon uitgeprobeerd, ‘Rekognition’. Deze softwaredienst wordt ook gebruikt door verschillende politie-eenheden in Amerika, en is door iedereen met een credit card direct via internet te gebruiken. We hebben onderzocht of dit programma mijn gezicht zou herkennen wanneer ik op de Dam ben. Dit gebruik viel zelfs nog binnen de gratis proefperiode.

Door een foto te uploaden hebben we het programma mijn gezicht laten herkennen. Verschillende kenmerken, ‘landmarks’, in het gezicht worden vervolgens gelokaliseerd, zoals het onderste puntje van de kin, de neusvleugels, de pupillen en de kaaklijn:

Mijn gezicht wordt door Amazon als volgt ‘gezien’:

Maar Rekognition maakt nog meer dataVoor de liefhebber: de volledige JSON-response van Rekognition over mijn gezicht. Zo maakt het een schatting van mijn leeftijd (tussen de 22 en de 34), kijkt het of ik lach (ja, met een zekerheid van meer dan 96 procent), of ik een (zonne)bril draag, wat mijn geslacht is, en of ik een baard of een snor heb. Het registreert ook emoties. Volgens Rekognition ben ik vooral blij, maar ook een klein beetje angstig (dat klopt – ik houd niet van camera’s). Het is best gek om te zien hoe een computerprogramma mij ziet. Ik ben zo veel meer dan een verzameling cijfers…

Oké. De eerste kennismaking zit erop. Nu Rekognition mij kent, en ik denk dat ik Rekognition ken, is het tijd voor onze eerste date. Ik ben op de Dam in het blikveld van de camera gaan staan. Gespannen wacht ik af of Rekognition mij ziet.

Bingo! Rekognition herkent meHier de JSON-response op de ‘CompareFaces' call. Met afgerond 100 procent zekerheid herkent Rekognition mijn gezicht als een gezicht. En Rekognition is 90 procent zeker dat dit gezicht overeenkomt met de eerder ingevoerde foto. Maar de software ziet ook dat ik iemand heb meegenomen naar onze eerste date. Rekognition is ervan overtuigd dat ik dat niet ben.

Voor het herkennen van een gezicht is maar heel weinig nodig:

Dit korrelige plaatje is alles wat Rekognition nodig heeft om mij te herkennen. Ontzettend weinig! Dat is vrij absurd. Al helemaal als je bedenkt wat dit vervolgens betekent. De foto die we gebruikt hebben, is van internet geplukt. Tegenwoordig heeft bijna iedereen wel een foto van zichzelf online staan. En als je een beetje handig bent met computers kun je het Rekognition meerdere gezichten ‘aanleren’. Dit betekent dat hiermee, theoretisch gezien, de perfecte stalker-tool ontwikkeld kan worden, vooral als je dit koppelt aan meerdere camera’s die hun beelden op het internet uitzenden (en die bestaan). Hier is geen controle op mogelijk. Je weet niet wat anderen doen met deze technologie en misschien wel met jouw foto’s.

De NRC heeft de leverancier van de webcams gesproken en heeft aan een aantal juristen gevraagd of dit soort camera's de publieke ruimte wel mogen filmen:

Gezichtsherkenningstechnologie is een massasurveillance middel

Na twee maanden onderzoek naar gezichtsherkenningstechnologie overheerst bij ons het gevoel van ongeloof: waarom bestaat deze technologie!? Het is een massasurveillance middel, die het mogelijk maakt om groepen en individuen continu te bespioneren en te manipuleren, op een voorheen onmogelijke schaal en snelheid. Door onze onstilbare honger naar meer efficiëntie en gemak wordt uit het oog verloren dat deze technologie de rechten en vrijheden van burgers schendt. Het gebruik van gezichtsherkenningstechnologie moet verboden worden, voordat het volledig is genormaliseerd in onze samenleving, en mensen de onvermijdelijke aantasting van onze grondrechten accepteren als noodzakelijk voor ‘vooruitgang’. Het verbieden van de technologie voorkomt dat Nederland steeds verder afglijdt naar een totale surveillancestaat.

Lees hier het volledige onderzoek naar het gebruik van gezichtsherkenningstechnologie in de publieke ruimte door de politie:

Met veel dank aan Mohamed el Maslouhi voor zijn hulp bij het ‘praten’ tegen Amazon's gezichtsherkennings-API.

Update van Bits of Freedom: Paula's onderzoek boekt succes!

Het experiment van Paula heeft nu al impact gehad. In reactie op dit onderzoek en het NRC-artikel daarover, zegt de eigenaar van WebCam.NL dat hij veel van zijn livestreamende camera's offline heeft gehaald. Ook heeft hij het zoom-niveau van de camera op de Dam aangepast, waardoor het toepassen van gezichtsherkenning moeilijker zou zijn. Dat zijn alvast stappen in de goede richting!

Helaas hebben we ook moeten concluderen dat WebCam.NL al sinds minstens 2012Dat lees je in dit artikel op NU.nl weet dat het livestreamen van herkenbare mensen onder privacywetgeving valt. Oók als je niets opslaat. Snel iets aanpassen nadat er negatieve media aandacht is voor de webcams, is blijkbaar de modus operandi van dit bedrijf, waarbij het ook nog eens geen probleem is om schaamteloos het auteursrecht te weaponisen. We kijken uit naar het verzoek van WebCam.NL om de schermafruk die we van zijn camerabeeld hebben genomen van onze site te verwijderen.

We zijn 100% onafhankelijk en kunnen dit soort onderzoek alleen maar doen dankzij de hulp van onze donateurs. Wil je dat we dit soort onderzoek vaker kunnen doen? Word dan ook donateur!