Overheidsinstanties roepen ‘living labs’, ‘proeftuinen’, of ‘fieldlabs’ in het leven om innovaties en nieuwe ideeën in realistische setting te kunnen testen. Maar als we technologie in de openbare ruimte inzetten, is het belangrijk dat er voldoende aandacht wordt geschonken aan publieke waarden, grondrechten en andere wettelijke kaders.

 

De beloften van Digitale Perimeter

Ook de ruimte in en rondom de Johan Cruijff ArenA in Amsterdam is omgetoverd tot levend laboratoriumLees hier wat wij eerder schreven over living labs, de Digitale PerimeterLees hier meer over living lab de Digitale Perimeter op de website van de gemeente Amsterdam genoemd. De gemeente Amsterdam, de landelijke politie, onafhankelijk onderzoeksinstituut TNO en de Johan Cruijff ArenA hebben hier de handen ineengeslagen om te experimenteren met toepassingen die mobiliteit en veiligheid moeten vergroten. De gemeente Amsterdam neemt hierin crowd monitoring systeem ‘Public Eye’ voor haar rekening, de Johan Cruijff ArenA experimenteert met bodycams op 5G en slimme sensoren voor haar medewerkers en de landelijke politie en TNO doen binnen de muren van de ArenA onderzoek naar gezichtsherkenning. De partijen kijken ondertussen bij elkaar mee, mochten de toepassingen in de toekomst ook voor hen nog interessant worden.

Er wordt in de informatievoorziening over het project beloofd dat alles wat er binnen het project gebeurt in overeenstemming is met het Tada-manifestLees hier meer over de waarden en principes van het Tada-manifest. Een Amsterdams initiatief dat er met behulp van specifieke waarden en principes naar streeft om dataprojecten in lijn te brengen en houden met belangrijke publieke waarden. Een verantwoorde digitale stad integreert volgens dit manifest deze waarden in haar projecten. Daarnaast maakt de gemeente onderdeel uit van de Coalitie van steden voor Digitale RechtenLees hier meer over de Coalitie van steden voor Digitale Rechten, waarbij het beschermen van de digitale rechten van burgers het speerpunt is. Mensenrechten - zoals privacy en vrijheid van meningsuiting - staan hierbij centraal en moeten volgens de coalitie per definitie in technologische toepassingen van steden worden meegenomen.

Deze initiatieven en beloften wekken de indruk dat de experimenten die binnen de Digitale Perimeter worden uitgevoerd allemaal in lijn zijn met essentiële waarden en grondrechten. De bevindingen van het onderzoek dat we in de afgelopen weken naar dit project hebben gedaan, zijn helaas niet geruststellend.

Waar zijn die beloofde waarden en grondrechten?

Het lijkt erop dat alleen de gemeente Amsterdam zich echt bezighoudt met het naleven van de Tada-waarden. En de vertaling van deze waarden naar de praktijk gaat nog niet vlekkeloos.

Hoewel de gemeente een informatiepagina over de Digitale Perimeter openbaar heeft gemaakt en Public Eye heeft toegevoegd aan haar algoritmeregister, bleek deze informatie te oppervlakkig te zijn en zelfs deels helemaal niet te kloppen. Zo blijft de afbakening van het fysieke gebied vaag, wordt er geen inzicht geboden in de herkomst en infrastructuur van de toepassingen die worden gebruikt en wordt gesuggereerd dat het Public Eye systeem open-source is, terwijl dat niet het geval is.

Op deze manier is het lastig te beoordelen of dat wat er binnen het project en in de publieke ruimte wordt gedaan op een wenselijke manier gebeurt. Daarnaast wordt het door dit gebrek aan transparantie voor de gemeente lastig om nog aan alle Tada-waarden te voldoen. Zo is het de vraag hoe iedereen voordeel kan hebben van de verzamelde data, aangezien er maar beperkte informatie beschikbaar is over de data die wordt verzameld en de manier waarop dit gebeurt. Daarnaast kan er moeilijk worden gesteld dat burgers zeggenschap hebben over de vormgeving van hun digitale stad als er niet voldoende inzicht wordt gegeven in de plannen die er zijn of de toepassingen die geïnstalleerd zijn.

Ook is het opmerkelijk dat de gemeente met dit systeem meer camera’s toevoegt aan de publieke ruimte én binnen het project interesse toont in gezichtsherkenning en bodycams. Hiermee lijkt zij in te gaan tegen de richting van haar eigen uitgangspuntLees hier meer over de datastrategie van de gemeente Amsterdam, namelijk “(...) dat Amsterdammers zich onbespied en anoniem kunnen bewegen in de openbare ruimte”.

Met betrekking tot de experimenten met gezichtsherkenning, lijken de Tada-waarden en grondrechten nog meer naar de achtergrond te verdwijnen. De vorm van de software waar de landelijke politie en TNO mee aan de slag zijn gegaan binnen de ArenA lijkt voornamelijk voordelen op het gebied van gegevensbescherming te bieden. Maar daarbij wordt voorbij gegaan aan de andere waarden en grondrechtenLees hier wat wij eerder schreven over de bezwaren tegen gezichtsherkenning in de openbare ruimte die door het gebruik van gezichtsherkenning onder druk komen te staan, zoals het recht op de vrijheid van vergadering, vereniging en betoging, de vrijheid van meningsuiting, het recht op gelijke behandeling, de persoonlijke levenssfeer van burgers, en de mogelijkheid om je vrij en anoniem te kunnen verplaatsen. Het is voor ons onduidelijk hoe de risico’s die verbonden zijn aan het ontwerp van gezichtsherkenningssoftware of de uiteindelijke inzet ervan met de huidige experimenten voldoende kunnen worden geïdentificeerd en opgevangen. En dat terwijl tegelijkertijd de drempel om gezichtsherkenning in te zetten wel wordt verlaagd door de technologie met betrekking tot gegevensbescherming aantrekkelijker te maken.

Typisch gevalletje bluewashing?

Concluderend lijkt hier sprake te zijn van een typisch gevalletje 'bluewashing'. Bedrijven en organisaties pretenderen in hun digitale processen, producten, diensten of dataprojecten dan meer ethisch verantwoord bezig te zijn dan in werkelijkheid het geval is. Door het vermelden van het Tada-manifest en de deelname aan de Coalitie van steden voor Digitale Rechten van de gemeente Amsterdam wordt de indruk gewekt dat de experimenten die in het project worden uitgevoerd uiteindelijk tot een verantwoorde implementatie zullen leiden. Het digitale hek in deze proeftuin krijgt dus een mooi likje blauwe verf. Ons onderzoek krabt dat laagje vernis er af en laat zien dat de inzet van dit soort risicovolle technologie altijd aandacht voor onze grondrechten behoeft, óók als het een experiment betreft.