De Big Brother Award Expertprijs gaat dit jaar naar het Ministerie van Justitie en Veiligheid. En om niet maar één, maar om maar liefst vijf redenen. Daarom is de expertprijs van 2021 niet zomaar een prijs, maar helaas een heuse oeuvreprijs.

Reden 1: Predictive policing behandelt elke burger als verdachte

In een verwoede poging technologie Lees ook dit onderzoek van Amnesty Internationalte gebruiken om efficiënter te werk te gaan bakt de politie haar praktijk van etnisch profileren nu in systemen in.Wil je hier meer over weten? Kijk de documentaire etnisch programmeren De consequentie hiervan is dat de praktijk minder zichtbaar wordt doordat die vorm krijgt in een algoritme. Etnisch profileren op gigantische schaal, omdat het etnisch profileren niet meer alleen door een enkele agent gebeurt, maar door hele eenheden. Voor burgers die op basis van het systeem worden aangehouden wordt het zo moeilijker is zich te verweren. Maar data is niet altijd waar. De vooroordelen en andere onjuisthedenDit is wat wij daar eerder over schreven worden in stand gehouden door feedbackloops: De data sturen de inzet van politie, door verhoogde inzet worden er bepaalde mensen gepakt, dit zorgt voor nieuwe data, die weer die hogere inzet legitimeert.

We spreken hierover in onze podcast met expert Naomi AppelmanKlik hier door naar deze podcast.

Reden 2: Waar is de (minister van) rechtsbescherming?

Wist je dat het Ministerie van Justitie en Veiligheid twee ministers heeft? Naast de Minister van Justitie en Veiligheid is er ook nog de Minister voor RechtsbeschermingLees hier. De keuze die post te beperken tot een bijrol is erg onverstandighier. Daardoor ligt de focus van het ministerie te veel op veiligheid, en niet genoeg op justitiehier. Met name met de groeiende inzet van AI is het nodig dat de rechtsbescherming zich laat zien. De automatisering van het veiligheidsdomein zorgt ervoor dat burgers steeds eerder en meer in het vizier van de overheid terecht komen. En dat terwijl de overheid zelf steeds meer in een black box lijkt te veranderen. Zeker nu de voorbeelden van onrechtmatige overheidssurveillance zich opstapelen en de politie aankondigt bevoegdhedenen hier scherpe en relevante collumns van Maxim Februari te willen die reiken buiten de grenzen van de rechtsstaat verwachten wij van een minister van rechtsbescherming dat hij eens zal willen nadenken over toezicht.

We spreken hierover in onze podcast met expert Maxim FebruariKlik hier door naar deze podcastaflevering.

Reden 3: De illegale surveillancepraktijken van de NCTV

De overheid gaat zijn boekje te buiten waar het aankomt op surveillancebevoegdheden. Dat wordt pijnlijk duidelijk in de illegale surveillancepraktijken van de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV). Deze dienst hield jarenlang burgers op sociale media in het geniepLees hier het artikel waarin NRC dat naar buiten bracht in de gaten. Vanachter nepaccounts en een apart opgetuigd, 'vuil' IT-systeem dat niet naar de overheid te herleiden is. Ze stond klaar om de rol van informatie-witwasserLees hier het onderzoek van NRC waarin dit uitkwam op zich te nemen en zo de illegale surveillancepraktijken van het Land Information Manoeuvre Center (LIMC) van Defensie mede mogelijk te maken, terwijl de NCTV dat zelf juridisch gezien niet eens mocht. En ze was de geldschieterLees hier het onderzoek van NRC waarin dat naar voren komt achter de onrechtmatige onderzoeken van gemeenten waarbij private bedrijven werden ingehuurd om zonder aanleiding te infiltreren in moskeeën. De reactie Wij vroegen ons eerder af wanneer illegale spionage van burgers eens gaat worden bestraftvan de verantwoordelijk minister op al deze misstanden? Het rap komen aanrennen met een reparatiewetje om een deel van deze illegale surveillancepraktijken te belonen met legalisatie.Lees hier wat wij vinden van deze voorgestelde uitbreiding van bevoegdheden voor de NCTV

We spreken in onze podcast hierover met experts Jerry Afriyie en Merel KoningKlik hier door naar de podcastaflevering.

Reden 4: De obsessie met onze gezichten van de Nederlandse politie

Een databank van 800.000 gezichten die voor een ander doel zijn verzameld, vormen de basis om een massale databank voor gezichtsherkenningstechnologie op te starten. Inmiddels zijn we 6 jaar verder. En er is nooit een debat gevoerd over de vraag of we willen dat de politie deze databank en gezichtsherkenningstechnologie heeft. Wel telt de databank onderhand 2.653.038Dit schreven wij eerder over de chaos in de databank foto’s. Het is duidelijk dat er tienduizenden mensen onterecht in staanDit bleek uit onderzoek van nu.nl, maar de hygiëne in de databank is zo slecht dat zelfs de politie niet weet hoeveel precies. Ook werd duidelijk dat de politie met ANPR-camera's illegaal gezichten vastlegde.

Tot slot is door Buzzfeed naar buiten gebracht dat de Nederlandse politie tussen de 50 en de 100 keer Die cijfers vind je hiergezichten gezocht heeft in de illegaal aangelegde databank van Clearview AI. Maar verantwoordingWij riepen eerder op tot openheid over dit hierover afleggen doet zij niet. Dit laat zien dat de politie haar handen niet uit de snoeppot kan houden. Infrastructuur en technologie die er is, die moet en zal worden gebruikt. Een erg nauwe invulling van het begrip veiligheid schuift telkens de bescherming van rechten en vrijheden opzij. En wie houdt er eigenlijk toezicht?

Frederik Zuiderveen Borgesius is over dit onderwerp te gast in onze podcastKlik hier door naar de podcastaflevering.

Reden 5: Living Labs maken burgers tot proefdier

Onder het mom van innovatie verwordt de publiek toegankelijke ruimte tot laboratorium en de burger tot proefkonijnDit schreven we eerder over Stratumseind in Eindhoven. Er wordt vaak onder het mom van “experiment/proeftuin/living lab/pilot” gedaan alsof geldende wetgeving niet van toepassing zou zijn. Ook de communicatie hierover, en dus de vereiste transparantie, laat te wensen over: Burgers weten vaak nietZo blijkt ook uit onderzoek van AT5 welke technologie er in de openbare ruimte hangt, welke gegevens er over hen worden verzameld, voor welk doel, door wie, wat ermee gebeurt etc. Zij worden niet vooraf geïnformeerd en vaak niet betrokken bij de projecten die in hun buurt worden uitgevoerd. Op deze manier kunnen zij moeilijk hun eigen digitale burgerrechten uitoefenen en onrechtmatige surveillancepraktijken aan te vechten.

Een goed voorbeeld is de "Digitale PerimeterLees hier meer over het onderzoek dat Eva bij ons over de Digitale Perimeter heeft gedaan" bij de Johan Cruijff Arena. Een 'innovatief project' van de gemeente Amsterdam, TNO, de Landelijke Politie en de Johan Cruijff Arena. Hier wordt met technologie geëxperimenteerd, met de vraag of een ‘virtueel hek’ toezicht kan houden tijdens evenementen met behulp van o.a. camera’s en sensoren. Technologie die hier een rol in speelt is: Blue force tracking, gezichtsherkenning, crowd control, bodycams op 5G, scannen voor wapens en drone detectie.

We bevragen onderzoeker en ethica Eva KrikkenKlik hier door naar de podcastaflevering hierover in onze podcast.