Steeds meer organisaties experimenteren met profilering om bijvoorbeeld te voorspellen wie fraude zal plegen, in de schulden zal raken, of langdurig werkloos zal zijn. Wat doen al die profielen, de vaak terug te herleiden zijn tot vooroordelen, met de mensen die hierdoor geraakt worden (en met de maatschappij).

Organisaties staan voor grote opgaven. Gemeenten en uitvoeringsorganisaties moeten bijvoorbeeld voorkomen worden dat er fraude gepleegd wordt met uitkeringen en toeslagen. Omdat niet iedereen gecontroleerd kan worden, maken organisaties een risico-inschatting van groepen die mogelijk eerder fraude zouden kunnen plegen. Dit gebeurt op basis van profielen die worden opgesteld op basis van vooroordelen en historische data (die zelf ook vaak vol vooroordelen zitten). Val je binnen zo'n profiel, dan zou het zomaar kunnen dat je onder een vergrootglas gelegd wordt. Soms met hele heftige gevolgen, zoals we hebben kunnen zien in het toeslagenschandaal. Vaak worden algoritmen ingezet om effectiever en efficiënter te werk te gaan. Maar is dat wel een belofte die waar te maken is? Of worden er juist grotere problemen gecreëerd dan de problemen die men probeert op te lossen?

Waar kan ik meer leren?

• ECNL pleit voor meer transparantieLees hier meer en controleerbaarheid bij het gebruik van algoritmen.
• Platform Burgerrechten vergroot bewustwordingOp bijvoorbaatverdacht.nl over risicoprofilering onder Nederlandse burgers.
• Gemeenten gaan niet goed om met gegevens van inwoners, blijkt uit onderzoekLees hier ons onderzoek van Bits of Freedom.
• Pilp, Mamamess, Control Alt Delete, Fair Trails en Bits of Freedom roepen de politie op te stoppenLees hier onze oproep met het profileren van jongeren.
• We spraken de Eerste Kamer toe"De discriminatie die in data schuilt" over hoe het gebruik van data en technologie discriminatie in de hand werkt.

Over deze videoreeks

Data. Zo zit dat. is een videoserie van Bits of Freedom.

Mensen weten al best veel als het gaat over online privacy. Maar de ontwikkelingen, zowel in technologie als wetgeving, zijn moeilijk bij te houden. In vier films vertellen wij heel Nederland hoe het precies zit met data. Want hoe meer mensen weten, hoe beter digitale technologie werkt voor iedereen. In de videoserie nodigt Fresku, rapper en ambassadeur van de vrijheid, vier jongeren uit om samen te ontdekken hoe het zit met data. De complexe thema’s maken we met deze video’s begrijpelijk voor een breed publiek. Dat is belangrijk, want de ook in de digitale wereld gaat het over mensenrechten. En mensenrechten zijn van ons allemaal. Kijk jezelf daarom bewust!

We willen onze experts hartelijk bedanken:

• Oumaima Hajri (Public Spaces)
• Irene Keizer (SOMO)
• Berna Keskindemir (ECNL)
• Jaïr Schalkwijk (Controle Alt Delete)

Concept en realisatie: Van Lennep i.s.m. Huibert Jan van der Fange
Camera: Deja-Vu.studio
Muziek: Jelte Heringa & Sam van Hoogstraten

Deze videoreeks is mogelijk gemaakt met steun van Stichting Goeie Grutten.