Profilering is één van de issues van deze tijd. Ons leven verschuift steeds meer online en dus zou de bescherming van mensenrechten dat ook moeten doen. Het College voor de Rechten van de Mens vroeg om input op hun agenda. Wij zeggen: focus je meer op de mogelijk nadelige effecten van big data en de internet of things.

Het College voor de Rechten van de Mens (voorheen Commissie Gelijke Behandeling) is een organisatie die zich in Nederland richt op mensenrechten. Volgens de site is hun taak als volgt:

“belicht, bewaakt en beschermt mensenrechten, bevordert de naleving van mensenrechten (inclusief gelijke behandeling) in praktijk, beleid en wetgeving, en vergroot het bewustzijn van mensenrechten in Nederland.”

Zij richten zich met name op het discriminatieverbod. Nu hebben ze echter een nieuwe agenda opgesteld tot 2019 en boden die aan ter internetconsultatie. Belanghebbenden en geïnteresseerden konden reageren.

Big data en de internet of things zetten druk op mensenrechten

Dat hebben wij ook gedaan. Zo was één van de vragen welke belangrijke ontwikkelingen op het gebied van de mensenrechten wij in Nederland in de komende jaren zien. Wij zien dat de ontwikkelingen rond big data en de internet of things in rap tempo toenemen. Dat betekent niet alleen dat meer van onze dagelijkse interacties worden gemodereerd door informatietechnologie, maar dat die technologie ook steeds meer verweven raakt met de fysieke wereld.

Uiteraard wijzen wij vooral op de schaduwkant die zich onder andere uit in de context van profilering. Op grond van statistische verbanden kunnen profielen worden opgesteld over mensen en voorspellingen worden gedaan over hun gedrag. Op grond van die voorspellingen kunnen zij vervolgens nadelig behandeld worden.

Ook zorgt dat voor informatieasymmetrie: de informatiepositie van bijvoorbeeld werkgevers, financiële dienstverleners en zorgverzekeringen neemt toe. Dat maakt werkgevers veel machtiger dan werknemers. Bijvoorbeeld omdat zij nu veel meer informatie over potentiële werknemers in de sollicitatieprocedure te weten kunnen komen en daar voorspellingen over kunnen doen. Stel je voor dat je als vrouw solliciteert, dan kan het nou statistisch blijken dat je een grotere kans hebt om zwanger te worden dat jaar omdat dat bij veel vrouwen van jouw profiel gebeurt. Dat kan de push zijn om die andere werknemer aan te nemen. Informatieasymmetrie kan dus leiden tot uitsluiting.

Dat brengt risico’s met zich mee in de context van privacy, maar ook voor andere mensenrechten en fundamentele vrijheden die daarmee verband houden, zoals het discriminatieverbod en de vrijheid van meningsuiting. Het raakt ook onze autonomie en maatschappelijke solidariteit. Als bijvoorbeeld steeds meer wordt aangetoond dat bepaald gedrag ongezond is, zou dat tot duurdere polissen kunnen leiden. Is dat altijd even eerlijk als gezond leven duur is?

Deze risico’s gelden echter niet alleen in de commerciële sfeer. Ook de overheid maakt op steeds grotere schaal gebruik van profielen in de context van bijvoorbeeld sociale dienstverlening en veiligheid. Daarbij is duidelijk geworden dat door de voortschrijdende technologische ontwikkelingen, centralisatie van datastromen en opslag van gegevens massasurveillance steeds beter, eenvoudiger en goedkoper wordt.

Het college moet zich dus richten op de negatieve effecten van profilering

Daarnaast was een vraag op welke onderwerpen het College zich moest richten. Wij zeiden dat profilering leidt tot een steeds verdergaande personalisering van de internetervaring. Dit beïnvloed de sociale cohesie en de mogelijkheid om dezelfde informatie te ontvangen. Op grond van een profiel worden aanbiedingen aangepast. Dat kan zorgen voor ‘filter bubbles’, waarbij mensen informatie vinden die hun eigen standpunten bevestigt en uitgesloten worden van andere informatie.

Profilering kan dus gevolgen hebben voor de gelijke kansen en behandeling die verschillende groepen in de samenleving hebben. Daarnaast zouden burgers met een bepaalde achtergrond uitgesloten kunnen worden van bepaalde diensten. Zo zou een autoverhuurbedrijf af kunnen zien van verhuur aan iemand met een bepaalde achtergrond als die achtergrond correleert met bijvoorbeeld een buurt waar mensen veel schulden hebben. Dat verdient verder onderzoek.

Het college moet vooruit kijken en onderzoek doen naar de gevolgen van profilering

Tot slot vroegen zij om suggesties voor het strategisch plan. Wij zeiden dat het College vooruit moet kijken naar ontwikkelingen in de informatietechnologie en ethische kaders moet opstellen die een leidraad kunnen vormen voor het herstel van informatiesymmetrie. Hoe kunnen we zorgen dat organisaties die een sterke informatiepositie hebben daar geen misbruik van kunnen maken? Hoe verhouden privacybescherming en het discriminatieverbod zich tot elkaar? Het College zou daarvoor proactief onderzoek moeten doen.

De uitdagingen van deze tijd

Big data en de internet of things beloven ons vooruitgang maar zetten tegelijkertijd druk op de kernwaarden van onze samenleving. Hoe we daar het beste mee om kunnen gaan is één van de uitdagingen van deze tijd. Wat vinden jullie de grootste voor- en nadelen van profilering?