Steeds zijn het gemarginaliseerde groepen die vaker dan anderen worden geraakt door digitalisering, schreven Evelyn Austin en Nadia Benaissa in NRC.

Je toegeslagen worden ingetrokken vanwege je ‘buitenlandse naam’ en lage inkomen. Je wordt op een zwarte lijst gezet omdat je doneert aan een moskee. En, sinds deze week bekend: de algoritmen van het ministerie van Buitenlandse Zaken vinden dat je te veel lijkt op iemand die in het verleden een foute keuze heeft gemaakt, en dus kom je het land niet in.

In Nederland lijkt digitalisering haast altijd te leiden tot discriminatie. En ja, in alle hiervoor genoemde situaties, helaas aan het echte leven ontleend, heeft technologie een grote rol gespeeld. Maar het kwantificeren en discrimineren van mensen is op zichzelf niets nieuws. Het discriminerend onderscheid maken tussen mensen, waarbij de één als beter, professioneler of waardevoller wordt gezien dan de ander, op grond van kenmerken die daar geen enkele invloed op hebben, loopt als een rode draad door onze geschiedenis. We hebben landen gekoloniseerd, mensen tot slaaf gemaakt, vrouwen hun rechten ontnomen, en onze datadrang faciliteerde de genocide van Nederlandse Joden, Sinti en Roma.

En we zijn er nog niet klaar mee. We zien nog steeds elke dag voorbeelden om ons heen van discriminatie. Bijvoorbeeld jegens vrouwen, mensen van kleur, mensen met een laag inkomen, lhbti’ers, mensen met een handicap en mensen die een bepaalde religie aanhangen.

Tegen deze achtergrond is het nogal logisch dat het weer gemarginaliseerde groepen zijn die vaker dan anderen worden geraakt door digitalisering. Digitalisering maakt het namelijk makkelijker (en vaak goedkoper) om mensen te kwantificeren, groeperen, en van elkaar te onderscheiden. En omdat we dit werk tegenwoordig uitbesteden aan een computer, krijgt het zelfs een zweem van objectiviteit. Denk bijvoorbeeld aan het Toeslagenschandaal waarbij mensen van kleur en mensen met een laag inkomen werden gediscrimineerd. Of aan het racistisch handelen van het ministerie van Buitenlandse Zaken bij het beoordelen van visumaanvragen. De inzet van nieuwe technologie kan historische ongelijkheden repliceren en versterken. Zeker wanneer je die problemen ontkent.

Wie in Europa een voorbeeld wil van digitalisering gone wrong, kijkt tegenwoordig naar Nederland. Maar Nederland kampt niet met een digitaliseringsprobleem — we kampen met een discriminatieprobleem. En tot dat probleem is opgelost, kan de overheid met goed fatsoen maar één ding doen: stoppen met profilerende algoritmen.

Dit artikel is eerder als ingezonden brief gepubliceerd in NRCIn de NRC van 5 mei.