Expertprijs
De jury voor deze Expertprijs wordt dit jaar gevormd door experts uit de domeinen onderwijs, jeugd, werk en kunstmatige intelligentie. Zij nomineerden voor ons drie privacyproblemen, die zich voor het grote publiek minder aan de oppervlakte bevinden, maar die dringend op meer en breder boegeroep onthaald moeten worden.
Dienst Uitvoering Onderwijs (DUO)
Expert: Alex Tess Rutten, voorzitter van de LSVb, één van de organisaties die zich het sterkst inzet voor studenten en hoger onderwijs.
Een duet van datahonger en tunnelvisie, dat onze studenten in gevaar brengt = DUO. Wij hebben DUO, de instantie die verantwoordelijk is voor het verstrekken en innen van studieleningen, het afgelopen jaar leren kennen als groots privacyschender. Ze zijn van plan schuldverklaringen te verstrekken ten behoeve van banken, voegen volgsoftware aan mails naar studenten toe en pakken oud studenten hun paspoort af wanneer ze hun lening niet terugbetalen.
Systeem Risico Indicatie (SyRI)
Experts: Cihan Ugural en Sennay Ghebreab. Cihan is campagneleider van 'Voor 14' van de FNV, waar hij zich onvermoeibaar inzet voor de verhoging van het minimumloon. Sennay werkt aan de Universiteit van Amsterdam al jaren aan het blootleggen van vooroordelen in algoritmische systemen en bouwt aan eerlijke inzet van kunstmatige intelligentie
Met SyRI hebben we het niet over de Apple Assistent, maar over het Systeem Risico Indicatie: het privacy schendende speeltje van onze Landelijke Stuurgroep Interventieteams. Dit digitale surveillance-systeem koppelt persoonsgegevens van burgers aan elkaar - dat kunnen letterlijk alle soorten gegevens zijn - om onder meer uitkeringsfraude op te sporen. Het probleem? Ieder van ons wordt als potentieel verdachte gebrandmerkt en behandeld, en doelwit bij uitstek zijn mensen die zich al in een lastige maatschappelijke situatie bevinden en daardoor extra kwetsbaar zijn
ZonMW: kansrijke start voor kinderen met behulp van big data
Expert: Justine Pardoen, als oprichter van Bureau Jeugd en Media expert op het gebied van mediaopvoeding en digitale geletterdheid.
ZonMW gaat van start met een subsidieprogramma om de gezondheid van jonge kinderen in kaart te brengen. Een goede herkenning van kwetsbare gezinnen en kinderen om hen tijdig van goede zorg te kunnen voorzien, is een mooi streven. Maar wanneer dit met de hulp van big data gebeurt, begeef je je op glad ijs. De risico's op schadelijke overheidsbemoeienis worden door ZonMW onvoldoende erkend, er wordt gebrekkige software gebruikt die tot traumatische gevolgen kan leiden en van 'privacy' was bij de aankondiging überhaupt geen sprake. Het doel heiligt de middelen? Nooit wanneer het over jonge gezinnen gaat.