Deze week waren we te gast in de Tweede Kamer bij het rondetafelgesprek over kunstmatige intelligentie. We benadrukten in het gesprek het belang van de bescherming van mensenrechten bij de ontwikkeling en het gebruik van kunstmatige intelligentie.

AI verandert de samenleving fundamenteel

Het rondetafelgesprek werd georganiseerd naar aanleiding van het rapport 'Opgave AI. De nieuwe systeemtechnologie'Lees hier het WRR rapport, van de Wetenschappelijke Raad voor het Regeringsbeleid dat inmiddels ruim een jaar geleden gepubliceerd is. In dit rapport wordt terecht gesteld dat kunstmatige intelligentie een systeemtechnologie is die de samenleving fundamenteel zal veranderen.

Die verandering is al in gang gezet. Zo zien weBeluister onze podcast voor meer voorbeelden bijvoorbeeld hoe gemeenten haar inwoners in hokjes stoppen in een poging te gokken welke mensen in welk hokje de grootste kans maken om bijstandsfraude te plegen. We zien hoe banken haar klanten onderverdelen in groepjes om risicovolle transacties op te sporen. We zien hoe politieagenten door algoritmen gestuurd worden om te surveilleren in bepaalde wijken op basis van historische gegevens. En we hebben gezien hoe de Belastingdienst zich jarenlang schuldig maakte aan discriminatie in een poging toeslagenfraude te bestrijden.

Na het toeslagenschandaal hebben we nog maar weinig verbeeldingsvermogen nodig om in te zien wat de gevolgen zijn voor het vertrouwen in de overheid en de politiek. En wat de impact is voor de maatschappij, maar vooral voor de mensen die hierdoor geraakt zijn.

Burgerrechten moeten in de AI-verordening beschermd worden

Momenteel is er een Europese wet in de maak waarin kunstmatige intelligentie gereguleerd wordt. Wij gaven de Tweede KamerLees hier de brief die we eerder naar de Tweede Kamer stuurden daarom de opdracht mee zich namens Nederland hard te maken voor de bescherming van fundamentele rechten in de AI-verordening. Daarvoor moeten we in Europa in ieder geval kunnen rekenen op de volgende rechten:

• Het recht op transparantie, uitlegbaarheid en controleerbaarheidLees hier meer over het belang van transparantie. Zonder inhoudelijk inzicht in hoe een beslissing tot stand is gekomen is er geen rechtsbescherming mogelijk.
• Vervolgens moeten mensen het recht hebben om zich tot een rechter te wenden of om zich te laten vertegenwoordigen door een belangenorganisatie. Er moeten mogelijkheden worden geboden voor effectieve rechtsbescherming.
• Biometrische identificatieDaar spraken we ons hier eerder over uit moet worden verboden, niet alleen bij realtime toepassingen, zoals nu in het wetsvoorstel staat, maar ook wanneer de identificatie met terugwerkende kracht kan worden gedaan. Bovendien moet het verbod niet alleen gelden voor handhavingsdoeleinden, want ook bedrijven kunnen gebruik maken van biometrische surveillance en daarmee schade aanrichten aan onze rechten en vrijheden en onze open samenleving.

In het rapport van de Wetenschappelijke Raad voor het Regeringsbeleid wordt aanbevolen om Kunstmatige Intelligentie te reguleren en de toename van surveillance en dataverzameling tegen te gaan. Dit is het moment om ervoor te zorgen dat mensenrechten adequaat worden beschermd in de AI- verordening.