Eind april publiceerde de Europese Commissie het wetsvoorstel over kunstmatige intelligentie, de Artificial Intelligence Act. Vorige week bood de Werkgroep Beoordeling Nieuwe Commissievoorstellen daarover een samenvatting aan met een indruk van mogelijke gevolgen voor Nederland. We schreven de betrokken ministeries aan omdat we zien dat er nog veel werk aan de winkel is om tot een wet te komen waarin fundamentele rechten effectief beschermd worden.

Terug naar de tekentafel

De Europese Commissie stelt dat de mens centraal moet staan en dat burgers er op moeten kunnen vertrouwen dat technologie wordt ingezet op een manier die voldoet aan de wet en dat fundamentele rechten geborgd worden. Maar vervolgens komen deze uitgangspunten niet goed uit de verf in het wetsvoorstel.

In onze brief richten we ons op drie voorbeelden waar nog veel aan gesleuteld moet worden om tot een goed beschermingsniveau te komen.

1. Verboden toepassingen

In sommige gevallen kunnen risico’s voor mens en maatschappij dermate groot zijn dat mogelijke voordelen niet opwegen tegen de nadelen. In die gevallen zien we liever een verbod op die toepassingen van kunstmatige intelligentie. De Europese Commissie deelt dat standpunt en heeft een aantal verboden opgenomen in de wettekst die gaan over manipulatie, het winstgevend maken van kwetsbaarheden, social scoring en real time biometrische identificatie. Maar door de nauwe formulering van deze verboden en de reeks aan uitzonderingen, kunnen we niet echt van verboden spreken.

We geloven dat het manipuleren, winstgevend maken van kwetsbaarheden, social scoring van gedrag van burgers en biometrische surveillance in de openbare ruimte verboden moet worden zonder mitsen of marenLees hier wat we daar eerder over schreven.

2. Hoog risico

De Europese Commissie richt zich in het wetsvoorstel op kunstmatige intelligentie met een hoog risico. We zijn het ermee eens dat voor die toepassingen extra maatregelen genomen moeten worden om ervoor te zorgen dat mensenrechten beschermd worden. Maar het ontbreekt in het wetsvoorstel aan regels over toepassingen van kunstmatige intelligentie met een lager risico. Daardoor kunnen er blinde vlekken ontstaan met grote gevolgen. Want wat nu als later blijkt dat een toepassing die de Europese Commissie nu niet als ‘hoog risico’ classificeert, in de praktijk wel degelijk een grote negatieve impact heeft op iemand leven?

Om een voldoende mate van bescherming te bieden, moet het wetsvoorstel worden uitgebreid met maatregelen die voor alle toepassingen van kunstmatige intelligentie gelden, zodat er altijd een basis is waaraan voldaan moet worden.

3. Transparantie

Wie gebruikmaakt van kunstmatige intelligentie moet kunnen weten hoe het werkt, volgens de Europese Commissie. Maar als bijvoorbeeld een gemeente gebruikmaakt van kunstmatige intelligentie moet het ook kunnen controleren of een besluit juist en rechtmatig is. Die controlemogelijkheden worden niet geboden in het wetsvoorstel, maar zijn wel essentieel voor overheids- en uitvoeringsinstellingen om gebruik te kunnen maken van kunstmatige intelligentie. Want een burger of een rechter moet kunnen controleren of een besluit voldoet aan de wet.

Mensen die te maken krijgen met kunstmatige intelligentie, hebben al helemaal weinig rechten als het aan de Europese Commissie ligt. Zij mogen alleen in sommige gevallen weten dat ze te maken hebben met kunstmatige intelligentie. Controle mogelijkheden of transparantie wordt verder niet geboden.

Als het gebruik van kunstmatige intelligentie door gebruikers en mensen die ermee te maken krijgen niet te controleren is op juistheid en rechtmatigheid, vinden we dat het niet ingezet mag worden.

Nederland moet zich sterk maken voor een hoger beschermingsniveau

De Europese Commissie belooft fundamentele rechten te beschermen, maar heeft om dat te bereiken nog veel werk te verzetten. Wij roepen de Nederlandse overheid op ervoor te zorgen dat in deze wet alsnog een passend beschermingsniveau wordt bereikt.