Er is een akkoord bereikt over de Europese wet waarin kunstmatige intelligentie wordt gereguleerd (de zogeheten AI-verordening). We zijn sceptisch over de uitkomsten.

Wij zijn sceptisch.

Vandaag zijn de Europese Commissie, het Europees Parlement en de Raad van de Europese Unie tot een akkoord gekomen over de AI-verordening.

Het beschermen van fundamentele rechten was een van de belangrijkste doelen van de wet. Volgens Brando Benifei, een van de leidende rapporteurs van het Europees Parlement, is dat doel behaald en staat de mens centraal in de wet. Wij houden echter nog een slag om de arm, zolang we de volledige tekst niet hebben gezien. In deze tekst baseren we ons dus vooral op de persconferentieKijk hier de persconferentie terug. die gisternacht plaatsvond. Op basis daarvan zijn we niet bepaald enthousiast.

Geen totaalverbod op biometrische identificatie

Een van de heikele punten waar volgens Dragos Tudorache, de andere leidende rapporteur van het Europees Parlement, gisteren nog twintig uur over dooronderhandeld is, was het verbod op biometrische identificatie. Even leek het er op dat dit verbod zo breed uitgezonderd zou worden, dat we nog maar amper van een verbod konden spreken. Nu is er een verbod waar drie specifieke uitzonderingen voor gelden in het kader van opsporing: 1) als er sprake is van voorzienbare en te verwachten terroristische aanslagen; 2) voor het vinden van slachtoffers; 3) voor opsporing in het kader van ernstige misdaden. Bits of Freedom heeft altijd gepleit voor een volledig verbod op biometrische identificatie. We zijn teleurgesteld dat er geen algeheel verbod tot stand is gekomen en vrezen voor de impact voor mensenrechten met deze uitzonderingen. Wij hebben er altijd voor gepleit dat mensen zich vrij in de openbare ruimte moeten kunnen begeven. Deze uitzonderingen op het verbod lijken de deur open te zetten voor het legitimeren van massasurveillance.

Een verbod op predictive policing, maar toch niet helemaal

Daarnaast wordt predictive policing gericht op individuen niet toegestaan, onder meer omdat dit indruist tegen de onschuldpresumptie. Echter, het gebruik van ‘crime analytics’ wordt wel toegestaan, waarmee door middel van historische data gekeken kan worden naar trends. Dit kan worden gebruikt om te voorspellen op welke plekken strafbare feiten kunnen plaatsvinden. Bits of Freedom is daar zeer kritisch over, omdat de data die daarvoor gebruikt wordtIn dit filmpje vertellen we daar meer over. vaak niet vrij zijn van biases.

En verder...

Generatieve AI heeft eveneens een plek gekregen in de AI-verordening, ondanks groot bezwaar van Frankrijk, Duitsland en Italië. Er zouden belangrijke transparantievereisten gaan gelden die het auteursrecht moeten gaan versterken.

De AI-verordening zal een gefaseerde implementatie kennen. De eerste regels, waaronder het verbod op bepaalde toepassingen, zullen al na zes maanden gelden. De regels gericht op overheden en transparantieregels zullen na 12 maanden van kracht zijn. De overige regels, waaronder het gebruik van standaarden en de beschikbaarheid van de toezichthouder, zullen na 24 maanden gelden.

De bescherming van mensenrechten bij het gebruik van AI is alles behalve vanzelfsprekend

Omdat de bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI alles behalve vanzelfsprekend is, heeft Bits of Freedom zich vanaf het beginWe schreven de Commissie al aan voordat het eerste wetsvoorstel bestond. samen met vele anderen in het EDRi-netwerkDat deden we samen met andere organisaties. en daarbuiten ingezet om de rechten van mensen te prioriteren. We hebben de Europese organen en Nederlandse bewindspersonen opgeroepen niet te zwichtenBijvoorbeeld met dit statement. voor de Big Tech lobby. Ook gisteren riepen we onderhandelingspartners nog opLees hier EDRi's statement om geen deal te sluiten ten koste van onze rechten.

Nederlandse burgers hebben wettelijke bescherming hard nodig.

In Nederland hebben we de afgelopen jaren de ene na de andere algoritmetoepassing gezien waarbij mensenrechten geschonden werden. Zo maakten verschillende gemeenten gebruik van discriminerende fraudeopsporingsalgoritmenLees hier hoe de gemeente Rotterdam discrimineerde met algoritmen., zette het ministerie van Buitenlandse Zaken een algoritme racistischLees hier hoe Buitenlandse Zaken een algoritme racistisch inzette. in bij visumaanvragen en moest DUO een discriminerend algoritmeLees hier over discriminerend algoritmegebruik door DUO. stopzetten dat eveneens gebruikt werd om fraude op te sporen. Om maar niet over het toeslagenschandaalDit schreven we daar eerder over. te beginnen. Met al deze voorbeelden waarin Nederland keer op keer de fout in gaat, is het helder waarom burgers tegen de overheid beschermd zou moeten worden. Als Nederland enig lerend vermogen zou hebben, was er inmiddels wel geconcludeerd dat dit soort algoritme- en AI-toepassingen meer schade toebrengen dan positieve resultaten opleveren. In plaats daarvan heeft Nederland onderhandeld over toepassingen die het mogelijk nog slechter kunnen doen. We schreven hier deze week over in het NRCLees hier ons opiniestuk terug.. Dit maakt vooral duidelijk waarin Nederlandse burgers wettelijke bescherming hard nodig hebben.

Wij houden vinger aan de pols.

Zodra de definitieve tekst bekend wordt gemaakt, zullen wij ons hierover buigen en jullie op de hoogte houden over wat de wet betekent voor jullie rechten. Houd onze website en socials dus in de gaten.