In Europa wordt er gejubeld over de eerste internationale wet waarin kunstmatige intelligentie (hierna: AI) wordt gereguleerd. Wij zijn zelf matig enthousiast, want één van de belangrijkste doelen die de Europese Unie had met deze wet, namelijk het beschermen van fundamentele rechten, werd tijdens de laatste onderhandelingen wisselgeld.

Mensenrechten in de lobby-achtbaan

Gisteren stemde het Europees Parlement met 523 stemmen voor de AI-verordening, 46 leden stemden tegen. Daarmee is de wet weer een stap dichterbij een definitief akkoord dat in april wordt verwacht. Datzelfde parlement stemde vorig jaar over dezelfde verordening nog voor een betere bescherming van mensenrechtenHierover schreven we dit stuk bij de ontwikkeling en het gebruik van AI.

De wettekst bevatte toen nog scherp geformuleerde verboden op zeer risicovolle toepassingen, waaronder een breed verbod op biometrische identificatie, predictive policing en emotieherkenning. Maar ook toen liet het Europees Parlement na om álle mensen in gelijke mate te beschermen. Mensen op de vluchtLees meer in dit artikel van EDRi krijgen bijvoorbeeld regelmatig te maken met AI-toepassingen aan grenzen, maar worden daar in deze wet niet tegen beschermd. Er worden zelfs uitzonderingsgronden geboden aan lidstaten om op grond van ‘nationale veiligheid’ onder de verplichtingen van de AI-verordening uit te komen.

Als onderdeel van het AI-samenwerkingsverband onder leiding van European Digital Rights (EDRi)Deze oproep deden we toen riepen we met andere organisaties op om mensenrechten niet op te gevenLees hier meer over onze oproep aan de Raad om maar tot een akkoord te komen. Daar werd namelijk vanuit de techlobby en sommige lidstaten veel druk op uitgeoefend. Maar in december stemden het Europees Parlement, de Europese Commissie en de Raad van de Europese Unie voor de versie van de wet waar het Europees Parlement gisteren ook nog afzonderlijk over stemde.

Eerder schreven we over de uitkomsten van die onderhandelingenLees hier waarom wij niet staan te juichen en waarom we daar sceptisch over zijn. Wat tijdens eerdere onderhandelingen bereikt was, bleek namelijk alweer afgevlakt. Het verbod op biometrische identificatie werd weer beperkt, evenals het verbod op predictive policing. Daarnaast zat de wettekst vol mazen en uitzonderingen, wat betekent dat de wet mensen noch hun mensenrechten zal beschermen tegen enkele van de gevaarlijkste toepassingen van AI.

Woorden zonder daden

En het eindresultaat is dan ook niet wat we ervan hoopten of wat we, gezien de geformuleerde doelenZoals geformuleerd in het Witboek over AI bij de ontwikkeling van deze wet, ervan mochten verwachten. In plaats van de ‘bescherming van fundamentele rechten’ en een ‘ecosysteem van vertrouwen in mensgerichte kunstmatige intelligentie’, lijkt vooral marktregulering de boventoon te voeren.

Een gemiste kans, want terwijl de deur van Europese Unie openstond voor de Big Tech lobby, had de wet zich wereldwijd kunnen onderscheiden door simpelweg te doen wat het van plan was: de mens centraal plaatsen. Dan zouden we vandaag en als de AI-verordening daadwerkelijk in werking treedt, écht wat te vieren hebben. Maar de Europese Unie laat hiermee vooral zien dat ze mensenrechten in woorden belangrijker vinden dan in daden.