Zojuist is bekend gemaakt dat de AI-verordening door het Europees Parlement is aangenomen. Afgelopen maandag werd voor de laatste keer gestemd over de AI-verordening en daarmee is de wet na drie jaar onderhandelen, op nog een paar formaliteiten na, definitief. Het beschermen van mensenrechten was een van de hoofddoelen van de wet. De mens moest centraal worden gesteld bij de inzet van AI en er moest een “ecosysteem van vertrouwen” worden gecreëerd. Dit sprak de Europese Commissie in 2021 al uit. Volgens Bits of Freedom zijn die doelen anno 2024 echter niet behaald.

Aangezien de bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI alles behalve vanzelfsprekend is, heeft Bits of Freedom zich met vele andere organisaties ingezet om de rechten van mensen te prioriteren. Nadia Benaissa, beleidsadviseur bij Bits of Freedom: “Mede door onze gezamenlijke inspanningen zijn een aantal verbeteringen doorgevoerd, maar we zijn ons er ook van bewust dat de Big Tech lobby en de behoefte van overheden om juist veel te mogen experimenteren met AI, erg sterk is geweest.”

Een van de regels uit de wet is bijvoorbeeld dat AI-toepassingen die een te groot risico vormen voor de rechten van mensen worden verboden. Denk daarbij aan het voorspellen wie de criminaliteit ingaat (zogenoemde predictive policing), real-time biometrische identificatie in de publieke ruimte en social scoring (waarmee mensen met hun gedrag plus of minpunten krijgen). “In eerste instantie klinkt dit misschien goed, maar we zien hier dat de verboden behoorlijk nauw zijn geformuleerd. Dit terwijl de uitzonderingen weer heel breed zijn. Daarmee blijft er helaas nog maar weinig over van échte verboden,” aldus Benaissa.

Verder zijn transparantieverplichtingen in de wet opgenomen. “Ook op dit punt vinden we de wet problematisch,” vertelt Benaissa. De verplichtingen houden in dat er een Europese database komt waarin aanbieders moeten aangeven wat het doel van het gebruik van een AI-toepassing is, zodat mensen op een toegankelijke manier op de hoogte kunnen worden gesteld. Ook moeten aanbieders hier de uitkomsten van zowel een Fundamentele Rechten Impact Assessment (FRIA) als een Privacy Impact Assessment (PIA) delen. “In eerste instantie klinkt dit weer positief, maar private bedrijven worden níet verplicht AI-systemen die ze gebruiken te registreren. Terwijl we nu al zien dat banken, incassobureaus en verzekeraars AI gebruiken die heel ingrijpend zijn voor mensen.”

“Daarnaast is een groot deel van de AI-verordening alléén van toepassing als er sprake is van een hoog risico.” Daar is, kort gezegd, sprake van als een AI-toepassing een significant risico oplevert voor iemands gezondheid, veiligheid of fundamentele rechten. In de wet is een lijst opgenomen van toepassingen die daar in ieder geval onder vallen, zoals toepassingen die worden gebruikt in het onderwijs en op de werkvloer, voor de toegang tot publieke voorzieningen of in de rechtsspraak.

Bovendien zijn in de wet beperkte rechtsmiddelen opgenomen wat betreft de rechten van burgers én is er een hele brede uitzondering opgenomen voor ‘nationale veiligheid’. Benaissa: “Als een AI-toepassing in dit kader wordt ingezet, dan geldt de AI-verordening niet. Maar wat precies onder nationale veiligheid valt, wordt uit de wet niet duidelijk. Daarmee wordt er dus een enorme maas in de wet gecreëerd waarmee een soort ‘digitale vrije zone’ ontstaat.”

“Al deze punten zijn gemiste kansen,” geeft Benaissa aan. “Europa had zich wat betreft de ontwikkeling en het gebruik van kunstmatige intelligentie kunnen onderscheiden van andere werelddelen. In plaats daarvan laat Europa nu zien dat de markt en economie belangrijker zijn dan de bescherming van mensenrechten.”

De wet zal in verschillende fases geïmplementeerd worden, met termijnen variërend tussen zes maanden en een twee jaar. Benaissa: “Wij zullen ons ook tijdens de implementatiefase blijven inzetten voor maximale bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI.”

Neem voor meer informatie contact op met: Nadia Benaissa (beleidsmedewerker), nadia@bitsoffreedom.nl