Deze week stuurden we, samen met andere Europese digitale rechtenorganisaties, een brief naar de Europese Raad met het dringende verzoek om mensenrechten in de Europese AI-verordening te prioriteren. We zitten namelijk in de laatste fase van de onderhandelingen op deze wetgeving. We pleiten voor AI-regelgeving, waar de veiligheid van mensen centraal staat.

De Raad is aan zet om mensenrechten centraal te zetten in de AI-verordening

Een paar maanden terug berichtten weLees hier wat we schreven over het AI-wetgevingsproces en ons werk dat het Europees Parlement in haar positie op de AI-verordening een duidelijk statement maakte vóór mensenrechten. Inmiddels zitten we in de laatste fase van de onderhandelingen en op 6 december wordt er weer overlegd tussen de Europese Commissie, het Europees Parlement en de Raad. Deze fase is niet transparant, maar via onze bronnen vernemen we dat het er voor de bescherming van mensenrechten niet goed uitziet. De Raad lijkt belangrijke verbeteringen op het wetsvoorstel namelijk ongedaan te willen maken.

Wij stuurden daarom samen met andere Europese digitale rechtenorganisatiesLees hier meer over de brief en de aangesloten organisaties een brief waarin we dringend vragen mensenrechten voorop te stellen en daarbij het volgende in acht te nemen:

• AI-systemen worden steeds vaker ontwikkeld en ingezet voor schadelijke en discriminerende vormen van overheidssurveillance. Denk bijvoorbeeld aan het gebruik van biometrische identificatie in openbare ruimte, emotieherkenning en predictive policing systemen bij de politie. AI wordt al onevenredig gericht op gemarginaliseerde gemeenschappen, ondermijnt wettelijke en procedurele rechten en maakt massasurveillance mogelijk;

• De Raad dreigt het gebruik van AI op het gebied van wetshandhaving, migratie en nationale veiligheid ernstig te onderreguleren — en in sommige gevallen zelfs te dereguleren — als het zijn standpunt niet wijzigt;

• Een ontoereikend, gedeeltelijk verbod op een aantal van de meest onaanvaardbare en gevaarlijke toepassingen van AI — waaronder biometrische identificatie, emotieherkenning en predictive policing — zal een aantal van de meest dystopische en rechtenschendende surveillancepraktijken waarschijnlijk eerder legitimeren dan beperken;

• Een algemene vrijstelling in de verordening voor AI op het gebied van nationale veiligheid zal de wetgeving ondermijnen. Autoriteiten hebben dan namelijk een carte blanche om te beweren dat AI bij wetshandhaving, grensbeheer of nationale veiligheid niet onder de wet zou vallen;

• Uitzonderingen op transparantievereisten voor de politie en bij de grenscontrole zorgen ervoor dat controle op de meest risicovolle AI-toepassingen praktisch onmogelijk wordt. Dit heeft als resultaat dat deze AI-toepassingen in het geniep zullen worden gebruikt, terwijl de impact op personen en op de maatschappij groot is.

Passende waarborgen op overheids- en politiebevoegdheden zijn essentieel voor het functioneren van een rechtsstaat. AI toepassingen op het gebied van rechtshandhaving, migratie en veiligheid, vormen een unieke bedreiging voor onze grondrechten, veiligheid en samenleving. Wij roepen de vertegenwoordigers van EU-lidstaten daarom op van de AI-verordening een instrument te maken dat bescherming biedt en waarin geen mogelijkheden worden gecreëerd die massasurveillance en discriminatie in de hand werken.