Vandaag treedt de AI-verordening in werking. Bits of Freedom heeft zich de afgelopen jaren, samen met vele anderen, waaronder met de EDRi AI Core Group, ingezet voor de bescherming van mensenrechten bij de ontwikkeling en het gebruik van kunstmatige intelligentie. In dit statement delen we graag hoe we vanuit de EDRi AI Core Group naar de AI-verordening kijken en wat ons nog te wachten staat.

De AI-verordening is vanaf nu van kracht

Op 1 augustus 2024 treedt de langverwachte wet op de kunstmatige intelligentie in werking, wat betekent dat de AI-wet na jaren van onderhandelen nu een officiële EU-wetHier vind je de wettekst is.

Dit is een belangrijke stap, die zowel overheden als bedrijven duidelijk maakt dat ze zich moeten voorbereiden op het naleven van deze nieuwe regels. Mochten zij toch riskante AI-systemen in de EU ontwikkelen, verkopen of gebruiken, dan kunnen ze flink worden beboet.

Hoewel maatschappelijke organisaties zoals Bits of Freedom en onze AI Act-coalitiepartnersLees hier wat we eerder als coalitie schreven teleurgesteld zijn dat mensenrechten niet voldoende worden beschermd, bevat de uiteindelijke wet toch verschillende mogelijkheden voor positieve verandering.

Hieronder vallen maatregelen zoals strengere technische eisen voor ontwikkelaars van AI-systemen, bepaalde transparantieregels voor overheidsinstanties die deze systemen gebruiken en toegankelijkheidseisen voor risicovolle systemen. Andere ontwikkelingen zijn onder andere juridische mogelijkheden voor getroffen mensen en een verbod op enkele toepassingenLees hier wat we daar eerder over schreven van de meest schadelijke en rechtenschendende toepassingen (ook al gaan deze niet zo ver als we hadden gehoopt).

Kansen om jouw rechten in Nederland beter te beschermen

Waar de wet zijn belofte om mensen en hun rechten centraal te stellen niet volledig heeft waargemaakt, zullen we als coalitie hard werken om de implementatie van deze regels zo zinvol mogelijk te maken. We zullen blijven aandringen op een actieve rol voor het maatschappelijk middenveld en op zinvolle participatie van iedereen die te maken heeft met het gebruik van AI-systemen, in het bijzonder gemarginaliseerde groepen.

Nu we de volgende fase van ons werk op het gebied van kunstmatige intelligentie ingaan, dringen we er bij beleidsmakers op aan om te zorgen voor:

1. Een krachtige en mensenrechten respecterende implementatie van de AI-verordening op EU- en nationaal niveau. We pleiten voor een krachtige, effectieve en op het EU HandvestLees hier over de grondrechten van de EU gebaseerde interpretatie van verboden en risicovolle technologieën onder de AI-verordening; voor sterke en onafhankelijke toezichthoudende autoriteitenIn deze brief lees je terug wat wij daaronder verstaan; voor rechten respecterende richtlijnen en codes met betrekking tot de interpretatie en implementatie van de wet; en voor zinvolle mensenrechtentoetsen (Fundamental Rights Impact Assessments, FRIA's);
2. Proactieve maatregelen om de mazenLees hier meer over de mazen in de AI-verordening in de AI-verordening op te vullen. Deze zijn vooral dringend nodig voor een betere bescherming van mensen op de vluchtLees hier meer, het aanpakken van de milieueffecten van AI, het schrappen van algemene uitzonderingen voor het gebruik van AI voor nationale veiligheidsdoeleinden, ervoor te zorgen dat alle systemen (niet alleen de systemen met een hoog risico) toegankelijk zijn voor mensen met een handicap, en het stoppen van de export van AI-technologieën uit de EULees hier meer die inbreuk maken op rechten,
3. Aanvullende nationale verboden en beperkingen op onaanvaardbaar schadelijke AI in de gevallen waarin de AI-wet dit toestaat. We vragen met name om een verbod op het gebruik van biometrische identificatiesystemen op afstand (RBI), zoals gezichtsherkenning door de overheid
4. Het zo snel mogelijk een halt toeroepen van het gebruik van AI dat in strijd is met de AI-verordening. De eerste regels die operationeel worden, zijn de verbodsbepalingen, die vanaf 1 februari 2025 bindend worden. Andere regels zullen daarna geleidelijk worden ingevoerd en we zullen deze nauwlettend volgen om gebruik dat buiten de grenzen van de wet valt aan te vechten;
5. Echt transparante en inclusieve processen. Standaarden, bijvoorbeeld, die een belangrijk onderdeel vormen van de implementatie van de AI-wet, worden ontwikkeld op een manier die vaak ondoorzichtig is en die particuliere entiteiten bevoordeeltLees hier meer - met het risico dat dit de regels in de AI-wet ondermijnt. Naast het vaststellen van normen moeten de ontwikkeling van gedragscodes en de adviesgroepen die toezicht houden op de AI-wet transparant zijn, ook voor het maatschappelijk middenveld.

Voor meer informatie over ons werk om mensenrechten centraal te stellen in wetten en beleid op het gebied van kunstmatige intelligentie, zie onze dossierpagina over kunstmatige intelligentieLees hier meer over ons werk op AI.

Dit artikel is een vertaling van de gezamenlijke statement van de EDRi AI Core Group. Hier vind je het statement in het Engels.AI-Act statement EDRi AI Core Group