De EU is glashelder: sommige toepassingen van kunstmatige intelligentie zijn gewoon té link en moeten worden verboden! Daar hebben we de afgelopen jaren hard voor gestreden. We vertellen je graag waar het Europees Parlement deze week voor heeft gestemd tijdens de behandeling van de AI Act.

Hiep hiep hoera! Gisteren was het groot feest op het kantoor van Bits of Freedom. Samen met onze Europese collega's maakten wij de AI-act namelijk écht beter. De twee committee's, die er in Brussel over gaan, stemden vóór een betere bescherming van mensenrechten in de AI-verordening. Dat de Internal Market Committee (IMCO) en de Civil Liverties Committee (LIBE) bijna alle verbeteringen waar wij ons jarenlang voor hebben ingezet nu steunen, is een grote overwinning voor ons allemaal. Nadia vertelt over de vijf belangrijkste wins:

1. Real-time én post biometrische identificatie wordt verboden

In het oorspronkelijke wetsvoorstel was er alleen een verbod op live biometrische identificatie in de openbare ruimte opgenomen. Dat vonden we een niet ver genoeg gaanWaarom wij pleitten voor een verbod.. Het zou namelijk betekenen dat toepassingen met een vertraging van bijvoorbeeld drie seconden wél zou mogen. Dat is niet acceptabel. Maar nu is post biometrische identificatie dus ook uitgesloten! Een belangrijke overwinning voor de Reclaim Your Face campagne.Lees over de Europse campagne die we voerden.

2. Scherpere keuzes op wat wél en níet mag

AI-toepassingen die een te hoog risico vormen voor mensenrechten moeten verboden worden. Daarom had de Europese Commissie al een aantal verboden opgenomen in het wetsvoorstel. Deze verboden waren helaas erg nauw geformuleerdLees hier waarom het eerste voorstel beter moest., terwijl de uitzonderingen dan weer heel breed waren. Bovendien ontbraken veel belangrijke toepassingen. Nu zijn de verboden beter geformuleerd, waarbij niet alleen individuen, maar ook groepen mensen beter beschermd zijn. Ook is predictive policing aan de verboden toegevoegd. Fijn!

Predictive Powatting?

Wil je weten wat Predictive Policing eigenlijk inhoudt? Daar hebben we deze uitlegvideo over gemaakt, samen met Fresku.

3. Een verplichte mensenrechtentoets

Alle partijen die AI-toepassingen uitrollen moeten transparant zijn en verantwoordelijk worden gehouden. Daarom moeten deze partijen voordat een AI-toepassing gebruikt wordt, een mensenrechtentoets doen. Hiermee moet in kaart gebracht worden welke risico’s mensen lopen bij het gebruik van deze toepassing en welke maatregelen er getroffen moeten worden om die risico’s uit te sluiten of te beperken. Als dat niet mogelijk is, mag de AI-toepassing simpelweg niet gebruikt worden. Overheden en grote bedrijven moeten de uitkomsten van deze toetsen openbaar maken.

4. Betere bescherming van jouw rechten

In het oorspronkelijke wetsvoorstel hadden mensen die geraakt werden door kunstmatige intelligentie heel weinig rechten. Ze hadden vrijwel geen recht op transparantie en al helemaal niet op controleerbaarheid. Dat vonden we niet kunnen,Lees hier warom de rechten beter moesten! want zonder te weten waar een beslissing op gebaseerd is, is rechtsbescherming niet mogelijk.Geen Kafka praktijken meer dus! Nu hebben mensen op basis van dit voorstel recht op uitleg in begrijpelijke taal. Ze kunnen een klacht indienen bij een toezichthouder én kunnen ze naar de rechter stappen.

5. Een verplicht AI-register

Er komt een Europese databaseWat is het algoritmeregister? waarin alle AI-toepassingen met een hoog risico staan opgenomen. Deze database moet toegankelijk, makkelijk doorzoekbaar en in begrijpelijke taal zijn. We kunnen niet wachten!

We zijn er nog niet!

In het Witboek over Kunstmatige Intelligentie van de Europese Commissie werd aangekondigd dat er een wetsvoorstel over kunstmatige intelligentie zou komen. Wij hebben toen proactief laten weten hoe dit wetsvoorstel er volgens ons uit zou moeten zien.In 2021 deden we een voorstel. In april 2021 verscheen het wetsvoorstel van de Europese Commissie. Daarin zagen we dat we nog een hele lange weg te gaan haddenToen hadden we nog een lange weg te gaan. om mensenrechten goed in de AI-verordening beschermd te krijgen. We hebben daarom brieven geschreven naar Europese en Nederlandse instituties, spraken met een heleboel Europese en Nederlandse politiciAI in de Tweede kamer., beleidsmakers en andere stakeholders, waren regelmatig als spreker te gast om het te hebben over de AI-verordening en werkten mee aan verschillende campagnes.

In juni staat een stemming gepland in het voltallige Europees Parlement. Daarmee zal de definitieve positie van het Europees Parlement worden bepaald. Vervolgens zullen de trilogen plaatsvinden tussen de Europese Commissie, het Europees Parlement en de Raad van de Europese Unie. Het zal dus nog even duren voordat de onderhandelingen over de AI-verordening rond zijn en de wet van toepassing wordt. Maar we zitten op de goede weg!

Ten slotte...

Het verbeteren van wetsvoorstellen is een lang en intensief proces waar veel geduld voor nodig is. Dat werk is volgens ons super belangrijk en we willen dit blijven doen. Als jij deze mening met ons deelt, denk er dan eens over om donateur te worden van Bits of Freedom! Dankzij onze duizenden vaste donateurs kunnen we onafhankelijk blijven vechten voor jouw digitale rechten en privacy. Sluit je daarom vandaag nog aan!Word vaste donateur en sluit je vandaag nog aan bij Bits of Freedom!