Wij vroegen IBM om opheldering over haar statement over de risico's van gezichtsherkenningstechnologie voor het versterken van ongelijkheden in de samenleving. Maakte zij zich zorgen over onze rechten en vrijheden, of toch vooral over haar eigen PR? De reactie van het bedrijf laat zien dat het vooral te doen was om imago.

Het statement

Arvind Krishna, de CEO van IBM kondigde in een briefLees hier de originele brief van Arvind Krishna (Engels) aan de Senaat aan dat 'om redenen van rechtvaardigheid en raciale gelijkwaardigheid' het bedrijf zal stoppen met het aanbieden van gezichtsherkenningstechnologie en analysesoftware voor 'generiek gebruik'.

Onze vraag om opheldering

Omdat het statement in de brief ruimte liet voor interpretatie hebben wij IBM in een briefLees hier de brief die aan IBM is verstuurd gevraagdLees hier wat wij eerder schreven over onze vraag om opheldering om een toelichting. Welke contracten worden er nu precies stopgezet? Welke contracten zullen wel doorgaan? Hoe wordt 'generiek gebruik' gedefinieerd? Heeft IBM ook experts op het gebied van fundamentele (mensen)rechten betrokken bij dit nieuwe beleid? Is dit nieuwe beleid overal van toepassing of alleen in de Verenigde Staten?

De reactie van IBM

We hebben een korte reactie ontvangen van de Chief Privacy Officer van IBM. Deze reactie herhaalde de algemene toezeggingen uit het statement en wijdde uit over de deelname van IBM in verschillende initiatieven rond kunstmatige intelligentie en ethiek. Helaas bleven al onze vijftien vragen onbeantwoord. De reactie wekt de indruk dat het IBM vooral te doen is om haar eigen imago.

Er heerst een gebrek aan publieke transparantie en verantwoording bij techbedrijven als IBM. Een tekort aan middelen bij nationale toezichthouders om Europese wet- en regelgeving te handhaven en dergelijke bedrijven ter verantwoording te roepen. En een praktijk waarin dergelijke schadelijke technologieën nog steeds worden ontwikkeld, ingekocht en geïmplementeerd. Hoe kunnen we er in deze situatie vanuit gaan dat onze vrije, open samenleving, en onze individuele rechten en vrijheden worden beschermd tegen de gevaren van biometrische surveillance in de publieke ruimte?

Het korte antwoord lijkt te zijn dat we dat eigenlijk niet kunnen. Het statement van IBM laat opnieuw zien dat vertrouwen op de zelfregulering of ethische principes van bedrijven die dergelijke technologie ontwikkelen niet voldoendeLees hier wat wij daar eerder over schreven zal zijn.

Wij willen structurele bescherming

Daarom is het hoog tijd dat de Europese Commissie de nodige stappen zet en deze bescherming wel biedt door biometrische massa surveillance in de publieke ruimte te verbiedenLees hier onze eerdere oproep om biometrische massa surveillance in de publieke ruimte te verbieden in de aankomende wetgeving op het gebied van kunstmatige intelligentie.