De Amerikaanse multinational IBM gaf een statement over de risico's van gezichtsherkenningstechnologie voor het versterken van ongelijkheden in de samenleving. Dat klinkt goed, maar het statement laat veel ruimte voor interpretatie. Wij vroegen het bedrijf in een open brief om verduidelijking.

Het statement van IBM

IBM kwam met een statementLees hier het hele statement van IBM (Engels) over verantwoord technologiebeleid. Het bedrijf schrijft dat technologie geen discriminatie of raciale ongelijkheid mag bevorderen. Daarom biedt het bedrijf niet langer eigen gezichtsherkennings- of analysesoftware aan voor algemene toepassing. Het bedrijf spreekt zich uit tegen het gebruik van technologie, ook dat van andere leveranciers, voor onder andere massasurveillance, etnische profilering en schending van fundamentele rechten en vrijheden.

Tof! Toch?

Voordat we enthousiast zijn moeten we eerst helder hebben wat er nu eigenlijk wordt beloofd. De verwoordingen van het statement laten ruimte voor uiteenlopende interpretaties. Daarom heeft EDRiNeem een kijkje op de website van EDRi, een samenwerkingsverband van 44 digitale rechtenorganisaties waaronder Bits of Freedom, een open briefLees hier de blog van EDRi over de brief naar het bedrijf gestuurd. In de brief vragen we wat de toezegging te stoppen met gezichtsherkenningstechnologie voor algemene toepassing precies inhoudt en wat dit voor verandering met zich meebrengt ten opzichte van haar huidige praktijk, lopende contracten en haar werk in Europa.

Verbied biometrische massasurveillance!

In mei dit jaar heeft de EDRi-coalitie een gezamenlijke oproepLees hier de oproep en wat wij daar eerder over schreven gedaan om biometrische massasurveillance, waaronder gezichtsherkenning, te verbieden. We zijn het helemaal eens met IBM dat biometrische surveillance technologie ernstige schade kan toebrengen aan onze rechten en vrijheden en daarom niet thuis hoort in een democratische samenleving.

Update: Het antwoord van IBM

We hebben een korte reactieLees hier de blog die we hebben geschreven over de reactie ontvangen van de Chief Privacy Officer van IBM. Deze reactie herhaalde de algemene toezeggingen uit het statement en wijdde uit over de deelname van IBM in verschillende initiatieven rond kunstmatige intelligentie en ethiek. Helaas bleven al onze vijftien vragen onbeantwoord. De reactie wekt de indruk dat het IBM vooral te doen is om haar eigen imago.