Facebook en andere sociale-mediaplatformen hebben hun vuile werk uitbesteed aan digitale sweatshops in lagelonenlanden. Zij zorgen ervoor dat onze tijdlijnen geen onwelgevallige beelden bevatten. Maar wat is de echte prijs die daarvoor wordt betaald, vraagt documentaire The Cleaners zich af.

Rauwe realiteit

Op de één of andere manier krijg je op Facebook zelden iets te zien dat écht schokkend is. Geen dick pics of filmpjes van onthoofdingen of seksueel misbruik van kinderen. Dat is niet omdat dat soort afbeeldingen en filmpjes nooit gepost worden. Maar zodra ze maar even op het platform te zien zijn, dan is Facebook er als de kippen bij om ze te verwijderen. Facebook laat je graag denken dat z'n algoritmes daar wel voor zorgen. Maar de realiteit is een heel stuk rauwer en donkerder, zo laat de documentaire The Cleaners zien.

The Cleaners is de eerste lange documentaire van het Duitse makersduo Hans Block en Moritz Riesewick. Hij ging afgelopen januari in première op het Sundance Filmfestival, was daarna in Rotterdam te zien bij de Critic's Choice en krijgt nu een bioscooproulement. Hoewel de film specifiek over de moderatie bij Facebook gaat, is veel van de besproken problematiek van toepassing op alle sociale-mediaplatformen.

Digitale sweatshops

Wat de film laat zien is dat Facebook, om ervoor te zorgen dat onze tere zieltjes niet gekwetst worden, de handmatige moderatie van z'n platform grotendeels heeft uitbesteed aan bedrijven in lagelonenlanden. Voor duizenden mensen in landen als de Filipijnen bestaat hun lange werkdag uit niets anders dan onze uploads beoordelen. Slechts de posts over onderwerpen die heel lokaal gevoelig liggen worden dichterbij huis beoordeeld. Zo worden Nederlandse posts over Sylvana Simons of Duitse posts over de Tweede Wereldoorlog beoordeeld door zogeheten "commercial content moderators" in Berlijn.

Deze moderatoren staan niet op de loonlijst van Facebook en zijn vrijwel onzichtbaar voor de gebruikers van het platform. Dat is, voor Facebook, wel zo prettig. Want wat niet bekend is, levert ook geen ophef op. Als je als gebruiker weet dat mensen in digitale sweatshops in lagelonenlanden jouw feed schoonhouden, voel je je misschien toch wat minder comfortabel bij het gebruik van de dienst. Deze documentaire brengt de anders onzichtbare schoonmakers voor het eerst toegankelijk in beeld.

Targets halen

Maar het uitbesteden naar die lagelonenlanden heeft nog een 'voordeel' voor Facebook: het zijn landen met goedkope arbeid en lagere arbeidsstandaarden. De documentaire laat zien hoe de moderatoren een target hebben van 25.000 uploads per dag beoordelen. Bij een Nederlandse werkdag is dat dus ongeveer één afbeelding per seconde. Delete. Delete. Ignore. Delete. Ignore. En het gaat dan niet om katten­plaatjes, maar om beelden die door Facebookgebruikers als aanstootgevend zijn aangemerkt, waaronder onthoofdingen, zelfmoorden en verkrachtingen. De hele dag door en zonder serieuze aandacht voor de traumatische psychische gevolgen voor de moderatoren.

Bij de moderatoren in BerlijnDe hel achter de façade van Facebook is dat niet wezenlijk anders. Daar liggen de targets misschien wat lager, maar is er voor de 1100 medewerkers ook slechts één psycholoog, één maatschappelijk medewerker en één "feelgoodmanager" beschikbaar — zo viel vorige maand te lezen in De Volkskrant.

Amerikaanse normen en waarden

Het outsourcen van het smerige werk naar lagelonenlanden is niet de enige maatschappelijke impact van het mondiaal opererende bedrijf. Eén van de moderatoren uit de film vertelt over de lijst van 37 organisaties die door de Verenigde Staten als terroristisch zijn aangemerkt: "You have to memorize everything [...]. Memorize their flags, memorize their sayings." Een organisatie die niet op de lijst voorkomt zal niet snel als terroristisch worden behandeld, tenzij hevige publieke kritiek Facebook dwingt af te wijken van haar eigen beleid. Het illustreert hoe Facebook Amerikaanse normen en waarden aan de rest van de wereld oplegt, zonder oog voor lokale culturen. Dat is niet anders voor blote tepels of voor parodieën.

Het bedrijf dicteert ons haar wereldbeeld, door te beslissen wat we wel en niet mogen zien. Het gaat niet meer alleen om de vraag hoe schokkend een bepaald beeld is, maar ook of iets nieuws kan zijn. Wat niet gedeeld kan worden op Facebook zal minder snel nieuws zijn. Soms fungeren de schokkende beelden van een afschuwelijke gebeurtenis als een katalysator voor een verandering. Zonder iconisch beeld van het levenloze lichaam van de zwarte jongeman Michael Brown was er waarschijnlijk minder aandacht voor discriminatie bij de Amerikaanse politie. We hadden waarschijnlijk ook nooit iets gezien van de talloze demonstraties van protesterende burgers. De martelingen in de Abu Ghraib-gevangenis hadden nooit de aandacht gekregen als de beelden ervan nooit zichtbaar waren geweest. En dat de Vietnam-oorlog niet wordt vergeten is mede te danken aan die ene beeldbepalende foto.

Monopolist beslist

Al die zojuist genoemde beelden worden van tijd tot tijd door Facebook van haar platform geweerd. Soms tijdelijk, soms permanent. In alle gevallen geldt: hadden we die beelden niet gezien, dan hadden ze zich nooit op ons netvlies kunnen brandenDe vrijheid van misselijkheid en waren de afschuwelijke gebeurtenissen die eraan ten grondslag lagen al veel verder in ons collectieve geheugen weggezakt.

De vraag wanneer of onder welke voorwaarden dit soort beeldmateriaal gezien moet worden is niet makkelijkFacebook kan het ook nooit goed doen te beantwoorden. Maar één ding is wel duidelijk: het is niet verstandig om de beslissing daarover bij een grote Amerikaanse monopolist neer te leggen. Een moloch waarvan de beslissingen vooral gebaseerd worden op een Amerikaanse moraal. Een commercieel bedrijf waarvan de belangen niet per se met die van haar gebruikers (met ons dus!) overeenkomen.

Je moet het ze nageven, de meeste moderatoren die in de documentaire aan het woord komen zijn vaak blij of zelfs trots op hun werk. Zonder baan zouden ze op de vuilnisbelt eindigen, op zoek naar iets waardevols tussen het afval. Deze baan, weliswaar niet bij maar wel voor Facebook, geeft ze de kans om achter een beeldscherm te zitten en beter betaald te worden. Toch verandert dat niet veel: nog altijd ploeteren ze op een vuilnisbelt door het afval. Maar nu is het niet meer het lokaal geproduceerde afval, maar het digitale afval van ons - want wijzelf zijn er te beroerd voor om het op te ruimen.

Dit artikel werd eerder gepubliceerd in De Filmkrant.