Onze communicatieplatformen zijn vervuild met racisme, aanzettingen tot haat, terroristische propaganda en Twitterbotlegers. Dit essay suggereert dat dat deels komt door hoe onze platformen zijn ontworpen. We bekijken contentmoderatie en counter speech als mogelijke oplossingen en concluderen dat beide tekort schieten. Als alternatief suggereren we dat ontwerp zou kunnen helpen bij het mitigeren van de meer schadelijke effecten van onze platformen. Hoe zouden onze platformen eruit zien als ze ontworpen zouden zijn voor betrokkenheid in plaats van aandacht?

Dit stuk is vertaald uit het Engels door Joris Brakkee.

Wrijvingsangst

In de jaren ‘30 van de vorige eeuw introduceerde industrieel ontwerper Egmont Arens het concept van humaneering. Humaneering is het idee dat je producten ontwerpt op een manier die de wrijving tussen het product en de gebruiker minimaliseert.

We hebben sindsdien veel soortgelijke ideeën over ontwerp gehoord. In de jaren ‘50 zei Henry Dreyfuss dat een ontwerp faalde als het punt van contact tussen het ding en de gebruiker een punt van wrijving werd. Mark Weiser introduceerde in de jaren ‘90, in de context van ubiquitous computing, het idee van “kalme” technologie, waar de computer een extensie is van ons onderbewuste. Een van de best ontworpen diensten waar ik gebruik van maak, WeTransfer, daagt zichzelf uit om te werken zonder iemands “flow” te breken.

De producten en technologieën die we gebruiken hebben back-ends die veel uitgebreider en complexer zijn dan hun interfaces ons doen geloven. Daar komt bij dat je zou kunnen zeggen dat de manier waarop we traditioneel gezien over onze interacties met producten nadachten en ze ontworpen, ons alleen maar verder heeft verwijderd van de technologische, politieke en sociale implicaties van die producten.

Dingen vs. apparaten

In 1984 introduceerde Albert Borgmann het onderscheid tussen een “ding” en een “apparaat”. Een ding is iets wat je op veel verschillende niveaus ervaart, zei hij, terwijl je interactie met een apparaat extreem gelimiteerd is, bewust ingeperkt. Het meest bekende voorbeeld dat Borgmann hiervan geeft is de houtkachel aan de ene kant, en centrale verwarming aan de andere.

De hoofdfunctie van een houtkachel is om het huis te verwarmen. Maar het vereist ook vaardigheden, zoals hout hakken en het vuur brandend houden, vaardigheden die meestal verdeeld zijn over verschillende familieleden. Het is de plek in huis waaromheen de familie zich verzamelt, en het verandert tijdens de dag, gloeiend heet ‘s morgens vroeg, en smeulend ‘s avonds laat. Daarnaast vertelt het je ook iets over de seizoenen omdat de rol verandert door het jaar heen.

Centrale verwarming voert de hoofdfunctie, het verwarmen van het huis, een stuk efficiënter uit, maar heeft geen van de andere functies. Er is geen echte betrokkenheid tussen de persoon en het apparaat. Borgmann vindt dit erg jammer omdat hij zegt dat deze betrokkenheid nodig is om de wereld te begrijpen en er op een betekenisvolle manier op te reageren.

Betrokkenheid vs. aandacht

Met Borgmann in het achterhoofd zou je kunnen zeggen dat een zekere mate van wrijving misschien wel iets goeds is, omdat het leidt tot echte betrokkenheid, bewuste participatie. Een misschien een beetje vreemd voorbeeld hiervan is de pop-up op een webpagina die vraagt of je je wilt aanmelden voor een nieuwsbrief. De enige reden dat de pop-up bestaat is zodat je hem kan sluiten. Onderzoek heeft laten zien dat zodra je een actie moet uitvoeren op een website, de betrokkenheid omhoog gaat en het waarschijnlijker is dat je tot de gewenste actie over gaat.

Nog een voorbeeld: vergelijk de website van de gemiddelde gebruiker van nu met die van een gebruiker 25 jaar geleden.

In de jaren ‘90 had je vaardigheden en verbeelding nodig om een eigen homepage te hebben. Waar ga ik mijn pagina mee vullen? Hoe gaat hij eruit zien? Wat gaat het adres zijn? Hoe krijg ik geanimeerde gifs zover dat ze door het scherm bewegen? Je had tenminste een basis begrip van html nodig. Tegenwoordig ziet je persoonlijke ruimte op het internet er zo uit.

Je Facebook profiel is voorzien van een vakje waarin je mag typen en er zijn een paar plaatsen bestemd voor afbeeldingen, in een gespecificeerd bestandstype en formaat. We kunnen reageren, of liever nog kiezen uit een set vooraf bepaalde emoties. Facebook heeft het zeker makkelijker voor ons gemaakt om een “persoonlijke” ruimte te maken en beheren, maar we hebben er geen vaardigheden of verbeelding voor nodig. Ja, Facebook is erin geslaagd de aandacht van verschrikkelijk veel gebruikers te vangen, maar hoeveel van hen voelen zich daadwerkelijk betrokken bij hun account? Vaker en vaker spreekt men erover als een noodzakelijk kwaad.

Onze platformen schieten te kort

Door hoe onze communicatieplatformen ontworpen zijn, is er een levendige handel in likes en volgers ontstaan. Iets in de manier waarop onze platformen ontworpen zijn, leidt ertoe dat mensen dagenlang discussiëren met Twitterbots. Het draagt eraan bij dat Sylvana Simons"20 Are Convicted for Sexist and Racist Abuse of Dutch Politician" onophoudelijk aangevallen en bedreigd wordt. Het maakt het mogelijk voor Zoe Quinns"Zoe Quinn: after Gamergate, don't 'cede the internet to whoever screams the loudest'" ex-vriend om zijn woede over gedumpt te zijn af te reageren en een massa boze witte mannen te mobiliseren om haar leven te ruïneren. Iets in de manier waarop onze platformen ontworpen zijn maakt het mogelijk dat Steve Bannon diezelfde kudde boze mannen"What Gamergate should have taught us about the 'alt-right'" optrommelt, en hun woede aanwendt voor het steunen van Donald Trumps presidentscampagne. Het ontwerp van onze communicatieplatforms is niet de oorzaak van deze kwesties, maar het versterkt bestaande -oneerlijke- machtsverhoudingen. Het verandert ons in toeschouwers, en mishandeling in een schouwspel.Flavia Dzodan omschrijft dit als een "theatre of cruelty”.Het resulteert in hate speech.

Vechten tegen hate speech

Terug naar dit onderwerp. Het debat over hoe om te gaan met schadelijke content online richt zich over het algemeen op twee argumenten, of oplossingen zo je wilt. De eerste is contentmoderatie, of het controleren van content, de tweede is counter speech, of tegenspraak.

Contentmoderatie

De relatie tussen overheden en de grote netwerkplatformen is ingewikkeld. Je mening over hoe deze platformen zouden moeten opereren en of ze zouden moeten worden gereguleerd hangt onder andere af van of je vindt dat een platform als Facebook of YouTube onderdeel is van het open internet of dat je ze gesloten, private ruimtes vindt. De waarheid ligt, natuurlijk, in het midden. Het zijn private ruimtes die gebruikt worden als publieke ruimtes en ze worden almaar groter en machtiger.

Geconfronteerd met deze situatie, en omdat ze willen voorkomen dat het lijkt of ze niets doen om schadelijke content tegen te gaan, dwingen overheden platforms om iets te doen - en gaan daarmee hun eigen verantwoordelijkheid uit de weg. Het outsourcen van publieke verantwoordelijkheid aan private ondernemingen - en de bijkomende vaagheid over wat deze verantwoordelijkheid inhoudt - is voor ontelbare redenen een slecht idee. Hier zijn vier van de belangrijkste redenen.

1. Platformen zullen over-censureren

Ten eerste moedigt het platformen aan om te voorzichtig te zijn (wettelijk en politiek) als het gaat over het materiaal dat gebruikers uploaden. Dat betekent dat ze het bereik van hun gebruiksvoorwaarden uit zullen breiden zodat ze elke content of elk account voor elke reden kunnen verwijderen. Dit zal zonder twijfel soms platforms helpen om materiaal te verwijderen die niet online zou mogen zijn. Maar het heeft ook al geleid tot het verwijderen van veel materiaal dat elk recht had om online te staan. Een recent voorbeeld van zo’n fout is het verwijderen van duizenden video's"YouTube Removes Videos Showing Atrocities in Syria" s van oorlogsmisdaden in Syrië door YouTube.

2. Multinationals beslissen wat goed en fout is

Ten tweede zal het reguleren van je vrijheid van meningsuiting door Amerikaanse multinationals ertoe leiden, als niet nu dan in de toekomst, dat niets wat je zegt zal worden toegestaan tenzij het binnen de grenzen van Amerikaanse moraliteit valt, of tenzij het de zakelijke belangen van Amerikaanse bedrijven helpt. Een andere mogelijke uitkomst: als Facebook ervoor kiest om mee te werken aan eisen van individuele landen - en waarom zouden ze niet? - zou het resultaat ook kunnen zijn dat alleen die stukken informatie worden toegestaan die acceptabel zijn voor elk van die landen.

We hebben al voorbeelden gezien van hoe dit zal gaan. Eerder dit jaar viel het de Britse vlogger Rowan Ellis op dat LGBTQ+-gerelateerde inhoud niet voorkwam in de “Restricted Mode” van YouTube. Dit leidde tot de opmerking van Ellis dat "er ergens in dat proces een vooroordeel zit dat LGBTQ+ gelijk stelt aan 'niet voor het hele gezin'.""YouTube's Restricted Mode Is Hiding Some LGBT Content [Update]"

Dit zijn geen ongelukjes. Ze zijn het resultaat van hoe deze systemen zijn ontworpen en door wie ze zijn ontworpen. Het is het resultaat van toenemende druk op platformen om iets te doen, hoe verkeerd dat iets ook moge zijn.

3. Geprivatiseerde wetshandhaving zal echte wetshandhaving vervangen

Ten derde, het laten verwijderen van content door bedrijven is een vorm van geprivatiseerde wetshandhaving waarbij er nul sprake is van handhaving van de daadwerkelijke wet. Door dit te doen omzeil je het rechtssysteem en worden mensen die eigenlijk voor de rechter zouden moeten verschijnen, nooit berecht. Mensen wiens content ten onrechte wordt verwijderd hebben heel weinig manieren om zich hiertegen te verzetten.

4. We zullen kwetsbaarder worden

Tenslotte normaliseert dit een situatie waarin bedrijven ons kunnen reguleren op manieren waar overheden dit wettelijk niet kunnen, omdat bedrijven niet gebonden (of gehinderd) zijn door internationale wetgeving of nationale grondwetten.

Om het zachtjes te zeggen is deze oplossing nu, en hoogstwaarschijnlijk ook in de toekomst niet, geen doorslaand succes. Laten we kijken naar het andere voorstel, counter speech.

Counter speech

Dit argument komt neer op het geloof dat vrijheid van meningsuiting de oplossing is voor hate speech. We kunnen geen functionerende democratie hebben zonder vrijheid van meningsuiting, maar dit argument negeert de onderliggende onbalans in sociale macht, het systematische seksisme en racisme dat onze media, onze software en onze ideeën informeert.

Een voorbeeld. In 2015 publiceerde Breitbart een artikel waarin het Anita Sarkeesian en Zoë Quinn bekritiseerde voor het spreken op een evenement van de Verenigde Naties over online geweld tegen vrouwen. Breitbart schreef:

“Feministen proberen geweld en intimidatie te herdefiniëren zodat ook onwelwillende tweets en kritiek op hun werk eronder vallen. [...] Met andere woorden: iemand zei “you suck” tegen Anita Sarkeesian en nu moeten we het internet censureren. Wie zou zoiets hebben kunnen voorspellen? Het is het waard op te merken dat als Sarkeesians definitie klopt, Donald Trump het belangrijkste slachtoffer van cyber-geweld van de wereld is. Iemand zou hem dat moeten laten weten.”

Er gebeuren hier twee interessante dingen. Ten eerste zegt de schrijver dat wat deze vrouwen overkomt niet beschouwd zou moeten worden als geweld of intimidatie. Laten we een blik werpen op het soort tweets die Breitbart “onwelwillend” noemt. Hier zijn een paar van de 157 berichten die Sarkeesian in één week ontving op Twitter.

Anita Sarkeesian is een mediacriticus en blogger die in 2012 bekend werd om haar YouTube serie “Tropes vs. Women in Video Games”, waarin ze onderzoekt welke tropen er gebruikt worden in hoe vrouwelijke videogame personages worden neergezet. Hiervoor ontving ze verkrachtings- en doodsbedreigingen, haar accounts werden gehackt, haar persoonlijke informatie werd online gezet, haar Wikipedia pagina werd gevandaliseerd met racistische teksten en seksuele plaatjes, ze ontving tekeningen waarop ze verkracht werd, plekken waar ze zou spreken kregen bommeldingen, en één bijzonder creatieve man maakte een videospel genaamd “Beat Up Anita Sarkeesian”. Kan dat echt worden teruggebracht tot "someone saying 'you suck'"? Nee.

En dat komt gedeeltelijk door het tweede wat opvalt aan dit citaat, namelijk dat de schrijver het cyber geweld gericht op Anita Sarkeesian gelijk stelt aan het cyber geweld gericht op Donald Trump. Ik ben er zeker van dat Donald Trump flink wat gemene, of “onwelwillende”, tweets ontvangt, en we hebben het bewijs gezien dat Twitter hem ‘s nachts wakker houdt. Maar Donald Trump is een machtige, rijke, witte man. Hij bevindt zich in een positie waarin hij intimidatie simpelweg van zich af kan schudden, of het kan laten verdwijnen. Wanneer het gericht is op iemand als Sarkeesian, die geen machtige, rijke, witte man is, kan cyber geweld daadwerkelijk het leven tot stilstand brengen.

Niet alle stemmen zijn gelijk

Zoals Bruce Schneier"Power and the Internet" het mooi zei: “[Technologie] vergroot macht in beide richtingen. Toen de machtelozen het Internet vonden hadden ze plotseling macht. Maar [...] uiteindelijk zagen ook de machtige reuzen het potentieel - en zij hebben meer macht om te vergroten.” We moeten erkennen dat zolang er structurele onbalans is in een gemeenschap niet alle stemmen gelijk zijn. En totdat ze gelijk zijn gaat tegenspraak nooit een oplossing zijn voor haatdragende taal. Dus ook deze oplossing zal tekort schieten.

Waarom design ertoe doet

Wat ons terugbrengt naar design. Net als dat het internet niet verantwoordelijk is voor haatdragende taal moeten we niet naar design kijken om het op te lossen. Maar design kan wel helpen bij het verzachten van de meer schadelijke effecten van onze communicatieplatformen.

Design beïnvloedt gedrag

Twee dingen over design. Ten eerste beïnvloedt design gedrag. Dit weten we. Je kan de invloed van design voelen in elk product en elke dienst die je gebruikt. Wie voelt er niet een golf van opwinding bij het tegenkomen van zoiets?

Design is politiek

Ten tweede: design is altijd politiek. Neem Parijs. In 1853 gaf Napoleon de opdracht aan Baron Haussman om een nieuwe stad voor hem te bouwen. Wat Haussmann creëerde was het nu iconische stadsplan met zijn weidse boulevards en prachtige zichtlijnen. Hij liet een uitstekend rioolsysteem aanleggen dat levens drastisch verbeterde. Maar hij sloopte ook 12.000 gebouwen, wat veel van de armste bewoners uit hun huizen dwong. Het nieuwe ontwerp van de stad diende sommigen meer dan anderen.

Dichterbij, in Nederland, reflecteren stadsplanning en ontwerpen van huizen uit de jaren ‘50 de naoorlogse idealen van totale transparantie.

Ik kwam op nog een voorbeeld toen Rihanna haar lijn van cosmetica lanceerde, Fenty Beauty. Het schudde de grote cosmeticabedrijven wakker omdat het de aandacht richtte op het feit dat ze, over het algemeen, producten maken voor een erg kleine groep mensen.

Dan is er ook nog, natuurlijk, onze favoriete nieuwe taal: emoji. Het Unicode Consortium is een groep mensen die ervoor zorgt dat als jij een letter indrukt op je toetsenbord iedere computer in de wereld weet welk karakter hij moet laten zien op het scherm. Ze doen dit ook voor emoji. Daarnaast beslissen zij welke emoji toegevoegd worden aan het emoji-alfabet en welke niet. Kijkend naar de beschikbare emoji, besloot ontwerper Mantas Rimkus dat geen ervan hem hielp zijn betrokkenheid bij de actualiteit uit te drukken. Hij startte het project "demoji"Demoji is een open platform voor alternatieve emoji., wat als doel heeft de complexiteit van onze wereld uit te drukken in emoji. Kunstenaar en onderzoeker Lilian Stolk vraagt aan kinderen om de emoji te ontwerpen die zij toe zouden willen voegen aan het emoji-alfabet en maakt ze vervolgens beschikbaar door middel van sticker appsMore Moji in de App Store. Een van de resultaten:

Vernuftig ontwerp zou onze platformen kunnen redden

Er is een recent voorbeeld wat het belang van ontwerp laat zien voor onze platformen. In 2015 werd Coraline Ada Ehmke, een programmeur, schrijver en activist, benaderd door GitHub om aan te sluiten bij hun Community & Safety team. Dit team had de taak om "GitHub veiliger te maken voor gemarginaliseerde groepen en functionaliteit te creëren zodat producteigenaren beter hun communities konden beheren."De voorbeelden komen uit Ehmke's artikel "Antisocial Coding: My Year at Github". Ehmke accepteerde het aanbod.

Ehmke had zelf op GitHub intimidatie ervaren. Een paar jaar geleden maakte iemand een stel repositories en gaf ze allen racistische namen. Deze persoon voegde vervolgens Ehmke toe als medewerker aan deze repositories, zodat deze racistische namen van de repositories te zien zouden zijn als je naar haar gebruikerspagina ging.

Een paar maanden na haar aantreden leverde Ehmke een feature op genaamd “repository uitnodigingen”: project uitnodigingen. Dit betekent simpelweg dat je niet iemand kunt toevoegen aan een project waar je aan werkt zonder hun toestemming. De intimidatie die zij had ervaren zou niemand anders meer overkomen. In plaats van de onzin weg te filteren of door een vervelend en waarschijnlijk nutteloos proces te gaan om de onzin te laten verwijderen, gaf Ehmke de gebruiker zelf de controle over haar eigen ruimte, en creëerde daarmee een situatie waarin de onzin nooit de kans krijgt om te materialiseren.

Ehmke voegde ook de functionaliteit “eerste bijdrage” toe, een kleine badge die een projectleider ziet naast de naam van een nieuwe bijdrager aan dat project. Het idee was dat het de projectleider zou aanmoedigen om extra vriendelijk te zijn tegen die persoon. De laatste functionaliteit waar ze aan werkte was een eenvoudige manier om een gedragscode aan je project toe te voegen. Best cool.

We moeten het beter doen

In ongeveer 9 weken tijd ontving Zoë Quinn 10.400 tweets met betrekking tot GamerGate. Dat is 7 tweets per uur, 24 uur per dag, 9 weken lang. Het waren geen aanmoedigende tweets. Hoewel vrouwen vaker intimidatie tegenkomen online is vrouwenhaat niet het enige probleem. Onze communicatieplatformen zijn vervuild met racisme, aanzetting tot haat, terroristische propaganda en Twitter-bot legers. We moeten hier iets aan doen.

De manieren waarop we hier mee omgaan zijn gewoonweg niet goed genoeg. Het hernoemen van “censuur” naar “contentmoderatie” en een handvol miljardenbedrijven de leiding geven is geen geweldig idee als we nog een toekomst willen waarin we enige vrijheid genieten. Vasthouden aan het naïeve idee dat het internet gelijke kansen geeft aan alle stemmen werkt ook niet. Wat we moeten doen is het internet open houden, onze vrijheid van meningsuiting veilig stellen en gebruikers beschermen. Ehmke heeft laten zien dat ontwerp kan helpen.

Wat jij kan doen

De volgende keer dat je voet zet op het internet: wees je bewust van de manieren waarop platformen je gedrag beïnvloeden. Stel overal vragen bij. Vraag voor wie een functie werkt en voor wie niet. Vraag wat voor soort gebruiker de ontwerper van een product graag wilt dat je bent. Wat verstopt het interface?

Als je een activist bent: laat het succes van je werk niet afhankelijk zijn van deze platformen. Laat het niet gebeuren dat Facebook, Google en Twitter poortwachter worden tussen jou en de leden van je gemeenschap, en sta niet toe dat je vrijheid van meningsuiting een regeltje wordt in een 10.000 woorden tellende “overeenkomst”. Wees net zo kritisch op de technologieGa naar toolbox.bof.nl voor alternatieve diensten of bezoek een Privacy Café bij jou in de buurt. die je gebruikt om je zaak vooruit te helpen als dat je bent op de mensen, lobbyisten, instituten, bedrijven en overheden waar je tegen vecht. De technologie die je gebruikt doet er toe.

Tenslotte, als je een ontwerper bent: wees je bewust van hoe je culturele en politieke voorkeuren je werk vormgeven. Bouw producten die betrokkenheid stimuleren in plaats van aandacht oogsten. Wees niet bang voor wrijving. En als je ideeën hebt hoe ontwerp kan helpen het internet te redden, laat van je horen.