Vorige week kregen sommige Instagram gebruikers opeens een stortvloed aan notificaties: "Je bericht is lager in het overzicht geplaatst, omdat het mogelijk in strijd is met onze richtlijnen voor de community. [...]". Een tijdje later volgde een correctie, het bericht was toch oké, maar tegen die tijd was de post vaak al oud nieuws en stond hij sowieso laag in de feed. Veel mensen vroegen zich af waar al die notificaties opeens vandaan kwamen: een bug in het algoritme? Zijn ze gerapporteerd door andere gebruikers? Of is het misschien een voorbode van de grote aanstaande veranderingen voor online platformen...

Het contentmoderatie algoritme

Iedere dag worden er miljoenen - zo niet miljarden - foto's en video's geüpload naar Instagram. Omdat Meta wil toezien op de inhoud van al die berichten, maar het te veel werk is om dit met de hand te doen, worden berichten bekeken door het befaamde contentmoderatie algoritme. Grote platformen, en zeker Instagram, zijn erg geheimzinnig over hun algoritmes. Daarom blijft het altijd speculeren over wat er gebeurt. We geven graag inzicht in wat wél bekend is.

Platformen nemen in hun contentmoderatie algoritme veel gegevens mee: dat wat er letterlijk in een post staat, of de post gerapporteerd is, informatie over je account en onderwerpen waar je vaak over post. Het algoritme heeft geleerd van alle oude posts die ooit op het platform hebben gestaan, en of die uiteindelijk wel of niet problematisch bleken. Dit alles gaat samen door de (black box) machine heen en sommige factoren wegen zwaarder dan andere. Aan het eind van het proces rolt er een contentmoderatie actie uit. Soms beslist het algoritme dat je post geen probleem is, maar het kan ook beslissen om je post te verwijderen, te downranken (lager te plaatsen), of er een waarschuwing naast te zetten. Tenminste, totdat er een moderator, de human in the loop, naar heeft gekeken.

Als je hele account of de onderwerpen waar je vaak over post als risico zijn aangemerkt, kan het dus gebeuren dat het contentmoderatie algoritme besluit dat elk bericht dat je plaatst een actie oplevert. Zelfs de meest onschuldige posts worden zo aangepakt. Immers wordt dan niet alleen de inhoud van de post, maar je hele account telkens meegenomen. In dit geval is het natuurlijk misleidend om voor iedere losse post een notificatie te sturen; eerlijker zou zijn om je te informeren dat je account als risico wordt gezien.

De nieuwe platformregels komen eraan

Morgen, zaterdag 17 februari, gaat de Digital Services Act (DSA) van kracht. Deze Europese wet 8 nieuwe regels die jou beter gaan beschermen tegen online platformen heeft grote impact op online platformen. Een van de nieuwe regels verplicht platformen bijvoorbeeld om je te informeren als er moderatie acties worden genomen wat betreft jouw profiel of berichten. Klinkt bekend?

Misschien waren de meldingen van de afgelopen tijd dus een voorbode. Het lijkt er dus op dat Instagram zich aan het voorbereiden was op de nieuwe platformregels, en alvast begon met het uitrollen van notificaties. De notificatiestortvloed was immers van het ene op het andere moment voor veel verschillende gebruikers een feit.

Wat kun je als gebruiker doen?

Met de DSA worden jouw rechten als gebruiker van online platformen, waaronder sociale media, beter beschermd tegen de macht van Big Tech. De afgelopen jaren hebben we achter de schermen in Brussel hard gewerkt aan de DSA. We zijn dan ook blij dat hij nu ingaat. Om jou als gebruiker op deze nieuwe rechten te wijzen en je aan te sporen hier gebruik van te maken, lanceren we aanstaande maandag een campagne rond de DSA. Stay tuned!