Deze week vertelt Lotje je alles over aanbevelingssystemen, of liever gezegd: het algoritme. Evelyn kwam terecht in een culinaire knokpartij en Inge ging met Rami Ismail in gesprek over de taal van het internet.

De Bits of Freedom podcast is elke twee weken gevuld met een breed scala aan internetgerelateerde onderwerpen. Je maakt kennis met het Bits of Freedom Team en we nemen je mee op ontdekkingstocht over het wereldwijde web. Van internetprivacy tot cyberkunst, van netwerkkabels tot wetgeving voor de grijpgrage techbedrijven. Alles over het internet van jouw favoriete NGO.

Evelyn's week op het internet

Evelyn was een beetje teleurgesteld door wat ze ontdekte toen ze onderzocht hoe ChatGPT omgaat met recepten. In plaats van beoordelingen van door AI gegenereerde recepten, kwam ze vooral uit bij video's waarin koks een battle aangaan met AIChef vs. AI op YouTube.. Gelukkig stuitte ze ook op iets veel smakelijkers: de ontspannende video's van @tatopearlteaOp TikTok vind je @tatopearltea., die Ierse Chinese restaurants bezoekt en rustig vertelt wat hij daar eet.

Het algoritme

Aanbevelingssystemen, ook wel bekend als 'het algoritme', zijn computerprogramma's die bepalen welke content we te zien krijgen op sociale media en andere platforms. Deze systemen maken gebruik van ons eerdere scrollgedrag en gevoelige privé-informatie om te bepalen wat we wel en niet te zien krijgen op de platformen. Het idee achter aanbevelingssystemen is om de gebruiker de 'best mogelijke ervaring' te bieden door hen de inhoud te tonen die ze het meest waarschijnlijk leuk vinden. Dit wordt gedaan door het verzamelen van gegevens over bijvoorbeeld naar welke filmpjes je langer kijkt, wat je leuk vindt en andere online activiteiten. Door deze informatie te gebruiken, kan het algoritme een profiel van de gebruiker samenstellen en aanbevelingen doen op basis van hun interesses en voorkeuren.

Lotje waarschuwt dat het hier niet gaat om het bieden van de best mogelijke ervaring voor de gebruiker, maar voor die van het platform zelf: "Het tricky gedeelte van zulke algoritmen, is dat ze zijn gemaakt om de belangen van het platform na te jagen. Een platform wil geld verdienen. Dat doen ze door advertenties te tonen. Hoe meer advertenties ze jou tonen, hoe meer geld ze verdienen. Hoe meer tijd jij doorbrengt op een platform, hoe meer advertenties je kan zien. Dus: die algoritmen hebben als doel om ons zo lang mogelijk op een platform te houden."

😠 doet het beter?

Onderzoek van De Groene Amsterdammer en RTL NieuwsHet onderzoek van RTL en De Groene Amsterdammer lees je hier. Nieuws laat zien dat het algoritme bijvoorbeeld extreme video's over eetstoornissen op TikTok kan aanbevelen aan mensen die geïnteresseerd zijn in afvallen of diëten. Op deze manier kan het algoritme een gevoelig publiek targeten en hen blootstellen aan potentieel schadelijke inhoud. Een ander risico van aanbevelingssystemen is dat het kan bijdragen aan de verspreiding van onjuiste informatie en complottheorieën, en dat het ons kan beperken in onze blootstelling aan nieuwe ideeën en meningen.

Lotje: "Platformen doen er alles aan om ons zo lang mogelijk op een platform te houden. Zo pusht Facebook berichten waar mensen met een boze emoji op reageren meer dan berichten waar mensen met een blije emoji op reageren. Want dat triggert mensen, en dan blijven ze op het platform. Maar daardoor krijg je wel een beetje een gek beeld van de werkelijkheid. Extreme content doet het goed, als in: mensen zijn getriggerd, en blijven langer op een platform hangen. Daardoor krijgen we clickbait, desinformatie en polarisatie te zien. En dat is niet goed voor onze democratie. Maar wel voor de portemonnee van TikTok."

Lotje schreef eerder deze blogWaarom is desinformatie schadelijk? over de schadelijke impact van desinformatie.

Nieuwe Europese wetgeving gaat de platformen aan banden leggen met betrekking tot onder andere deze aanbevelingssystemen. "Vanaf aankomende zomer moeten de grootste platformen naast hun huidige algoritme, een algoritme aanbieden dat niet is gebaseerd op profilering (jouw online gedrag). Dan kan je denken aan een chronologische volgorde (zoals nu ook al –met moeite– mogelijk is op Insta). Ik ben heel benieuwd wat TikTok gaat doen, want met de miljarden video's die daar per seconde worden geüpload is chronologisch onmogelijk. Het kan de goede kant op gaan, maar je kan ook voorstellen dat het alternatief "de aller-extreemste video's" gaat zijn –want het is nog steeds een commerciële tech-tijger die er achter zit. We hopen dat ze kiezen voor een mensvriendelijker alternatief. Het is in ieder geval heel goed dat mensen straks meer keuze hebben". Over DSA hebben we al eerder in onze podcast uitgebreid gesproken.Luiter hier de podcast over de DSA terug.Wil je op de hoogte blijven van al ons werk rondom platformen, abonneer je dan op onze nieuwsbrief.Lotje in je inbox via deze link.

We bellen met...

We bellen met Rami IsmailDe website van Rami Ismail., game-developer en activist voor diversiteit en inclusiviteit in de game-development scene. Hij deelt zijn reflecties op hoe er in de digitale wereld wordt omgegaan met taal. Denk bijvoorbeeld aan hoe zoekmachines indexeren, maar ook aan ogenschijnlijk simpele handelingen zoals het kopiëren en plakken van tekst tussen verschillende programma's. De focus op Engels en het Latijnse alfabet sluit volgens Rami mensen uit en betekent ook dat heel veel informatie nauwelijks ontsloten wordt aan het mondiale publiek. Rami zet zich in om inclusiviteit te bevorderen door bijvoorbeeld zijn evenement GameDev.WorldMeer over GameDev.World. in acht talen te laten vertalen.

Volg ons op de voet!

Let op! Nu volgen linkjes naar Big Tech!

Volg jij Bits of Freedom al? Bijvoorbeeld op Twitter, Instagram of LinkedIn?
De podcast vind je in jouw favoriete podcastapp. Bijvoorbeeld op Spotify of Apple Podcasts.

Wil je niks te maken hebben met Big Tech? Abonneer je dan gewoon op onze nieuwsbrief: