Wat mag een platform doen om de verspreiding van seksueel misbruik van kinderen online tegen te gaan? Al jouw communicatie monitoren? De Europese commissie komt binnenkort met een wetsvoorstel. Wij stuurden alvast een advies over de randvoorwaarden.

Scannen tegen verspreiding

De Europese Commissie is van planLees hier meer over de plannen van de Europese Commissie om met regels te komen die "de verantwoordelijkheid van online service providers" moet vastleggen. Die providers moeten dan "seksueel misbruik van kinderen opmerken, rapporteren en verwijderen." Zij moeten dus alle uploads van gebruikers, of het nu foto's, afbeeldingen of berichtjes zijn, in de gaten houden. De Commissie lanceerde begin deze maand een routekaart en een effectbeoordelingDat zijn stappen die de Europese Commissie zet voordat ze met wet- en regelgeving komt.. De Commissie benoemt tenminste twee belangrijke ingrediënten: waar moeten providers naar zoeken en of dit wel of niet verplicht moet worden.

Twee keuzes

Wat betreft dat eerste zijn er twee smaakjes. Platformen scannen nu al lang op de uploads van bekende afbeeldingen van seksueel misbruik van kinderen. Dat doen ze door een soort van digitale vingerafdrukDat vergelijken gaat niet altijd goed, met als gevolg dat jij je account kwijt kunt raken als iemand anders je een onsmakelijke foto stuurt van een upload te vergelijken met de vingerafdrukken van bekende afbeeldingen. Als die gelijk zijn, dan weet je vrij zeker dat het hetzelfde plaatje is. In dat geval weigeren ze de upload. Veel moeilijker wordt het als zo'n platform op zoek gaat naar nog onbekende (zeg maar, "nieuwe") afbeeldingen van misbruik. Dan moet je elk plaatje en de context waarin het is geplaatst gaan beoordelen. Dat vraagt om interpretatie en is per definitie veel complexer en foutgevoeliger. Datzelfde geldt ook voor het scannen om groomingGrooming is digitaal kinderlokken, waarbij een volwassene zich voordoet als een minderjarige., want daar moet het platform de tekst in berichtjes interpreteren.

De Commissie beslist ook nog over de mate van vrijwilligheid. Gaat ze er alleen voor zorgen dat er een stevige juridische basis bestaat voor het op vrijwillige basis scannen van communicatie, om daarmee seksueel misbruik van kinderen te detecteren? Of verplicht ze platformen om te scannen op bekende afbeeldingen van misbruik? Of, nog een stap verder, verplicht ze platformen om te scannen op bekend én onbekend materiaal?

Alle opties open

De Europese Commissie houdt haar opties nog open. Samen met onze collega's van onze Europese koepelorganisatie EDRi hebben we de Europese Commissie een advies gestuurd over haar plan van aanpak.

Seksueel misbruik van kinderen is een groot probleem, daar is iedereen het over eens. Dat betekent dat het des te belangrijker is om in te zetten op maatregelen die bewezen effectief en oncontroversieel zijn. Veel effectieve maatregelen zijn waarschijnlijk juist niet of niet alleen op technologie gebaseerd. De politie komt bijvoorbeeld nu al handen te kort om alle zaken op te pakken. Meer hooi op die vork leggen, lost niets op. Meer investeren in de politie wel. Kortom, de Europese Commissie moet zich niet blindstaren op technologie.

Elke voorgestelde maatregel moet gestoeld zijn op wetenschappelijk bewijs. In het document waarmee de Commissie dit wetstraject instapt stelt bijvoorbeeld dat er de laatste tijd een "dramatic increase of reports" van afbeeldingen van seksueel misbruik van kinderen online is. Maar ze zegt niets over de oorzaak daarvan. Het kan ook zijn dat het probleemAls je niet weet wat het probleem precies is, dan gaat het moeilijk zijn om een passende oplossing te vinden. Dat is altijd zo misschien wél steeds kleiner wordt, maar dat bedrijven steeds beter worden in het detecteren of rapporteren ervan. Je moet weten welk probleem je wilt oplossen.

Een voorgestelde maatregel zou nooit mogen gaan over iets wat interpretatie vraagt, zoals bijvoorbeeld grooming. Zaken als "threatening", "luring" or "presenting a child with pornographic material" zouden nooit onderdeel mogen zijn van zulke wetgeving, omdat het betekent dat platformen ál onze communicatie, inclusief berichtjes en gesprekken, moet monitoren en interpreteren.

Help ons adviseren

De Europese Commissie is van plan om komend kwartaal een voorstel "ter consultatie aan te bieden". We zullen dan ongetwijfeld ons best doen om advies te geven op het concrete voorstel. We kunnen daar altijd hulp bij gebruiken. Als je heel erg thuis bent in de toepassing van zulke technologie, neem dan vooral even contact op. Of steun ons met een donatieEen donatie is zo geregeld!, dat helpt ook!