Dit verhaal begint met de oprichting van een nieuwe Europese instantie, maar eindigt met vermoedelijk de grootste verzameling van amateurporno van Europese jongeren - aangelegd door de politie.

Nieuwe kantoorgenoot voor Europol

De Europese Commissie wil technologiebedrijven kunnen dwingen mee te kijken met de chats van hun gebruikers. Het doel is nobel: de bestrijding van seksueel misbruik van kinderen en jongeren. Maar het is misschien wel de grootste bedreiging voor vertrouwelijke communicatieLees hier over het voorstel van de Europese wetgever, waarmee vertrouwelijke communicatie op het spel gezet wordt op het internet op dit moment.

Centraal in het voorstelDit is de gortdroge tekst van het voorstel zelf staat de oprichting van een nieuwe autoriteit, het EU-centrum. Die nieuwe instantie moet hun kantoorruimte gaan delen met Europol, de samenwerking tussen de politie in elk van de lidstaten. Dat is nodig, volgens de wetgever, voor "de betere mogelijkheden voor gegevensuitwisseling" en om er voor te zorgen dat "het personeel [...] meer loopbaanmogelijkheden [heeft] zonder van standplaats te hoeven veranderen." En natuurlijk regelt de wet dat de beide instanties "elkaar van een zo volledig mogelijke toegang tot relevante informatie en informatiesystemen [...]" voorzien. In de praktijk zal de scheiding tussen de twee diensten dan ook niet meer dan een plantenbak zijn.

Context is belangrijk

Dat EU-centrum heeft als taak meldingen van materiaal van mogelijk misbruik van kinderen te filteren. Die meldingen komen van platforms als WhatsApp of Signal. Om alle berichtjes te kunnen beoordelen, gebruiken die bedrijven kunstmatige intelligentieEn als het platform fouten maakt, wordt jij ten onrechte beschuldigd. Die technologie is notoir slecht in het beoordelen van de context. Dat is belangrijk, want het delen van een intieme foto in een gesprek tussen twee minderjarigen is alleen een probleem als een van de twee dat onvrijwillig doet. Computers kunnen dat onderscheid echter bijzonder slecht maken, want die kennen de context niet.

Als de computer een bepaalde foto, video of chat aanwijst als potentieel misbruik van kinderen, kan het platform lang niet altijd goed beoordelen of er sprake is van seksueel misbruik van kinderen. Als er sprake zou kunnen zijn van misbruik moet het platform het materiaal rapporteren bij het EU-centrum. Zo'n platform zal dat al snel doen: beter te vaak dan te weinig, om publicitaire risico's te minimaliseren.

Kennelijk ongegrond

Dat EU-centrum moet vervolgens de meldingen van platformen "snel beoordelen en verwerken [...] om te bepalen of die meldingen kennelijk ongegrond zijn." Een afbeelding is alleen "kennelijk ongegrond" als er duidelijk geen sprake is van seksueel misbruik. Dat is heel duidelijk als op de foto twee bejaarden afgebeeld staan. Of als op de video een poesje water drinkt uit een bakje. Maar op veel van de foto's zal wel iets van blote huid of genitaliën staan. En als niet meteen duidelijk is dat daarbij enkel volwassenen betrokken zijn, dan zou het kunnen dat het met jongeren is. En dan zou het kunnen dat er sprake is van misbruik. En dus is het niet meer "kennelijk ongegrond".

De enige manier om dat met zekerheid te bepalen, is door de context te kennen. Maar die heeft het EU-centrum niet. En dus is zo'n beetje elke melding van een foto met naakt en jonge mensen erop, en elk gesprek dat niet overduidelijk tussen volwassenen is, niet "kennelijk ongegrond". En dus mogelijk misbruik.

Loze meldingen leiden tot last

In dat geval stuurt het centrum de foto door naar de politie van de relevante lidstaat. Is de gebruiker een Nederlandse gebruiker, dan wordt de melding dus doorgestuurd naar de Nederlandse politie. Die zal moeten onderzoeken of er écht sprake is van misbruik. De politie moet vervolgens op zoek naar de context: het verhaal achter de foto of het gesprek. Daar heeft ze opsporingsbevoegdheden voor. Ze kan dus bij het platform aankloppen, om bijvoorbeeld de gespreksgeschiedenis van de gebruiker te onderzoeken. En dan wordt duidelijk of er sprake is van misbruik. Of niet (wat vaak zo zal zijn).

De Ierse politie heeft daar ervaring mee: van de meer dan 4.000 foto's die zij vorig jaar via een Amerikaanse kinderrechtenorganisatie doorgestuurd kreeg, bleek tenminste tien procent geen kindermisbruikEen analyse van de cijfers van de Ierse politie vind je bij onze Ierse collega's van het ICCL te betreffen. Het werkelijke aantal onterechte meldingen ligt vermoedelijk veel hoger, want bij slechts 20% van de meldingen is er wél met zekerheid sprake van misbruik van kinderen. (Maar misschien nog wel veel heftiger: de politie bewaart de identificerende gegevens over alle meldingen. Alle. Dus ook van die meldingen waarvan is vastgesteld dat die niets te maken hebben met misbruik van kinderen. Je zou maar in zo'n database geregistreerd worden.)

Politie legt verzameling amateurporno aan

Over databases gesproken... Als de melding naar inschatting van het EU-centrum niet "kennelijk ongegrond" is, moet er ook een kopie van die melding naar Europol. De melding wordt dan dus over de plantenbak gegooid. Europol krijgt daarmee de beschikking over een gigantische set aan intieme foto's, video's en chat's van met name jongeren. Dat zijn stuk voor stuk intieme foto's waar in veel gevallen helemaal niets mis mee is.

Wat Europol daarmee moet doen zegt het wetsvoorstel niet. Dat zal vast wel weer iets zijn als "analyseren" en "in samenhang brengen en verrijken met andere informatie." Het voorstel bepaalt niet hoe lang Europol die foto's mag bewaren. En dat terwijl veel van die intieme foto's, video's en chat's buiten het mandaat van Europol vallen. Dat is namelijk "ernstige internationale criminaliteit en terrorisme".

Wat was het doel ook al weer?

Kortom, als dit wetsvoorstel aangenomen wordt, zijn de gevolgen desastreus. Als je als jongere je seksualiteit onderzoekt, of gewoon een fijne relatie hebt, moet je de politie vrezen. Je kunt er immers niet langer op vertrouwen dat je meest intieme gesprekken alleen tussen jou en je partner blijven.

En voor politici die nu denken: "Goed punt, we moeten een bewaartermijn toevoegen," je mist het punt. Om kinderen te beschermen is het helemaal niet nodig dat elke foto, video of chat die misschien wel op seksueel misbruik van jongeren zou kunnen wijzen, naar Europol moet. En zeker niet als het buiten hun mandaat valt. Want wat was het doel ook al weer? Kinderen en jongeren beschermen toch? Dat kunnen we veel beter doen door de positie van slachtoffers te versterken, gebruikers eenvoudiger misstanden te laten melden, de capaciteit van de zedenpolitie te vergroten, en door ervoor te zorgen dat daders gestraft worden. Niet door mee te lezen met ieders vertrouwelijke communicatie, of door Europol te laten concurreren met Pornhub.