De Europese Commissie werkt aan een wetsvoorstel dat platformen verplicht om mee te kijken met al jouw chats. Samen met onze Europese collega's deden we uit de doeken waar zo'n wetsvoorstel aan moet voldoen.

Grote impact

Iedereen is eensgezind: het is belangrijk om de verspreiding van materiaal met seksueel misbruik van kinderen tegen te gaan. Het feitelijke misbruik is al schokkend, maar de verspreiding van foto's en filmpjes daarvan verlengt en vergroot de impact van het misbruik alleen maar. Daar moet iets aan gedaan worden, daar is iedereen het over eens. Daarom werkt de Europese Commissie aan een wetsvoorstel dat platformen verplicht om mee te kijken met al jouw chatsFilteren op bekend materiaal, maar ook op onbekend materiaal en grooming. Want, zo is de gedachte, dan zou je misschien de verspreiding kunnen inperken of voorkomen.

Vertrouwelijke communicatie

Maar een overheid die bedrijven dwingt om mee te kijken met je privégesprekken, dat heeft veel consequenties. Het maakt dat jij misschien niet meer vrij voelt om bepaalde foto's te delen, ook als die helemaal oké zijn. Omdat je niet zeker weet wie er allemaal meekijkt. Of omdat je misschien ten onrechte als misbruiker wordt aangemerkt. Dat is geen ondenkbaar scenario, want de gebruikte filters werken alles behalve feilloosHoe je verbannen kunt worden naar Siberië als iemand je een foto stuurt. Het gaat soms al mis bij het filteren op "bekende afbeeldingen van misbruik".

Maar mogelijk wil de Europese Commissie ook dat bedrijven op zoek gaan naar onbekende (zeg maar, "nieuwe") afbeeldingen van misbruik of teksten waarin "digitaal gekinderlokt" wordt. De kans op fouten is dan alleen maar nog veel groter. Ook (of misschien wel juist!) voor slachtoffers is het belangrijk om te kunnen rekenen op de vertrouwelijkheid van hun communicatie.

Nieuwe wetgeving in de maak

Wat het voorstel van de Europese Commissie precies behelst weten we dus nog niet. De ambtenaren van de Commissie die we hierover spraken hielden hun lippen stijf op elkaar. Maar de verantwoordelijk Commissioner laat via haar blog wél van zich horenLees hier hoe Johansson trots vertelt over haar trip naar Sylicon Valley. Ze is er "meer dan ooit" van overtuigd dat "regulering dringend nodig is om om materiaal met seksueel misbruik van kinderen op te merken en verwijderen." Ze wil bedrijven dwingen "hun technologische capaciteiten in te zetten."

Samen met onze Europese collega's publiceren we daarom vandaag een lijst van tien uitgangspunten waaraan zo'n voorstel zou moeten voldoen. Enkele van de punten die we maken:

• Zo'n wetsvoorstel mag nooit leiden tot het meekijken met de privé-communicatie van zo'n beetje iedereen. Meekijken moet alleen mogelijk zijn als er een specifieke en concrete verdenking bestaat tegen een individu. En ook dan alleen met allerlei waarborgen.
• De maatregelen mogen encryptie niet ondermijnen. Want juist end to end-encryptie is een van de weinige betrouwbare middelen waarmee zeker kunnen weten dat alleen jij als afzender en de door jou beoogde ontvanger je berichtje kunnen lezen.
• De ingezette technologie moet controleerbaar en effectief zijn. Het is dus belangrijk dat ook nagedacht wordt over onafhankelijke toezicht, dat, bijvoorbeeld, iets kan zeggen over de effectiviteit van de technologie.

Te belangrijk om te falen

De strijd tegen seksueel misbruik van kinderen is ontzettend belangrijk. Zo belangrijk dat het essentieel is om in te zetten op niet-controversiële en bovenal bewezen effectieve maatregelen. Blind staren op technologische oplossingen is niet de juiste richting. De Europese Commissie moet juist inzetten op maatregelen die zoveel mogelijk voorkomen dat dit soort materiaal wordt gemaakt en er voor zorgen dat slachtoffers goed geholpen worden.

Wanneer het voorstel gepubliceerd wordt weten we nog niet. Wij zijn er in ieder geval scherp op.