Vader post foto van badderend kind. Is dat straks verdacht?
Als het aan de Europa ligt, gaan internet-giganten grootschaals scannen op seksueel misbruik van kinderen. Dat maakt internet niet veiliger, waarschuwen Bits of Freedom en het Expertisebureau Online Kindermisbruik (EOKM).
Deze opinie, geschreven door Arda Gerkens, directeur van Expertisebureau Online Kindermisbruik (EOKM) en Bits of Freedom, verscheen op 15 december in Trouw.
Bestrijding van seksueel misbruik van kinderen en jongeren, een belangrijk onderwerp, is deze week inzet van een Tweede Kamer-debat. Bijzonder belangrijk, want kinderen en jongeren zijn enorm kwetsbaar. Op ons rust op de grote verantwoordelijkheid hen te beschermen tegen seksueel misbruik. Maar de maatregelen moeten wel effectief zijn, en duurzaam en zonder schadelijke bijeffecten.
We pleiten voor een aanpak die gericht en proportioneel is en oog heeft voor de wereld van de jongere zelf.
Helaas ligt er nu een Europees voorstel op tafel dat slachtoffers van online seksueel misbruik nauwelijks helpt, laat staan dat het misbruik zal voorkomen. Dit Europese plan moet internetbedrijven, zoals WhatsApp en Microsoft dwingen om ongericht alle berichten, apps, emails en reacties, te scannen op mogelijk kindermisbruik. Voorstanders zeggen dat dit grootschalige scannen nodig is om online seksueel kindermisbruik te bestrijden, maar ze hebben weinig oog voor de neveneffecten. Want de Europese Commissie ondermijnt met dit plan de vertrouwelijkheid van communicatie op het internet voor iedereen – inclusief internetgebruikers die ze nu juist wil beschermen.
Herkennen van context
De kunstmatige intelligentie die voor het detecteren wordt ingezet, is namelijk notoir slecht in het herkennen van context. Er is niets mis met de foto die vader maakt van zijn badderende zoontje en die hij aan zijn vrouw stuurt. Maar als diezelfde foto in een andere context wordt gebruikt, kan dat wel problematisch zijn. Om dat goed te kunnen beoordelen moet de hele conversatie rondom de foto meegenomen worden. Dat is werk voor de politie, maar met deze wetgeving wordt dat overgelaten aan internetbedrijven.
Als klap op de vuurpijl suggereert de Europese Commissie dat deze zoektochten ook in beveiligde omgevingen gedaan moeten worden, zoals WhatsApp-berichten. Daarmee verzwakken ze de veiligheid van het internet. Juist van die verzwakking maken kwaadwillenden gebruik, op zoek naar materiaal waarmee ze jongeren kunnen compromitteren.
Zijn er dan geen alternatieven om online misbruik tegen te gaan? Zeker wel.
Zijn er dan geen alternatieven om online misbruik tegen te gaan? Zeker wel. Nederlandse experts op het gebied van seksueel misbruik van kinderen komen regelmatig met aanbevelingen. De Nationaal Rapporteur Mensenhandel pleit voor een grote inzet op preventie en hulp voor slachtoffers die past bij de situatie van het kind. Het Expertisecentrum Online Kindermisbruik pleit voor het versterken van de internationale samenwerking en het Fonds Slachtofferhulp wijst op het belang van het doorbreken van het taboe, waardoor jongeren sneller hulp zullen vragen.
Natuurlijk kan technologie helpen in het schoonhouden van het internet, mits gericht ingezet. In een publiek-private samenwerking, met een goede rol van de toezichthouder en met oog voor de mensenrechten kan er veel meer bereikt worden, daar zijn vriend en vijand van het voorstel het over eens.
Camera’s in de kinderkamer
Maar die gerichtheid is ver te zoeken in het Europese voorstel. Dat voorstel is te vergelijken met een voorstel om in alle kinderkamers camera’s op te hangen om te zien of er soms kinderen mishandeld worden. Niemand zou dat proportioneel vinden, want in onze rechtsstaat handelen we op grond van concrete verdenkingen. Daarnaast heeft de Europese Commissie weinig oog voor preventie.
Dit plan ondermijnt de vertrouwelijkheid van communicatie op het internet voor iedereen.
Tijdens het Tweede Kamer-debat over misbruik zal online misbruik zeker onderwerp van gesprek zijn. Wij zijn bezorgd over de veiligheid van jongeren als de kans op het lekken van hun privéwereld groter wordt. Nederland weet door de toeslagenaffaire wat kunstmatige intelligentie kan aanrichten. We pleiten daarom voor een aanpak die gericht en proportioneel is en oog heeft voor de wereld van de jongere zelf.
Overheden moeten de rechten van hun burgers beschermen, die van slachtoffers én van onschuldige passanten. En als dat op Europees niveau mis dreigt te gaan, moet de Nederlandse overheid daar een stokje voor steken.