Omdat iemand anders je een onsmakelijke foto stuurt raak jij de toegang tot je online accounts kwijt. En daarmee al je foto's of je administratie. Ver gezocht? Nee, zeker niet.

Op andermans computer

Wie maakt er nog geen gebruik van de cloud? De volger van Bits of Freedom is waarschijnlijk wat terughoudender, maar veel mensen maken gebruik van een cloud zoals die van Microsoft. En dat is ook niet gek, want zo'n dienst kan ontzettend handig zijn. Met een enkel account heb je een plek voor al je bestanden (OneDrive), kun je met elkaar chatten en videobellen (Skype), mailen (Outlook), vergaderen (Teams), samenwerken (Office365) en een spelletje spelen (Xbox). Met OneDrive kun je al je bestanden op je telefoon of je laptop automatisch synchroniseren naar de cloud. Raak je je laptop kwijt, dan heeft Microsoft een kopie van je bestanden. Is je telefoon vol, dan haal je daarop bestanden weg, maar laat je ze in de cloud staan. Maar omdat de cloud niets anders is dan iemand anders' computer, moet je die ander ook maar op de blauwe ogen vertrouwen.

Verbannen van je online accounts

Wist je bijvoorbeeld dat Microsoft elk plaatje dat je op hun computers zet bekijkt? Microsoft scant alle bestanden"A technology that aids in finding and removing known images of child exploitation" van gebruikers en vergelijkt ze met al bekende afbeeldingen van seksueel misbruik van kinderen. Als een foto herkend wordt, kan de gebruiker per direct en voor altijd verbannen worden van het gebruik van Microsofts systemen. Maar - verrassing - dat systeem werkt niet altijd zoals het bedacht is. Met vergaande consequenties"Het zou een minder grote impact op mijn dagelijkse leven hebben als mij de toegang tot alle stadsparken in Limburg zou worden ontzegd.". Zo ontving een Nederlander eerder dit jaar via WhatsApp van iemand een grappig bedoelde foto met op de achtergrond twee blote kinderen. Zijn telefoon stond zo ingesteld dat die foto's automatisch werden gekopieerd naar Microsofts' computers. Die scande ook deze foto, markeerde de foto als seksueel misbruik van kinderen en blokkeerden vervolgens direct het account van de gebruiker. Die kon opeens niet meer bij zijn bestanden, maar ook niet meer bij Skype of Office 365. Pas tijdens een kort gedingHet CDA stelde vandaag een motie voor dat tot meer transparantie moet leiden dat gebruiker tegen Microsoft aanspande, werd duidelijk wat de reden was van de verbanning.

Afhankelijkheid ingebouwd

Waarom dit allemaal zo ontzettend belangrijk is? Het laat maar weer eens zien hoe afhankelijk we onszelf gemaakt hebben van een paar dominantie technologiebedrijven. En omdat we niets meer kunnen doen zonder de tussenkomst van die bedrijven, zijn we ook afhankelijk van hun grillen. Als zo'n bedrijf het nodig vind om al je foto's te bekijken, dan kan dat. Of als je iets doet dat het bedrijf onacceptabel acht, kan het zijn dat je van het ene op het andere moment niets meer in je account kan en je volledig onthand bent. Daar ben je immers als gebruiker mee "akkoord" gegaan toen je die ellenlange en onleesbare algemene voorwaarden accepteerde. Maar er is nóg een reden waarom dit ontzettend actueel is.

Scannen op grooming

Dat Microsoft mee mag kijken met elke afbeelding die je naar hun computers kopieert, is omdat daar in de Europese regels ruimte voor is. Microsoft mag dit nu nog gewoon doen, maar niet lang meer. Door een andere wijziging in de regels wordt dit per 21 december illegaal. Goede ontwikkeling, zou je zeggen. Maar zo ziet de Europese Commissie het niet. Die wil namelijk graag dat Microsoft kan blijven meekijken. Zij deed daarom een voorstel voor een wetInterim Regulation on the processing of personal and other data for the purpose of combatting child sexual abuse die de huidige praktijk ook na 21 december legaal moet houden. En met het voorstel wil de Europese CommissieHet Europees Parlement lijkt ook een voorstander te zijn die ruimte zelfs nog uitbreiden. Ze wil er namelijk ook voor zorgen dat aanbieders als Microsoft mogen zoeken naar grooming. Dat is digitaal kinderlokkenGrooming is strafbaar, waarbij een volwassene zich voordoet als een minderjarige. Om dat te kunnen detecteren, zouden bedrijven als Microsoft naast onze foto's, ook onze teksten moeten scannen.

Context begrijpen

En dat gaat natuurlijk veel te ver. Het betekent dat deze bedrijven al onze gesprekken gaan meelezen. Ook als er geen enkele verdenking van een strafbaar feit is. Bedrijven als Microsoft hebben niets te maken met onze chats. Los daarvan is het ook om meer praktische redenen problematisch. Technisch gezien kun je namelijk met een grote mate van zekerheid foto's met elkaar vergelijken - hoewel bovenstaand voorbeeld laat zien dat dat ook niet zonder fouten is. Maar bij tekst is dat nog veel lastiger. Je hebt daar, anders dan bij die foto's, geen bestaand vergelijkingsmateriaal dat één op één gelijk moet zijn. Bij het analyseren van tekst moet je gaan interpreteren. De context begrijpen. En daarmee nemen we met de introductie van dit soort technologie nog veel meer risico's. Waar het bij het vergelijken van foto's al af en toe fout gaat, zal dat met de interpretatie van teksten alleen maar nog vaker gebeuren.

Samen met onze Europese collega's proberen we dit voorstel van tafel te krijgen.