Op 23 november 2017 werden we uitgenodigd door V2_Lab for the Unstable Media om het onderwerp function creep te verkennen. We spraken deze column uit ter introductie van de avond.

Uit het Engels vertaald door Martijn Kleisen.

Apparaten

"Er is een compleet eco-systeem van dingen en diensten die onder de noemer 'smart home' geleverd kunnen worden zodra er een uitgebreide plattegrond van het huis door de eigenaar beschikbaar is gesteld". Dit zijn de woorden van de CEO van iRobot, Colin Angle. De plattegronden waarnaar hij verwijst zijn echter niet door bewoners verstrekt, maar zijn in kaart gebracht door de door iRobot ontwikkelde stofzuigers. We hebben het hier over de Roomba.

Mensen stonden niet te springen toen ze hoorden dat hun stofzuigers plattegronden maken van hun huizenDe dag dat je stofzuiger cartograaf bleek te zijn.. Of dat iRobot plannen en wellicht zelfs het recht heeft om deze plattegronden aan derden te verkopen. Dit is één van de vele voorbeelden waarbij onze Internet of Things-apparaten taken uitvoeren waarvan we ons niet bewust zijn – en waarvoor we geen toestemming hebben gegeven.

Je zou kunnen zeggen dat mensen moeten weten hoe de apparaten in hun huis werken. Dat ze zouden moeten begrijpen dat de simultane localisation en mapping technologie, waar de nieuw Roomba gebruik van maakt, betekent dat de gecomputeriseerde stofzuiger kaarten creëert en opslaat. Misschien vind je dat mensen de algemene voorwaarden van hun producten beter zouden moeten lezen. Maar de praktijk is dat veel van onze apparaten en onze interactie met die apparaten, opzettelijk ontworpen zijn om “nevenfuncties” voor ons te verbergen. Bovendien functioneren onze apparaten op basis van code die eigendom is van iemand anders, en die wij niet mogen inzien of wijzigen. De interfaces van onze apparaten zijn zo ontworpen dat deze intuïtief, kalm, en zonder frictie bediend kunnen worden, waardoor meer functies worden verstopt dan geopenbaard. Algemene voorwaarden zijn dusdanig opgesteld dat ze nagenoeg onleesbaar zijn. We hebben een situatie gecreëerd waarin het acceptabel wordt gevonden om vooral niet te weten wat er in onze apparaten gebeurt. Dit zijn omstandigheden waarin 'function creep' goed gedijt.

Infrastructuur

Function creep vindt ook op een veel hoger niveau plaats, namelijk in onze juridische en technische infrastructuur. Een recent voorbeeld hiervan is het onrechtmatige gebruik van onze reisgegevensSta jij als "risicostudent" te boek? Vraag om opheldering! door Translink, waarbij data van de OV-chipkaart niet alleen werd gebruikt om reizigers een optimale reiservaring te geven, maar ook werd uitgewisseld met DUO in hun zoektocht naar studenten die frauderen met de uitwonende beurs.

Één van de meest schrikbarende voorbeelden die ik ken komt uit het Verenigd Koninkrijk. In 2003 werden vreedzame activisten die wilden demonstreren nabij de jaarlijkse wapenbeurs in Londen door de politie staande gehouden, gefouilleerd en gearresteerd. Liberty, een Britse mensenrechtenorganisatie, ontdekte dat de politie zich baseerde op anti-terreur wetgeving. De specifieke wet waarop zij een beroep deden gaf de "chief constable" toestemming om in een “(niet in de wet gelimiteerd of gedefinieerd) Vrij vertaald uit On Liberty van Shami Chakrabarti. Lees verder op https://www.liberty-human-rights.org.ukaangewezen gebied mensen staande te houden en te fouilleren, zonder dat er sprake was van verdenking, maar wanneer het raadzaam zou zijn (niet eens noodzakelijk) om terrorisme te bestrijden. Geen parlementaire of juridische toestemmen was vereist.” En wat denk je? Vanaf 2001, toen de bevoegdheid van kracht werd, totdat deze in 2010 weer werd ingetrokken, was geheel Groot-Londen aangewezen als zo'n gebied. Met andere woorden: wanneer de infrastructuur er is, zij het technisch of juridisch, zal deze misbruikt worden.

Omgekeerde function creep

Nu zijn we aanbeland in het big data-tijdperk, en de belofte van big data is afhankelijk van function creep. Steeds vaker zullen we geconfronteerd worden met iets dat het beste omschreven kan worden als omgekeerde function creep. We ontwerpen systemen voor een zo breed mogelijke toepassing, en we verzamelen zo veel mogelijk data binnen zo ruim mogelijk opgezette algemene voorwaarden. We kijken toe hoe surveillance-infrastructuur wordt opgetuigd zodat adverteerders ons advertenties kunnen voorschotelen waarmee ze ons 0,0000 iets procent beter kunnen manipuleren. Het eind van dit verhaal gaat niet zijn dat adverteerders rijk worden en wij meer spullen kopen; het eind van dit verhaal gaat zijn dat het internet zo beschadigd wordt dat we ons gehinderd voelen om volledig gebruik te maken van de potentie die het internet te bieden heeft.

Vertrouwen

Want uiteindelijk ondermijnt function creep ons vertrouwen in technologie. In het jaarlijkse Global Internet ReportGlobal Internet Report 2016 onderkende de Internet Society het afgelopen jaar gebrek aan vertrouwen als grootste bedreiging voor het huidige internet. Zij schreven:

"Grootschalige data inbreuken, onzekerheid over het gebruik van onze data, cybercriminaliteit en surveillance breken het vertrouwen van gebruikers af en zijn bepalend in hoe zij het Internet gebruiken. Het slinkende vertrouwen beïnvloedt ook de manier waarop overheden naar het Internet kijken, en beinvloedt het beleidskader voor het Internet over de hele wereld.”

Recent verschenen er in de media opnieuw berichten over mensen die beweerden dat de Facebook-app op hun telefoon hen aan het afluisteren was. De geweldige podcast Reply All probeerde te bewijzen dat dit niet het geval was. Facebook heeft eenvoudigweg zo veel informatie over jou dat het onheilspellend kan aanvoelen. Het voelt alsof de enige manier dat zij bepaalde dingen kunnen weten is door 24/7 naar jou te luisteren. En dat doen ze ook… alleen niet op de manier waarop men denkt. Wat mij het meest raakte was dat zelfs wanneer mensen geconfronteerd werden met een plausibele theorie over hoe Facebook bepaalde dingen kon weten, ze het niet geloofden. Mensen hebben zo weinig vertrouwen in Facebook dat hen overtuigen dat Facebook niet iets stiekems doet onmogelijk bleek.

De meest gebruikelijke definitie van function creep is "de geleidelijke verruiming van het gebruik van een technologie of systeem tot voorbij het doel waarvoor het van origine was ontwikkeld." Echter, is het op lange termijn niet juist logischer dat function creep leidt tot geleidelijke vernauwing van het gebruik van een technologie of systeem? Zonder vertrouwen, stoppen we dan uiteindelijk niet met het verkennen en ontwikkelen van de technologie die ons zo veel te bieden heeft?

De grootste gluiperds

Ik wil eindigen met één afsluitende overweging. De definitie van function creep komt nog altijd vreemd op mij over, omdat er niets wezenlijk slechts vanuit gaat. Als we zoals eerder genoemd function creep zien als "de geleidelijke verruiming van het gebruik van een technologie of systeem tot voorbij het doel waarvoor het van origine was ontwikkeld", zou dat niet betekenen dat veel innovaties en artistieke uitingen zich ook hiervoor kwalificeren? Hackers en kunstenaars zijn immers constant bezig met het verkennen van grenzen van wat mogelijk is door bestaande middelen ter hand te nemen om deze op nieuwe manieren en in nieuwe contexten toe te passen. Er is natuurlijk één duidelijk verschil. Bij het op deze manier toepassen van function creep weten kunstenaars en hackers juist verborgen structuren en toepassingen die verweven zitten in onze apparaten en systemen te grijpen. In plaats van ze te verhullen, vestigen ze er de aandacht op. De kunstenaars die betrokken zijn bij V2's "Test_Lab" doen precies dat. Je kan hun werk ontdekken via de links hieronder.