Welke toekomst willen we eigenlijk?

Publiceerdatum: 30 maart 2017

Wist je dat de Belastingdienst controleert of je je aangifte wel goed invult en dat doet d.m.v. van categorieën? Je valt in zo’n categorie op basis van je postcode, maar bijvoorbeeld ook door het aantal negatieve Tweets dat je stuurt. Ikzelf vond Twitter altijd een heerlijke manier om ongegeneerd mijn hart te luchten als de trein naar Enschede weer eens uren vertraging had en poes en ik in de vrieskou ergens op een station zonder overdekte wachtkamer moesten wachten. Al mijn tweets beginnen tegenwoordig met “Lieve NS..”.

Wat voor toekomst willen we? Een toekomst waarin Nerveuze Systemen ons controleren en waarin we ons klein en machteloos voelen?

Verscheidene mediakunstenaars haalden eerst hun ingenieurstitel en wilden daarna verder gaan om die o zo spannende toekomst te onderzoeken. Virtuele werelden, de beperkingen in onze menselijke percepties, het technologisch upgraden van ons lichaam. Zijn digitale analyse systemen beter en hoe houden wij daar de controle over? Echter, innovaties gaan zo snel als wij mensen aankunnen.

Kunst kan daarbij een belangrijke brug slaan. Kunst vindt nieuwe toepassingen van innovaties. Kunst bedenkt nieuwe innovaties, nog voordat ze ontstaan. Kunst zet ons aan tot nadenken of we die nieuwe innovaties wel willen. Willen we een ‘1984 toekomst’? Wie wil een app gebruiken als hij vooraf al weet dat daardoor zijn zorgverzekering omhoog gaat, of dat dit betekent dat je op een no-fly list voor Amerika wordt geplaatst?

Wat gebeurt er op het moment dat een data-analysesysteem wél hoort dat je iets zegt over een bom, maar het stuk erna waarin je vertelde dat je een grapje maakte níet opslaat? Onze data-analysesystemen zitten boordevol fouten en daar moeten we voorzichtig mee zijn. Dat zijn we niet, want het is handel.

Dagelijks zie ik op YouTube advertenties omdat Google denkt dat ik graag kinderen wil, koffie drink en ongezond eten koop. In alledrie de gevallen slaat Google de plank volledig mis. Terwijl Google toch een van de slimste data-analyse systemen ter wereld heeft. Je kunt je afvragen welke foutief over jou getrokken conclusies terecht komen bij je zorgverzekering of de overheid? En hoe bureaucratisch zijn die instituten als je de gevolgen hiervan weer recht wilt trekken?

Ik wil graag een smarte elektriciteitsmeter, smarte lichtknopjes, smarte gordijnen, een smarte stad, maar alleen als ik weet dat dit alles niet via internet verbonden is en er geen data kunnen lekken die mij in de problemen brengen. Wat als ik energie bespaar, meer warme truien draag, en de verhuurder ineens denkt dat ik nooit meer thuis ben? Of dat die data verkocht worden en in de handen komen van professionele inbrekers? Datahandel is immers een van de meest populaire handelswaar op Wallstreet. Ik Google regelmatig als de buren ziek zijn of ik iets slims voor ze kan verzinnen. Wat als Google de conclusie trekt dat ikzelf altijd ziek ben? En als ik een nieuwsitem over terrorisme interessant vind en te veel grapjes over Trump like, kom ik dan Amerika nog wel in?

Ik kom zelf overigens Amerika al jaren niet in, door ‘iets dat in mijn dossier staat’. Ik heb geen strafblad, heb nooit iets fout gedaan en geen idee wat er in dat dossier staat. De wet Freedom of Information Act beschermt mij niet. Aanvankelijk schaamde ik mij, omdat mensen misschien zouden denken dat de overheid het altijd bij het juiste eind heeft en ik dan toch wel ooit iets verkeerd zou hebben gedaan. Ik heb inmiddels een officiële verklaring van de Nederlandse Politie dat dit niet het geval is, maar toch luistert het Amerikaans Consulaat daar niet naar. Ben ik het slachtoffer geworden van verkeerde data-interpretatie?

Nieuwe ontwikkelingen zoals Predictive Policing Software zijn geen futuristische filmscenario’s meer. Ze voorspellen wanneer en waar een overtreding of misdaad gepleegd gaat worden en zelfs in plaatsen als Dordrecht wordt deze software al toegepast. In kerken wordt de gezichtsherkenningssoftware ChurchIx gebruikt. Een camera bij de ingang registreert alle bezoekers en als je eens een dienst mist, stuurt het systeem automatisch een mailtje om te vragen wanneer je weer komt, of dat meneer pastoor even bij je langs moet komen om te horen of alles goed gaat.

Wat als je een niet-standaard burger bent en analyse systemen van overheidsdata daar niet op ingericht zijn? Wat wanneer blijkt dat databases van overheden en bedrijven lek zijn en regelmatig worden gehackt? Ik wil niet dat al mijn data overal maar wordt opgeslagen. Ik wil mijn medisch dossier offline. Ik wil ook niet in een auto zitten zonder veiligheidsgordels. Die veiligheidsgordels daar moeten we nu vast over nadenken. En wel met z’n allen.

Er wordt steeds meer politieke beslissingssoftware ontwikkeld, wat gebeurt er als daar fouten in zitten? Denken we wel voldoende na over de ‘veiligheidsgordels’ of laten we dit geheel aan de ‘experts’ over? Ca. 10 jaar geleden was ik betrokken bij de actie WijVertrouwenStemcomputersNiet. Nu pas begrijpen we hoe makkelijk het is om stemcomputers te hacken.

Gratis Apps bestaan niet. Google Maps geeft geen gratis kaarten weg omdat Google zo sympathiek is, maar omdat Google geld aan ons verdient. Ze verkopen onze data door, en kunnen niet bepalen wat er daarna met die data gebeurt. Er is altijd iemand die voor ‘gratis software’ betaalt en dat is niet Google. Dat is de eindgebruiker, dat ben jij. Doordat de vliegtickets op jouw computer iets duurder worden, doordat je zorgverzekering iets omhoog gaat, etc. etc.

Als Nerveuze Systemen steeds groter worden - en wij steeds kleiner - en als alles zo ‘verstopt’ lijkt, wat kan je dan nog doen?

Via Trackography.org kan je volgen waar je data allemaal heen flitst als jij je favoriete krant leest, zoals nieuws.nl, volkskrant.nl of tctubantia.nl.

En initiatieven zoals Bits of Freedom en Tactical Tech geven mensen advies hoe ze veiliger kunnen internetten en raden via hun website alternatieve apps aan die niet je data doorverkopen: https://myshadow.org/resources. Vind je dat te ingewikkeld, dan kan je hulp krijgen, wellicht bij de lokale hackerspace of in privacy cafés die regelmatig georganiseerd worden in bijv. Enschede, Eindhoven en Nijmegen.

- geschreven door Viola van Alphen, curator van de tentoonstelling Homage to Nervous Systems en Internet of Women Things, die ons allebei laten nadenken over welke toekomst we eigenlijk willen.

Vorige blogs

5 jaar verslaafd

Ik ben verslaafd aan coderen, al 5 jaar. Het begon met een simpel idee dat ik later Subtwitter doopte. Het idee was om een klein programma te schrijven dat ondertitels van films of series omzette naar gelijkaardige tweets. Dit werkte met ondertitel bestanden. Ik was zo gepassioneerd en overtuigd door dit idee dat ik mezelf leerde programmeren en na 3 weken was […]

De kunst voor wie het gewoon is

Veel kunstenaars koesteren een wantrouwen tegen normen. “Teaching artists is like herding cats” zei een docent ooit tegen mij en dat maakt het samenstellen van een groepstentoonstelling met kunststudenten tot een leerzame uitdaging. De academie wordt bewoond door een speciaal volk: jonge kunstenaars die vol passie op zoek zijn naar een artistieke taal en boodschap. Sommigen vinden al snel een […]