This is the thesis I wrote for my Master of Arts in philosophy.
It can also be dowloaded as a PDF.
Introduction
As the director of an NGO advocating for digital rights I am acutely aware of the digital trail we leave behind in our daily lives. But I too am occasionally surprised when I am confronted with concrete examples of this trail. Like when I logged into my Vodafone account (my mobile telephony provider) and—buried deep down in the privacy settings—found a selected option that said: “Ik stel mijn geanonimiseerde netwerkgegevens beschikbaar voor analyse.”1 I turned the option off and contacted Vodafone to ask them what was meant by anonymized network data analysis. They cordially hosted me at their Amsterdam offices and showed me how my movement behaviour was turned into a product by one of their joint ventures, Mezuro:
Smartphones communicate continuously with broadcasting masts in the vicinity. The billions of items of data provided by these interactions are anonymized and aggregated by the mobile network operator in its own IT environment and made available to Mezuro for processing and analysis. The result is information about mobility patterns of people, as a snapshot or trend analysis, in the form of a report or in an information system.2
TNO had certified this process and confirmed that privacy was assured: Mezuro has no access into the mobility information of individual people. From their website: “While of mobility patterns is of great social value, as far as we’re concerned it is certainly not more valuable than protecting the privacy of the individual.”3
Intuitively something about Vodafone’s behavior felt wrong to me, but I found it hard to articulate why what Vodafone was doing was problematic. This thesis is an attempt to find reasons and arguments that explain my growing sense of discomfort. It will show that Vodafone’s behavior is symptomatic for our current relationship with technology: it operates at a tremendous scale, it reuses data to turn it into new products and it feels empowered to do this without checking with their customers first.
The main research question of this thesis is how the most salient aspects of our technological predicament affect both justice as fairness and freedom as non-domination.
The research consists of three parts. In the first part I will look at the current situation to understand what is going on. By taking a closer look at the emerging logic of our digitizing society I will show how mediation, accumulation and centralization shape our technological predicament. This predicament turns out to be one where technology companies have a domineering scale, where they employ a form of data-driven appropriation and where our relationship with the technology is asymmetrical and puts us at the receiving end of arbitrary control. A set of four case studies based on Google’s products and services deepens and concretizes this understanding of our technological predicament.
In the second part of the thesis I will use the normative frameworks of John Rawls’s justice as fairness and Philip Pettit’s freedom as non-domination to problematize this technological predicament. I will show how data-driven appropriation leads to injustice through a lack of equality, the abuse of the commons, and a mistaken utilitarian ethics. And I will show how the domineering scale and our asymmetrical relationship to the technology sector leads to unfreedom through our increased vulnerability to manipulation, through our dependence on philanthropy, and through the arbitrary control that technology companies exert on us.
In the third and final part I will take a short and speculative look at what should be done to get us out of this technological predicament. Is it possible to reduce the scale at which technology operates? Can we reinvigorate the commons? And how should we build equality into our technology relationships?
The Dutch National Committee for for 4 and 5 May asked fourteen Dutch citizen the following question: What is freedom? The answers to this question have been bundled in ‘Het Vrijheidsboek‘ (The Freedom Book). Because of my 2014 Godwin-lecture I too was asked to share my thoughts.
Below you’ll find the full (Dutch) text of the interview. Curious to read the other thirteen stories? Then buy the book.
We verliezen steeds meer macht over onszelf, omdat we steeds meer privacy uit handen geven. Voor Hans de Zwart, directeur van de burgerbeweging voor digitale rechten Bits of Freedom, is dat glashelder. Het is waar vrijheid volgens hem over gaat. “Wanneer zeggen we stop? Een stukje van je leven dat niet publiek is, is denk ik een voorwaarde om echt vrij te kunnen zijn. Dat kunnen we leren van de Tweede Wereldoorlog.”
Ⓒ Suzanne Liem, she photographed the fourteen interviewees.
Het valt volgens Hans de Zwart (1976) mee met het aantal beveiligingscamera’s bij hem in de buurt. “Maar het zou op termijn wel problematisch kunnen worden, als het er meer worden.” De Zwart woont in Amsterdam en zit aan de kop van zijn eettafel. In zijn woonkamer staan een paar flinke, goedgevulde boekenkasten. “Festivals mijd ik, ik lees liever een boek.” Voor 2015 was zijn doel om vijftig stuks te lezen, schreef hij op Twitter. Hij las veel filosofen: Bentham, Berlin, Foucault, Kant, Lock, De Montaigne, Rousseau en Sartre bijvoorbeeld — De Zwart studeerde filosofie (nog niet afgemaakt; hij wil weer beginnen). “Die denkers hebben mijn visie op vrijheid beïnvloed”, zegt hij desgevraagd.
Het eerste contact voor dit interview verliep via e-mail; de berichten die De Zwart stuurde waren extra beveiligd. Hij gebruikt op zijn telefoon geen standaardbesturingssysteem, dat vertrouwt hij niet. Zijn smartphone ligt op tafel, daarnaast een vel papier. Op verzoek schrijft hij een paar woorden op die voor hem betekenis geven aan het thema vrijheid. Na amper een halve minuut staan de begrippen verantwoordelijkheid, democratie, gelijkheid en privéleven op papier. “Het woord verantwoordelijkheid kwam als eerste bij mij op. Bij rechten horen ook altijd plichten, dus bij vrijheid hoort ook verantwoordelijkheid: verantwoordelijkheid nemen voor je gedrag.” Wat gelijk opvalt: het begrip privacy ontbreekt. De directeur van Bits of Freedom wijst naar het woord privéleven. “Privacy is een beetje een complex begrip, een containerbegrip. Het kan betekenen: ‘het op jezelf zijn’, of intimiteit, autonomie… Voor mij is het de kans om een privéleven te hebben: een stukje van je leven dat niet publiek is. Dat is denk ik een voorwaarde om echt vrij te kunnen zijn.”
En wat is een niet-publiek leven? “Een leven waarin je kunt bepalen wat anderen wel of niet kunnen zien. Het betekent de ruimte hebben om intieme relaties met mensen aan te kunnen gaan in een privésfeer. Bijvoorbeeld met je therapeut, met een vriend, een vriendin, zonder dat de buitenwereld meekijkt. En het betekent de ruimte hebben om alleen te kunnen zijn. Ik houd dan ook heel erg van de anonimiteit van de stad. Hier is het makkelijker dan in een dorp om echt een individu te zijn. Zo kun je het vermogen ervaren om je eigen koers te varen, beslissingen te nemen zonder steeds rekening te moeten houden met anderen. Dat is vrijheid! Echt je eigen wereld scheppen, je tot de wereld verhouden op een manier die jij verkiest.”
Primo Levi
Sinds eind 2013 is Hans de Zwart directeur van Bits of Freedom. Hij gaf hiervoor zijn functie bij Shell op, waar hij werkte als technologisch innovatie-expert. Op zijn weblog schreef hij destijds: “Ik was eigenlijk helemaal niet van plan om weg te gaan bij Shell, maar deze kans kon ik niet laten lopen.” Het was een passionele keuze: “Het is mij te doen om vrijheid. De strijd om privacy is de strijd om het behoud van vrijheden. Die link is voor mij supermakkelijk te leggen, maar ik merk dat ik het voor heel veel andere mensen explicieter moet maken.”
“Ik gebruik vaak het voorbeeld van Primo Levi, slachtoffer van de Tweede Wereldoorlog, overlever van concentratiekamp Auschwitz. Hij schrijft in Is dit een mens dat solitude (alleen zijn — red.) in het kamp voor hem kostbaarder was dan voedsel. Omdat je in het kamp compleet werd blootgesteld aan de bewaarders en medekampgenoten, had je geen gelegenheid tot privéleven. Hij schreef dat je iemand zo psychologisch stuk kunt maken. Dat kan ik mij heel goed voorstellen. Wat is de waarde van het leven als je continu onderdeel bent van een surveillanceapparaat?”
Behalve van Levi kunnen we volgens De Zwart leren van de gevolgen van de opslag van persoonlijke gegevens in het bevolkingsregister. Tijdens de Tweede Wereldoorlog kon de bezetter dankzij dat register precies te weten komen waar de Joden woonden. Op 27 maart 1943 pleegde een verzetsgroep een aanslag op het Amsterdamse register, om de Duitsers tegen te werken. “Voor mij is de opslag van persoonsgegevens toen een makkelijk te leggen parallel met de bewaarplicht van nu.”
De Amerikaanse klokkenluider Edward Snowden heeft de wereld laten zien dat we ook nu niet vrij zijn, stelt De Zwart. Maar van massaal protest is volgens hem geen sprake: “Ik heb steeds meer het gevoel dat we als kikkers zijn in water dat langzaam richting kookpunt gaat. Dat we er niet uitspringen, omdat het heel geleidelijk warmer wordt. We accepteren steeds meer inperkingen van onze vrijheden zonder dat we terugvechten. Wanneer zeggen we stop?”
Klauwen van Google
Volgens Hans de Zwart komt privacyschending grofweg van twee kanten: de overheid en het bedrijfsleven. Zo is volgens hem sprake van ‘mediatie door technologie’. Hij legt uit en kiest zijn woorden zorgvuldig. “We zijn tegenwoordig superafhankelijk van technologie die door slechts een paar grote partijen wordt gerund. Onze sociale interacties worden gemedieerd door bijvoorbeeld Facebook, WhatsApp en Gmail; onze economische interacties door PayPal en Marktplaats; onze culturele interacties door bijvoorbeeld YouTube, Netflix en Spotify. Door die derde partij verlies je als gebruiker de controle: je geeft heel persoonlijke informatie weg, die continu wordt verzameld en geanalyseerd. Daardoor kunnen patronen worden gemaakt en weet die derde partij eigenlijk meer over jou dan jij over jezelf. Voor vrijheid heb je controle nodig, macht over jezelf. En die macht geven we langzaam uit handen.”
Maar wat is nou het gevaar? “Dat je gereduceerd wordt tot een consumentenprofiel: een hoop gegevens, een commodity (handelsartikel — red.) dat uitwisselbaar is, kan worden verkocht. Partijen gebruiken jouw gegevens om gepersonaliseerde advertenties jouw kant op te sturen. En dan zullen mensen zeggen: ‘Het is toch fijn om advertenties te krijgen waar ik wat aan heb?’ Maar niemand maakt een profiel van jou om ervoor te zorgen dat jij minder geld uitgeeft. Dat is natuurlijk een totale desillusie.” Maar is het niet je eigen keuze hoe je met geld omgaat? “Natuurlijk, maar we zijn in een permanente strijd verwikkeld met de marketing van het bedrijfsleven. Je wordt puur als consument gedefinieerd.”
Google is hiervan volgens De Zwart een van de beste voorbeelden. “Het is bijna onmogelijk om informatie over jouw gedrag uit de klauwen van Google te houden. Ontzettend veel wordt vastgelegd.” Dat gebeurt volgens de privacyvoorvechter niet alleen via de bekende zoekmachine, maar ook via Gmail, besturingssysteem Android voor de mobiele telefoon, internetbrowser Chrome en Google Analytics, een systeem dat websites gebruiken om bezoekersstatistieken te verzamelen.
“Een ander risico is dat die derde partijen heel centraliserend werken. Nu al zou Google waarschijnlijk de uitslag van de Amerikaanse presidentsverkiezingen kunnen bepalen, door vrij gemakkelijk in de zoekalgoritmen dingen te veranderen waardoor bepaald nieuws bovenaan staat. En kijk naar hoe Facebook censureert. Daar kun je niets aan doen, want als je op Facebook zit, heb je je aan de terms and services van Facebook te houden. In een wereld waarin Facebook tachtig procent van de online-interactie in handen heeft, vind ik dat best wel zorgelijk. Dus data zijn niet neutraal en wie data heeft, heeft macht.”
Montessori Lyceum
Hans de Zwart heeft een duidelijke visie op vrijheid. Hoe is die ontstaan? Als eerste factor noemt hij: vrije software. “Ik ben gefascineerd door technologie en kwam zo in aanraking met free software. Dat zijn computerprogramma’s die veel vrijheid geven: je mag ze aan je buurman of buurvrouw geven, je mag ze aanpassen… Richard Stallman heeft het bedacht en er veel over geschreven; die man heeft veel invloed op mij gehad. Ik ontdekte al heel snel hoe dit soort software een katalysator kan zijn voor samenwerking in losse verbanden en hoe mooi dat is. Ik merk aan mezelf dat ik mij vrijer voel als ik vrije technologie gebruik.”
Daarnaast hebben zijn ouders zijn kijk op vrijheid beïnvloed: “Van hen heb ik zeker een moreel kader meegekregen. Dat is lastig om uit te leggen, want het is niet heel expliciet. Het was niet dat we bijvoorbeeld thuis dachten: laten we het nu eens over vrijheid van meningsuiting hebben. Mijn ouders zijn best politiek: zo was stemrecht bijzonder belangrijk voor ze. Daardoor kreeg ik mee dat vrijheid van meningsuiting belangrijk is. Er werd niet expliciet over gepraat, maar het komt terug in de manier waarop over situaties werd gesproken. Daar zat een soort moral judgement (moreel oordeel — red.) in.”
De Zwart volgde onderwijs op het Amsterdamse Montessori Lyceum. “Dat is natuurlijk een school die leerlingen verantwoordelijkheid en vrijheid geeft. Dus dat was een school waar heel veel kon. Als ik naar een reguliere school was gegaan, zou ik misschien wel anders over vrijheid hebben gedacht. Zo geef ik niet zoveel om autoriteit en dat heb ik vermoedelijk voor een groot deel te danken aan het Montessori. Je noemde iedereen bij de voornaam en het feit dat je een leerling was, betekende niet per se dat de docent gelijk had.”
Ook de verhalen die De Zwart over de Tweede Wereldoorlog heeft meegekregen, hebben zijn denken over vrijheid gevormd, vermoedt hij. “Ik heb heel veel getuigenisliteratuur gelezen: Primo Levi, Anne Frank… En mijn opa was actief in de oorlog, hij had een rol binnen het verzet, is het verhaal. Hoe het precies zit weet ik niet, maar ik heb bij hem thuis ooit wel een ploertendoder van een Duitser gevonden. Dus er is wel een keer iets gebeurd.”
De directeur van Bits of Freedom kan niet zeggen wat hem het meest heeft beïnvloed. “Je denken en handelen komt voort uit waarden en kennis en dat is een construct in permanente ontwikkeling, dus ik vind het heel lastig om te zeggen: ‘Deze denker dacht dit en dat is waarom ik nu zo denk.’ Zo is het gewoon niet. Alles wat ik meemaak heeft invloed op hoe ik de wereld beschouw.”
De Zwart heeft ook geen idee in hoeverre hij zijn vrijheidsopvattingen deelt met generatiegenoten. “Ik ben niet iemand die denkt in generaties en ik heb dus ook niet het gevoel dat ik tot een generatie behoor. Omdat ik niet zo’n hokjesdenker ben — dat heeft ook weer te maken met het belang dat ik hecht aan individualisering misschien.” En verdeel je mensen over generaties, dan gooi je dingen weg: “Ik denk dat dat reductionaire een hoge mate van kunstmatigheid heeft.”
Adaptief
Democratie, ook dat begrip schreef Hans de Zwart op en ook dit heeft voor hem alles met privacy te maken: “Privacybeperkende maatregelen zijn aantastingen van de democratische rechtsstaat. Het is heel fundamenteel: zonder privéleven kun je niet in een democratie leven. Dan heeft het woord democratie geen enkele betekenis.”
Maar als je nou niets te verbergen hebt? “Als we het hebben over privacy, dan gaat het niet alleen over jóúw situatie. Het gaat vooral om mensen in de marge, zoals activisten, asielzoekers en mensen die bij het UWV staan ingeschreven. In een samenleving waarin geen privéleven mogelijk is, zijn vooral zij kwetsbaar.”
De Zwart begint opnieuw over de Tweede Wereldoorlog: “Dat was een van de meest extreme situaties van de vorige eeuw en extreme situaties maken het belang van fundamentele waarden en rechten een stuk helderder. Dus we hebben Primo Levi nodig om ons uit te leggen hoe belangrijk een privéleven is. Dat hebben wij niet door, want we hebben het nog redelijk goed. Een vermindering van vrijheid voel je heel slecht; we zijn heel adaptief in ons gedrag.” In een lezing zei hij eerder: “Jarenlang heb ik mij als docent laten leiden door de schoolbel. De bel bepaalde hoe laat ik op kon staan en gaf aan wanneer ik kon gaan lunchen. Ik heb er al die jaren nooit last van gehad. Pas toen ik een andere baan kreeg, merkte ik opeens hoeveel invloed die schoolbel op mijn leven had en wat ik daarvoor had ingeleverd.”
Verzetsheld
Op 5 mei 2014 gaf Hans de Zwart de eerste Godwin-lezing, in het Verzetsmuseum in Amsterdam, over de link tussen het bevolkingsregister en huidige privacyschending. “Godwin is een Amerikaanse advocaat en naamgever van de wet die stelt dat naarmate een onlinediscussie langer doorgaat, de kans steeds groter wordt dat iemand de vergelijking maakt met Hitler of de nazi’s. Een ‘godwinnetje’ is een taboe, maar het is volgens mij soms juist slim om na te denken over wat er toen is gebeurd en wat we daarvan kunnen leren.”
“De les uit het bevolkingsregister is dat data die voor een bepaald doel worden verzameld, weleens voor iets heel anders kunnen worden gebruikt. Punt. Het verhaal van de Tweede Wereldoorlog is een superextreem voorbeeld, dat mensen die het privacyprobleem niet onderkennen laat zien wat de risico’s zijn. Als je vrijheid en democratie belangrijk vindt, is het niet verstandig om zo veel mogelijk gegevens van zo veel mogelijk mensen op te slaan. Door het huidige ‘veiligheidsdenken’ bestaat het idee dat we gegevens van burgers op elk moment onder handbereik moeten hebben, om zo terroristen en kindermisbruikers aan te kunnen pakken. Ik zou juist willen beargumenteren dat dataverzameling op langere termijn onveilig is. Een reëel gevolg is dat er een scheve verhouding ontstaat tussen jou als individu en de partij die al die data heeft, een situatie waarin je weinig te zeggen hebt over wat er met die gegevens gebeurt.”
Sommigen zullen misschien zeggen: “Het verhaal van de Tweede Wereldoorlog moet je hier niet voor gebruiken, niets is met de oorlog te vergelijken.” De Zwart: “Maar dan kun je het nergens voor gebruiken, ja, alleen om te waarschuwen dat het niet nog een keer moet gebeuren. Het is niet zo dat de wereld bestaat uit wel of niet in oorlog zijn. Oorlog is niet een binair iets: op allerlei niveaus spelen processen die in de oorlog ook speelden. Ik zou het zonde vinden als je de lessen die er toen geleerd zijn, niet zou gebruiken voor de huidige situatie. Dat zijn niet alleen lessen die gaan over ‘we willen geen dictator die een hele bevolkingsgroep vergast’, dat zijn ook lessen over wat democratie betekent, hoeveel vrijheid je waard is, wat belangrijke waarden zijn om in de samenleving na te streven. Het verhaal van de Tweede Wereldoorlog an sich heeft geen waarde, ja, het heeft betekenis voor de mensen die het meegemaakt hebben. Verder heeft de oorlog alleen betekenis als je het vertaalt naar het heden.” De directeur van Bits of Freedom vergeleek Edward Snowden in zijn Godwin-lezing met Gerrit van der Veen, een van de leiders van de aanslag op het bevolkingsregister. De moed en persoonlijke opoffering zijn zeker te vergelijken; ook Snowden is een verzetsheld, sprak de privacyvoorvechter destijds.
Hoop
Bits of Freedom grijpt Bevrijdingsdag aan om aandacht te vragen voor privacyschending. De organisatie is actief op het Bevrijdingsfestival in Amsterdam, in het verleden onder meer met een Bits of Freedom-checkpoint. Hans de Zwart: “Dat betekende dat bezoekers hun telefoon bij ons konden opladen en gratis wifi konden gebruiken. Maar als je op ons internet wilde, moest je wel voorwaarden accepteren. En als je die voorwaarden accepteerde, kreeg je nog meer voorwaarden, en nog meer, steeds absurder… Net zolang tot je op ‘Ik accepteer niet’ drukte. En dan werd je gefeliciteerd, kwam je in onze agenda terecht en mocht je online. Ik denk dat het belangrijk is om in het 5 mei-programma op allerlei manieren ruimte te maken voor mensen die over dit soort issues nadenken.”
Dus 5 mei gaat wat De Zwart betreft niet alleen over de bevrijding in 1945? “Nee. Anders zouden we dus allemaal vrij zijn, omdat er geen buitenlandse bezetter is. En dan gaan we dat elk jaar vieren? Bevrijding kan zelfs iets zijn op een supertriviaal niveau: het moment waarop ik de standaard geïnstalleerde troep van mijn telefoon gooide en er een besturingssysteem op zette waar ik gewoon mee kan doen wat ik wil, ook dat is bevrijding.”
Gezien vanuit het perspectief van Bits of Freedom, zou 4 mei dan misschien ook een dag kunnen zijn om aandacht te vragen voor privacyschending? “Ik vind 5 mei passender, omdat die dag uitgaat van hoop, van vooruitgang.”
