A website with The Big Lebowski quotes was blocked for no reason by Facebook. Looking for justice at a tech company that has automated the enforcement of its rules. Written by Reinier Kist.
Cult film The Big Lebowski (1998, directed by the Coen Brothers) tells the story of The Dude: a former hippie minding his own business, who falls prey to powers that are bigger than himself. The Dude happily fills his days bowling, smoking joints, bathing and drinking White Russians. But the easy life of this Californian Oblomov — on flip flops, wearing a bath robe, and brilliantly portrayed by Jeff Bridges — is roughly upended one day when two thugs kick in his door, threaten him, and pee on his rug. That act drags The Dude into a plot full of misunderstandings and colorful characters. An at the end, after his weird adventures, it turns out that all of it — spoiler alert — was for nothing.
This story is not about The Big Lebowski, but about thebiglebow.ski, a search engine for quotes from the film. A film which, more than 20 years after being released, still has a large number of loyal fans. Like The Dude in the film, the website and its founder Hans de Zwart became beholden to bigger powers. And just as in the film, the whole plot turns out to be based on a misunderstanding. But before that becomes clear, De Zwart has to go on a monthslong odyssey full of frustration and wondrous twists and turns.
Abusive?
The story begins when thebiglebow.ski is blocked by Facebook. Hans de Zwart, like The Dude a former activist who is taking it easy, has launched the site in the middle of May. The former director of dutch digital rights organization Bits of Freedom is a fan of The Big Lebowski. He has noticed that there isn’t a good search engine for quotes from the film. “Even though about every single sentence from the script is eminently quotable,” says De Zwart. So he builds the search engine in a week, including the possibility to share the quote on social media.
This is where Facebook says: no. Users who want to share their favorite quotes on the social network get the following message: “Your message couldn’t be sent because it includes content that other people on Facebook have reported as abusive.” Facebook subsidiary Instagram also blocks the site. Who has reported him? And Why? These questions put De Zwart on a search for justice.
De Zwart wants to complain to Facebook, but that is only possible if he has a Facebook account. As a digital rights activist he doesn’t participate in social media, mainly because he doesn’t want to add to the surveillance economy. Still, he decides to create an account.
He immediately gets angry at Facebook messing up his name. The company changes his name to ‘Hans De Zwart’, with a capitalized D. A small annoyance, but for De Zwart it signifies something bigger: “It is the arrogance of a giant American corporation which considers the correct spelling of the names of millions of Dutch people an edge case.”
Then it turns out that Facebook doesn’t see De Zwart’s complaint as a complaint, but as an “experience”. The chance that Facebook will look at it is small. At the top of the complaint form is the following message: “While we aren’t able to review individual reports, the feedback you provide will help us improve the ways we keep Facebook safe.” When he hands in his complaint he gets a message: “Thank you for your experience.”
After a few weeks of waiting, it becomes clear to De Zwart that no one at Facebook will look at his complaint. He still has no idea what part of his website is “abusive” and why he is being blocked.
Automated decisions
Facebook and Instagram have grown into essential communication platforms with billions of people sharing information and news. And for many (online) businesses these sites are the only way to reach their customers. That is why it is important that the information on Facebook and its subsidiaries find their way to users in a transparant and honest way. And that there is an equitable complaints procedure for people whose website has been blocked for whatever reason.
The power of the large internet platforms, and the responsibility that comes with that power, was the subject of a historical antitrust hearing at the US House of Representatives this year. Being a digital rights activist, De Zwart knows this discussion very well, so he starts to meticulously log his attempts to get clarity.
Halfway June, De Zwart tries to buy a Facebook ad for his website. He has read that Facebook might be willing to listen to your complaints if you are spending advertising dollars with the company. He creates a completely innocent advertisement and pays 5 euro to distribute it to the users of the network.
The advert is rejected, “this ad contains or refers to content that has been blocked by our security systems (#1885260)”, notes Facebook. De Zwart has no idea what the error code means and to complain about this, he first needs to agree to four sets of legal terms. Which he does, without reading them. But after reporting the problem, he again gets no indication whether Facebook is planning to do anything with his complaint. “Thanks for helping us improve!” is the happy message from the platform.
Writing in his log book he notes that he now has another problem: “I want my 5 euro back, but I can’t find any way of doing that.”
He thinks about just letting it all go. Of course he doesn’t really care about the 5 euro, it is the principle that matters. All the while he is clicking himself into an RSI injury, trying to keep all the settings on his Facebook account as privacy friendly as possible.
Why does he worry himself so much over this? De Zwart sees “the arbitrary (not to say totalitarian) decisions of the company” as a serious limitation on our freedoms, he emails to the author of this article. Especially since so many people have become very dependent on Facebook.
He considers the block to be “ridiculously disproportional”. Pages of the website which evidently don’t violate any of the ‘community standards’ and also don’t have any potential copyright issues, can’t be shared either. De Zwart doesn’t understand why it is completely impossible to get some form of due process at Facebook. He believes that there should be a working complaints procedure for website owners. A procedure that can also be used by people who don’t have a Facebook account.
Prophetic words
“It appears that Facebook will only look at problems if they realize that it might cost them too much political or media capital if they continue to ignore them”, writes De Zwart at the end of his email.
These words turn out to be prophetic. A few days after the author of this article presents the case to a Facebook PR person, the problem is solved. Nobody had reported his website for “abusive” material — just like the film revolves around a kidnapping incident that has never taken place. The website has all this time been incorrectly labelled “by our automated tools” as spam, according to the spokesperson. “Our apologies for the inconvenience.”
Thebiglebow.ski can now be shared without limitations on Facebook: a bittersweet victory. “If this can happen to me, then I should assume that this happens to (tens or hundreds of) thousands of other people too”, according to De Zwart.
The end of the film is similarly bittersweet. The dude has an even nicer rug, but loses a friend. Hans de Zwart still hasn’t gotten his 5 euro back.
This article was written by Reinier Kist and originally appeared in Dutch in NRC on August 3rd, 2020. It was translated into English by Hans de Zwart.
The Belgian gadget blog Bloovi interviewed me about the current state of privacy. Bloovi and Mischa Verheijden (the interviewer) were kind enough to allow me to publish the Dutch text of the full interview. You can find the original here.
Don’t run away from this. This affects all of us!
‘Don’t run away from this, Dude! Goddamnit, this affects all of us! Our basic freedoms! – Fighting for digital rights @bitsoffreedom’, schrijft Hans de Zwart in zijn Twitter-bio.
De Zwart (lachend): “Het is een citaat uit mijn favoriete film The Big Lebowski. Mensen die de film goed kennen, herkennen die zin meteen en voor andere mensen is het wel iets dat op mijn werk slaat. Een mix van ironie en serieus.”
Ik heb de film gezien, uiteraard, maar had de zin niet herkend en ga daarom met de privacystrijder verder op hoe de zin op zijn werk slaat. Waarom is het nodig te zeggen dat mensen niet van je moeten weglopen. Het is ook herkenbaar op Bloovi: als we naar de cijfers kijken, valt het op dat artikels over privacy minder vaak worden gelezen. Willen mensen het niet horen, begrijpen ze het niet, interesseert het ze niet?
Privacyproblematiek lijkt in een zekere zin op de klimaatproblematiek
De Zwart: “Ik denk dat een aantal karakteristieken van de privacy-problematiek ervoor zorgt dat het voor mensen moeilijk is zich daarin te verplaatsen of er zich echt zorgen over te maken en een handelingsperspectief te krijgen. In die zin lijkt het op de klimaatproblematiek.
Wat je merkt, is dat op het moment dat je privacy heel concreet maakt en er ook een handelingsperspectief is mensen het superbelangrijk vinden. Als wij een blogpost schrijven over de manier waarop Windows 10 zonder het jou te vragen allemaal data van je kaapt, is dat een moment waarop mensen ineens wel luisteren en actie ondernemen. Het is aan ons om de problematiek zo te vertalen dat mensen er actief op worden.
Het heeft voor een deel ook te maken met een gebrek aan verbeeldingskracht en een geprivilegieerde positie: als jij je geen zorgen over je privacy hoeft te maken, betekent dat dat je waarschijnlijk niet werkzoekend bent, dat je geen vluchteling bent, dat je niet een stalkende ex hebt, dat je geen psychiater, dokter of journalist bent. Dan kun je het je veroorloven om er niet over na te denken en daar moet je blij mee zijn.”
Zonder privacy geen ik
Toch is De Zwart ervan overtuigd dat privacy ons allemaal aangaat en om onze basisvrijheden gaat: “Wellicht is het zo dat het moeilijk is, wel denk ik dat deze problemen steeds urgenter worden. Omdat er zoveel data door de maatschappij vloeien, zie je dat men op steeds meer plekken algoritmisch, op basis van data, beslissingen neemt, voorspellingen doet en inschattingen maakt. Wij zijn early to the party: wij maken ons nu al druk over iets waar zich in de toekomst iedereen druk over zal gaan maken.”
“Privacy is een moeilijk concept,” zegt De Zwart. “Het gaat over het vermogen om zelf in controle te zijn over wat je wel en niet deelt over jezelf. En dus ook de mogelijkheid hebben je even terug te trekken in de privésfeer en daarmee je eigen ik te definiëren. Zonder privacy is er geen ik.”
Kortetermijnkansen beter in beeld dan langetermijnrisico’s
“Als je mij vraagt hoe het komt dat grote groepen mensen het geen enkel probleem vinden dat we door het bedrijfsleven permanent gesurveilleerd worden,” gaat hij verder, “Dat elk nummer dat je afspeelt op Spotify, dat elk boek dat je leest bij Amazon, elke video die je kijkt op Netflix en YouTube, elke zoekopdracht in een zoekmachine ergens wordt opgeslagen, dan zeg ik dat we dat hebben geaccepteerd, omdat we gemak zo prettig vinden.
We hebben kortetermijnkansen gewoon veel beter in beeld, dan langetermijnrisico’s. Net zoals het voor ons veel makkelijker is om bang, dan moedig te zijn. Veruit het grootste gedeelte van ons evolutionair bestaan was het vooral handig dat we niet al te lang nadenken als er iets ergs gebeurt, maar gewoon zo snel mogelijk wegrennen. Om die angstreflex dan tegenover het belang van een vrije democratische rechtstaat te zetten, is best veel gevraagd voor onze oude breinen.
De reden waarom de overheid absurd veel bevoegdheden aan zichzelf toe-eigent en steeds verder het privédomein indringt, is omdat we bang blijven.
Maar een mooie metafoor van Bruce Schneier is dat als we niet oppassen de consequentie is dat we dan in een wereld komen te leven waarin je permanent het gevoel hebt dat je naast een politieauto rijdt.
Ik herken dat heel erg, als ik naast een politieauto rij, dan voel ik me ongemakkelijk, dan check ik toch even of ik mijn gordel wel aan heb en of ik niet vijf kilometer te hard rij. Dat is ook niet het moment waarop je even iets geks gaat doen.
En een van de dingen die we volgens mij collectief onderschatten, is het effect van continu geobserveerd te worden. We weten dat we ons heel anders gedragen als we bekeken worden en dat is heel beperkend voor onze creativiteit en de manier waarop we in het leven staan. Het zet echt druk op de sociale integriteit van de maatschappij.”
Kloof data-haves en data-have nots
Wat er volgens De Zwart aan het gebeuren is, is dat de kloof tussen de data-haves (overheden en grote bedrijven) en de data-have nots (burgers) groeit: “Zij die de data, en dus de informatie, in handen hebben, bepalen de bandbreedte van wat je kunt doen in de publieke ruimte en überhaupt qua gedrag. Die relatie is op dit moment heel asymmetrisch, omdat al die data voornamelijk terechtkomt bij een paar grote bedrijven in Silicon Valley en die bedrijven zijn het toegangsportaal voor de overheid om bij die data te komen en wij als burger kunnen dat niet.
Waar het eigenlijk normaal zou zijn dat de overheid en het bedrijfsleven transparant zijn en wij als burgers en consumenten privé kunnen zijn, komen we dus langzaamaan in een omgekeerde wereld te leven.
“Je wordt op allerlei manieren gedwongen of verleid om maar zoveel mogelijk data in te leveren, omdat dat de best mogelijke dienstverlening zou opleveren, terwijl die dienstverlening zelf totaal niet transparant is in de manier waarop zij zelf haar beslissingen neemt.”
Smart cities: smart voor wie?
Vanuit die kloof gezien is het dan nog maar de vraag of je blij moet zijn in een smart city zoals bijvoorbeeld Gent, te wonen.
De Zwart: “Ik zou daar toch wel een kritische houding tegenover aannemen. Adam Greenfield, een bekende criticaster van het smart city-denken, zegt dat het woord ‘smart’ afgrijselijk is: voor wie is het smart en waar gaat het eigenlijk over? Als je het uitpluist, dan blijkt het eigenlijk altijd te gaan over controle en dus macht. Als je er gewoon wat beter naar kijkt, blijkt het te gaan om het volgen van mensen zodat we ze beter kunnen manipuleren en beter hun gedrag kunnen voorspellen.
Maar, dan roept zich meteen de vraag op: wie zit aan het stuur en wat zijn de doelstellingen van de personen die achter het stuur zitten? Het hele idee dat voor iets zo dynamisch als een stad, een tool zou bestaan waarmee je het geoptimaliseerde Gent krijgt: iedereen weet dat je het niet op alle dimensies zo goed mogelijk kunt doen. Als je iets belangrijker maakt, gaat dat altijd ten koste van iets anders en het zou kunnen dat andere mensen juist net dat wat verloren gaat belangrijk vinden.”
Toekomst van privacy
Hans de Zwart ziet dat mensen de controle over hun data aan het teruggrijpen zijn: “Steeds meer mensen worden zich bewust van de privacyproblematiek en willen daarin bewuste keuzes maken. Daarom denk ik dat het zeker mogelijk gaat zijn om privacy te redden en in de toekomst ook in het digitale domein op een nette manier, zoals in je eigen huis, je terug te kunnen trekken en jezelf te kunnen zijn.”
Dat is ook waar Bits of Freedom zich hard voor maakt: “We willen een wereld bereiken, waarin we met elkaar kunnen communiceren zonder dat er iemand meeluistert en waar we vrij kennis met elkaar kunnen delen en elkaar kunnen informeren. Dat is geen anarchistisch perspectief waarin alles maar moet kunnen.
Wat volgens de wet niet mag, mag ook niet op internet en mensen die dingen doen die niet door de beugel kunnen, moeten vervolgd worden. Het punt is dat het internet zo werkt dat het superbelangrijk is dat we veilig met elkaar kunnen communiceren en dat je de intimiteit die daarvoor nodig is, de persoonlijke levenssfeer en de mogelijkheid om je uit te drukken op de manier die jij wilt, niet mag verzwakken.”
Image credit: Politieauto 1 by Ramon Vasconcellos, CC BY-SA.
Fascinating read by Sarah Jeong about what might happen if we continue to move towards a cashless society:
[Wherever] information gathers and flows, two predators follow closely behind it: censorship and surveillance. The case of digital money is no exception. Where money becomes a series of signals, it can be censored; where money becomes information, it will inform on you. [..] A cashless society promises a world of limitation, control, and surveillance—all of which the poorest Americans already have in abundance, of course. For the most vulnerable, the cashless society offers nothing substantively new, it only extends the reach of the existing paternal bureaucratic state.
She has some horrid examples of people’s and organisation’s accounts being cut off with zero due process for alleged terms-of-service-infringing behaviour.
The Dutch National Committee for for 4 and 5 May asked fourteen Dutch citizen the following question: What is freedom? The answers to this question have been bundled in ‘Het Vrijheidsboek‘ (The Freedom Book). Because of my 2014 Godwin-lecture I too was asked to share my thoughts.
Below you’ll find the full (Dutch) text of the interview. Curious to read the other thirteen stories? Then buy the book.
We verliezen steeds meer macht over onszelf, omdat we steeds meer privacy uit handen geven. Voor Hans de Zwart, directeur van de burgerbeweging voor digitale rechten Bits of Freedom, is dat glashelder. Het is waar vrijheid volgens hem over gaat. “Wanneer zeggen we stop? Een stukje van je leven dat niet publiek is, is denk ik een voorwaarde om echt vrij te kunnen zijn. Dat kunnen we leren van de Tweede Wereldoorlog.”
Ⓒ Suzanne Liem, she photographed the fourteen interviewees.
Het valt volgens Hans de Zwart (1976) mee met het aantal beveiligingscamera’s bij hem in de buurt. “Maar het zou op termijn wel problematisch kunnen worden, als het er meer worden.” De Zwart woont in Amsterdam en zit aan de kop van zijn eettafel. In zijn woonkamer staan een paar flinke, goedgevulde boekenkasten. “Festivals mijd ik, ik lees liever een boek.” Voor 2015 was zijn doel om vijftig stuks te lezen, schreef hij op Twitter. Hij las veel filosofen: Bentham, Berlin, Foucault, Kant, Lock, De Montaigne, Rousseau en Sartre bijvoorbeeld — De Zwart studeerde filosofie (nog niet afgemaakt; hij wil weer beginnen). “Die denkers hebben mijn visie op vrijheid beïnvloed”, zegt hij desgevraagd.
Het eerste contact voor dit interview verliep via e-mail; de berichten die De Zwart stuurde waren extra beveiligd. Hij gebruikt op zijn telefoon geen standaardbesturingssysteem, dat vertrouwt hij niet. Zijn smartphone ligt op tafel, daarnaast een vel papier. Op verzoek schrijft hij een paar woorden op die voor hem betekenis geven aan het thema vrijheid. Na amper een halve minuut staan de begrippen verantwoordelijkheid, democratie, gelijkheid en privéleven op papier. “Het woord verantwoordelijkheid kwam als eerste bij mij op. Bij rechten horen ook altijd plichten, dus bij vrijheid hoort ook verantwoordelijkheid: verantwoordelijkheid nemen voor je gedrag.” Wat gelijk opvalt: het begrip privacy ontbreekt. De directeur van Bits of Freedom wijst naar het woord privéleven. “Privacy is een beetje een complex begrip, een containerbegrip. Het kan betekenen: ‘het op jezelf zijn’, of intimiteit, autonomie… Voor mij is het de kans om een privéleven te hebben: een stukje van je leven dat niet publiek is. Dat is denk ik een voorwaarde om echt vrij te kunnen zijn.”
En wat is een niet-publiek leven? “Een leven waarin je kunt bepalen wat anderen wel of niet kunnen zien. Het betekent de ruimte hebben om intieme relaties met mensen aan te kunnen gaan in een privésfeer. Bijvoorbeeld met je therapeut, met een vriend, een vriendin, zonder dat de buitenwereld meekijkt. En het betekent de ruimte hebben om alleen te kunnen zijn. Ik houd dan ook heel erg van de anonimiteit van de stad. Hier is het makkelijker dan in een dorp om echt een individu te zijn. Zo kun je het vermogen ervaren om je eigen koers te varen, beslissingen te nemen zonder steeds rekening te moeten houden met anderen. Dat is vrijheid! Echt je eigen wereld scheppen, je tot de wereld verhouden op een manier die jij verkiest.”
Primo Levi
Sinds eind 2013 is Hans de Zwart directeur van Bits of Freedom. Hij gaf hiervoor zijn functie bij Shell op, waar hij werkte als technologisch innovatie-expert. Op zijn weblog schreef hij destijds: “Ik was eigenlijk helemaal niet van plan om weg te gaan bij Shell, maar deze kans kon ik niet laten lopen.” Het was een passionele keuze: “Het is mij te doen om vrijheid. De strijd om privacy is de strijd om het behoud van vrijheden. Die link is voor mij supermakkelijk te leggen, maar ik merk dat ik het voor heel veel andere mensen explicieter moet maken.”
“Ik gebruik vaak het voorbeeld van Primo Levi, slachtoffer van de Tweede Wereldoorlog, overlever van concentratiekamp Auschwitz. Hij schrijft in Is dit een mens dat solitude (alleen zijn — red.) in het kamp voor hem kostbaarder was dan voedsel. Omdat je in het kamp compleet werd blootgesteld aan de bewaarders en medekampgenoten, had je geen gelegenheid tot privéleven. Hij schreef dat je iemand zo psychologisch stuk kunt maken. Dat kan ik mij heel goed voorstellen. Wat is de waarde van het leven als je continu onderdeel bent van een surveillanceapparaat?”
Behalve van Levi kunnen we volgens De Zwart leren van de gevolgen van de opslag van persoonlijke gegevens in het bevolkingsregister. Tijdens de Tweede Wereldoorlog kon de bezetter dankzij dat register precies te weten komen waar de Joden woonden. Op 27 maart 1943 pleegde een verzetsgroep een aanslag op het Amsterdamse register, om de Duitsers tegen te werken. “Voor mij is de opslag van persoonsgegevens toen een makkelijk te leggen parallel met de bewaarplicht van nu.”
De Amerikaanse klokkenluider Edward Snowden heeft de wereld laten zien dat we ook nu niet vrij zijn, stelt De Zwart. Maar van massaal protest is volgens hem geen sprake: “Ik heb steeds meer het gevoel dat we als kikkers zijn in water dat langzaam richting kookpunt gaat. Dat we er niet uitspringen, omdat het heel geleidelijk warmer wordt. We accepteren steeds meer inperkingen van onze vrijheden zonder dat we terugvechten. Wanneer zeggen we stop?”
Klauwen van Google
Volgens Hans de Zwart komt privacyschending grofweg van twee kanten: de overheid en het bedrijfsleven. Zo is volgens hem sprake van ‘mediatie door technologie’. Hij legt uit en kiest zijn woorden zorgvuldig. “We zijn tegenwoordig superafhankelijk van technologie die door slechts een paar grote partijen wordt gerund. Onze sociale interacties worden gemedieerd door bijvoorbeeld Facebook, WhatsApp en Gmail; onze economische interacties door PayPal en Marktplaats; onze culturele interacties door bijvoorbeeld YouTube, Netflix en Spotify. Door die derde partij verlies je als gebruiker de controle: je geeft heel persoonlijke informatie weg, die continu wordt verzameld en geanalyseerd. Daardoor kunnen patronen worden gemaakt en weet die derde partij eigenlijk meer over jou dan jij over jezelf. Voor vrijheid heb je controle nodig, macht over jezelf. En die macht geven we langzaam uit handen.”
Maar wat is nou het gevaar? “Dat je gereduceerd wordt tot een consumentenprofiel: een hoop gegevens, een commodity (handelsartikel — red.) dat uitwisselbaar is, kan worden verkocht. Partijen gebruiken jouw gegevens om gepersonaliseerde advertenties jouw kant op te sturen. En dan zullen mensen zeggen: ‘Het is toch fijn om advertenties te krijgen waar ik wat aan heb?’ Maar niemand maakt een profiel van jou om ervoor te zorgen dat jij minder geld uitgeeft. Dat is natuurlijk een totale desillusie.” Maar is het niet je eigen keuze hoe je met geld omgaat? “Natuurlijk, maar we zijn in een permanente strijd verwikkeld met de marketing van het bedrijfsleven. Je wordt puur als consument gedefinieerd.”
Google is hiervan volgens De Zwart een van de beste voorbeelden. “Het is bijna onmogelijk om informatie over jouw gedrag uit de klauwen van Google te houden. Ontzettend veel wordt vastgelegd.” Dat gebeurt volgens de privacyvoorvechter niet alleen via de bekende zoekmachine, maar ook via Gmail, besturingssysteem Android voor de mobiele telefoon, internetbrowser Chrome en Google Analytics, een systeem dat websites gebruiken om bezoekersstatistieken te verzamelen.
“Een ander risico is dat die derde partijen heel centraliserend werken. Nu al zou Google waarschijnlijk de uitslag van de Amerikaanse presidentsverkiezingen kunnen bepalen, door vrij gemakkelijk in de zoekalgoritmen dingen te veranderen waardoor bepaald nieuws bovenaan staat. En kijk naar hoe Facebook censureert. Daar kun je niets aan doen, want als je op Facebook zit, heb je je aan de terms and services van Facebook te houden. In een wereld waarin Facebook tachtig procent van de online-interactie in handen heeft, vind ik dat best wel zorgelijk. Dus data zijn niet neutraal en wie data heeft, heeft macht.”
Montessori Lyceum
Hans de Zwart heeft een duidelijke visie op vrijheid. Hoe is die ontstaan? Als eerste factor noemt hij: vrije software. “Ik ben gefascineerd door technologie en kwam zo in aanraking met free software. Dat zijn computerprogramma’s die veel vrijheid geven: je mag ze aan je buurman of buurvrouw geven, je mag ze aanpassen… Richard Stallman heeft het bedacht en er veel over geschreven; die man heeft veel invloed op mij gehad. Ik ontdekte al heel snel hoe dit soort software een katalysator kan zijn voor samenwerking in losse verbanden en hoe mooi dat is. Ik merk aan mezelf dat ik mij vrijer voel als ik vrije technologie gebruik.”
Daarnaast hebben zijn ouders zijn kijk op vrijheid beïnvloed: “Van hen heb ik zeker een moreel kader meegekregen. Dat is lastig om uit te leggen, want het is niet heel expliciet. Het was niet dat we bijvoorbeeld thuis dachten: laten we het nu eens over vrijheid van meningsuiting hebben. Mijn ouders zijn best politiek: zo was stemrecht bijzonder belangrijk voor ze. Daardoor kreeg ik mee dat vrijheid van meningsuiting belangrijk is. Er werd niet expliciet over gepraat, maar het komt terug in de manier waarop over situaties werd gesproken. Daar zat een soort moral judgement (moreel oordeel — red.) in.”
De Zwart volgde onderwijs op het Amsterdamse Montessori Lyceum. “Dat is natuurlijk een school die leerlingen verantwoordelijkheid en vrijheid geeft. Dus dat was een school waar heel veel kon. Als ik naar een reguliere school was gegaan, zou ik misschien wel anders over vrijheid hebben gedacht. Zo geef ik niet zoveel om autoriteit en dat heb ik vermoedelijk voor een groot deel te danken aan het Montessori. Je noemde iedereen bij de voornaam en het feit dat je een leerling was, betekende niet per se dat de docent gelijk had.”
Ook de verhalen die De Zwart over de Tweede Wereldoorlog heeft meegekregen, hebben zijn denken over vrijheid gevormd, vermoedt hij. “Ik heb heel veel getuigenisliteratuur gelezen: Primo Levi, Anne Frank… En mijn opa was actief in de oorlog, hij had een rol binnen het verzet, is het verhaal. Hoe het precies zit weet ik niet, maar ik heb bij hem thuis ooit wel een ploertendoder van een Duitser gevonden. Dus er is wel een keer iets gebeurd.”
De directeur van Bits of Freedom kan niet zeggen wat hem het meest heeft beïnvloed. “Je denken en handelen komt voort uit waarden en kennis en dat is een construct in permanente ontwikkeling, dus ik vind het heel lastig om te zeggen: ‘Deze denker dacht dit en dat is waarom ik nu zo denk.’ Zo is het gewoon niet. Alles wat ik meemaak heeft invloed op hoe ik de wereld beschouw.”
De Zwart heeft ook geen idee in hoeverre hij zijn vrijheidsopvattingen deelt met generatiegenoten. “Ik ben niet iemand die denkt in generaties en ik heb dus ook niet het gevoel dat ik tot een generatie behoor. Omdat ik niet zo’n hokjesdenker ben — dat heeft ook weer te maken met het belang dat ik hecht aan individualisering misschien.” En verdeel je mensen over generaties, dan gooi je dingen weg: “Ik denk dat dat reductionaire een hoge mate van kunstmatigheid heeft.”
Adaptief
Democratie, ook dat begrip schreef Hans de Zwart op en ook dit heeft voor hem alles met privacy te maken: “Privacybeperkende maatregelen zijn aantastingen van de democratische rechtsstaat. Het is heel fundamenteel: zonder privéleven kun je niet in een democratie leven. Dan heeft het woord democratie geen enkele betekenis.”
Maar als je nou niets te verbergen hebt? “Als we het hebben over privacy, dan gaat het niet alleen over jóúw situatie. Het gaat vooral om mensen in de marge, zoals activisten, asielzoekers en mensen die bij het UWV staan ingeschreven. In een samenleving waarin geen privéleven mogelijk is, zijn vooral zij kwetsbaar.”
De Zwart begint opnieuw over de Tweede Wereldoorlog: “Dat was een van de meest extreme situaties van de vorige eeuw en extreme situaties maken het belang van fundamentele waarden en rechten een stuk helderder. Dus we hebben Primo Levi nodig om ons uit te leggen hoe belangrijk een privéleven is. Dat hebben wij niet door, want we hebben het nog redelijk goed. Een vermindering van vrijheid voel je heel slecht; we zijn heel adaptief in ons gedrag.” In een lezing zei hij eerder: “Jarenlang heb ik mij als docent laten leiden door de schoolbel. De bel bepaalde hoe laat ik op kon staan en gaf aan wanneer ik kon gaan lunchen. Ik heb er al die jaren nooit last van gehad. Pas toen ik een andere baan kreeg, merkte ik opeens hoeveel invloed die schoolbel op mijn leven had en wat ik daarvoor had ingeleverd.”
Verzetsheld
Op 5 mei 2014 gaf Hans de Zwart de eerste Godwin-lezing, in het Verzetsmuseum in Amsterdam, over de link tussen het bevolkingsregister en huidige privacyschending. “Godwin is een Amerikaanse advocaat en naamgever van de wet die stelt dat naarmate een onlinediscussie langer doorgaat, de kans steeds groter wordt dat iemand de vergelijking maakt met Hitler of de nazi’s. Een ‘godwinnetje’ is een taboe, maar het is volgens mij soms juist slim om na te denken over wat er toen is gebeurd en wat we daarvan kunnen leren.”
“De les uit het bevolkingsregister is dat data die voor een bepaald doel worden verzameld, weleens voor iets heel anders kunnen worden gebruikt. Punt. Het verhaal van de Tweede Wereldoorlog is een superextreem voorbeeld, dat mensen die het privacyprobleem niet onderkennen laat zien wat de risico’s zijn. Als je vrijheid en democratie belangrijk vindt, is het niet verstandig om zo veel mogelijk gegevens van zo veel mogelijk mensen op te slaan. Door het huidige ‘veiligheidsdenken’ bestaat het idee dat we gegevens van burgers op elk moment onder handbereik moeten hebben, om zo terroristen en kindermisbruikers aan te kunnen pakken. Ik zou juist willen beargumenteren dat dataverzameling op langere termijn onveilig is. Een reëel gevolg is dat er een scheve verhouding ontstaat tussen jou als individu en de partij die al die data heeft, een situatie waarin je weinig te zeggen hebt over wat er met die gegevens gebeurt.”
Sommigen zullen misschien zeggen: “Het verhaal van de Tweede Wereldoorlog moet je hier niet voor gebruiken, niets is met de oorlog te vergelijken.” De Zwart: “Maar dan kun je het nergens voor gebruiken, ja, alleen om te waarschuwen dat het niet nog een keer moet gebeuren. Het is niet zo dat de wereld bestaat uit wel of niet in oorlog zijn. Oorlog is niet een binair iets: op allerlei niveaus spelen processen die in de oorlog ook speelden. Ik zou het zonde vinden als je de lessen die er toen geleerd zijn, niet zou gebruiken voor de huidige situatie. Dat zijn niet alleen lessen die gaan over ‘we willen geen dictator die een hele bevolkingsgroep vergast’, dat zijn ook lessen over wat democratie betekent, hoeveel vrijheid je waard is, wat belangrijke waarden zijn om in de samenleving na te streven. Het verhaal van de Tweede Wereldoorlog an sich heeft geen waarde, ja, het heeft betekenis voor de mensen die het meegemaakt hebben. Verder heeft de oorlog alleen betekenis als je het vertaalt naar het heden.” De directeur van Bits of Freedom vergeleek Edward Snowden in zijn Godwin-lezing met Gerrit van der Veen, een van de leiders van de aanslag op het bevolkingsregister. De moed en persoonlijke opoffering zijn zeker te vergelijken; ook Snowden is een verzetsheld, sprak de privacyvoorvechter destijds.
Hoop
Bits of Freedom grijpt Bevrijdingsdag aan om aandacht te vragen voor privacyschending. De organisatie is actief op het Bevrijdingsfestival in Amsterdam, in het verleden onder meer met een Bits of Freedom-checkpoint. Hans de Zwart: “Dat betekende dat bezoekers hun telefoon bij ons konden opladen en gratis wifi konden gebruiken. Maar als je op ons internet wilde, moest je wel voorwaarden accepteren. En als je die voorwaarden accepteerde, kreeg je nog meer voorwaarden, en nog meer, steeds absurder… Net zolang tot je op ‘Ik accepteer niet’ drukte. En dan werd je gefeliciteerd, kwam je in onze agenda terecht en mocht je online. Ik denk dat het belangrijk is om in het 5 mei-programma op allerlei manieren ruimte te maken voor mensen die over dit soort issues nadenken.”
Dus 5 mei gaat wat De Zwart betreft niet alleen over de bevrijding in 1945? “Nee. Anders zouden we dus allemaal vrij zijn, omdat er geen buitenlandse bezetter is. En dan gaan we dat elk jaar vieren? Bevrijding kan zelfs iets zijn op een supertriviaal niveau: het moment waarop ik de standaard geïnstalleerde troep van mijn telefoon gooide en er een besturingssysteem op zette waar ik gewoon mee kan doen wat ik wil, ook dat is bevrijding.”
Gezien vanuit het perspectief van Bits of Freedom, zou 4 mei dan misschien ook een dag kunnen zijn om aandacht te vragen voor privacyschending? “Ik vind 5 mei passender, omdat die dag uitgaat van hoop, van vooruitgang.”
I should be more precise: Facebook enables marketing to a strictly ‘white affinity’ only adience.
Doug Neil of Universal Pictures and Facebook’s Jim Underwood presented Big Box Office: Marketing Films in a Mobile World at SxSW a few weeks back. They promised the audience that they would get to hear about “the best approaches for mobile marketing: how a monster hit like Jurassic World benefited from mobile-friendly content delivered to a mass audience while genre films benefit from insights into audience segments ranging from multi-cultural to multi-generational.”
In the session Neil explained how the movie Straight Outta Compton was an unexpected breakout hit. According to Business Insider he credited segmenting the audience into three parts: the “general population” (meaning non-African-American and non-Hispanic), African-Americans and Hispanics:
Neil credited part of this to a specialized Facebook marketing effort led by Universal’s “multicultural team” in conjunction with its Facebook team. They created tailored trailers for different segments of the population.
Why? The “general population” (non-African American, non-Hispanic) wasn’t familiar with N.W.A., or with the musical catalog of Ice Cube and Dr. Dre, according to Neil. They connected to Ice Cube as an actor and Dr. Dre as the face of Beats, he said. The trailer marketed to them on Facebook had no mention of N.W.A., but sold the movie as a story of the rise of Ice Cube and Dr. Dre.
The trailer marketed to African Americans was completely different. Universal assumed this segment of the population had a baseline familiarity with N.W.A. “They put Compton on the map,” Neil said. This trailer opens with the word N.W.A. and continues to lean on it heavily throughout.
As to the trailer produced for the Hispanic market, it was a shorter spot that included flashing quotes in Spanish.
Let’s sidestep the fact that Hollywood still seems to think that “black” movies have a hard time being successful. And let’s ignore how tone-deaf these two gentlemen are when it comes to the current situation around race in Hollywood (think #OscarsSoWhite or the upsetting story of Nina Simone’s botched biopic). Instead, let’s look at what this really is:
Racial profiling enabled by Facebook’s data lust
Facebook was quick to explain that they are not identifying their audience as being black. Instead they are merely assessing your affinity with black culture, or as they would call it: whether you “like African-American content”. They promise they won’t make that assessment on the basis of your photos (although surely their research lab must be working on some form of “fracial recognition” system), your name or census data. Instead they’ll look at what you ‘like’ and read online. In simple Facebook-algorithmic terms: if you watch BET and post #BlackLivesMatter links, then we can tell our advertiser you probably know N.W.A. well and don’t need to see the whitewashed trailer.
Some people can’t see what is wrong with a bit of personalisation and are happy that this movie has managed to find a big audience. But they are missing the bigger picture.
Facebook has this type of affinity data on most of its close to 1.6 billion(!) monthly active users. We now have a commercial company building a massive world-scale database that enables anybody with access to that data to slice up the population in whatever way they might find convenient.
Looking for strictly white patronage for your Airbnb? Facebook can help you with that.
Only want millionaires on your dating site? Show some ads to Facebook users from the “rich affinity” group.
Desperate to sell your cancer medication? Facebook can get you a set of people who have ‘liked’ cancer.
Need a list of all the people with Kurdish affinity? Facebook is ready for you!
Jews? Muslims? Facebook can now personalise their experience too…
After initially enabling ‘Web 2.0’, Facebook is now enabling segregation 2.0. I mean, what could go wrong?
