“Ik zie de opkomst van AI ook als een kans om het onderwijs weer terug te humaniseren”

Naar aanleiding van mijn opinie in de Volkskrant over het gebruik van antiplagiaatsoftware in de context van AI ben ik binnen mijn faculteit bij de Hogeschool van Amsterdam geïnterviewd door Joyce Wijhenke. Dit is het resultaat.

Antiplagiaatsoftware

‘Docenten moeten stoppen met het gebruik van software om het werk van studenten te controleren op plagiaat. Daar zijn vooral degenen die de taal minder goed beheersen de dupe van. Wees liever creatief om te kijken wat ze hebben geleerd’ sub-kopt het opiniestuk in de Volkskrant. Heldere, maar ook kritische taal van docent-onderzoeker Hans de Zwart, die zich zorgen maakt. “Ja, ik maak me zorgen. Ik merk dat veel studenten gebruikmaken van ChatGPT voor het maken van opdrachten. En ik denk dat ze dat vaker doen dan veel docenten zich realiseren. Ik merk dat veel van mijn onderwijs, en de manier waarop ik studenten toets, niet meer werkt in de context van ChatGPT. Dat betekent dat ik mijn onderwijs aan het herzien ben en moet bedenken hoe ik het zo kan inrichten dat ik weer op een valide manier kan controleren wat studenten hebben geleerd.

Daarnaast maak ik me er zorgen over dat zoveel onderwijsinstellingen nog steeds antiplagiaatsoftware gebruiken. Zelf weiger ik dit omdat ik geen relatie met de studenten wil hebben die is gebaseerd op wantrouwen. Het is daarnaast onmogelijk om met technologie te bepalen of iets met AI is gemaakt of niet. Voorheen namen studenten ergens iets over en deden alsof ze dat zelf hadden geschreven, maar nu leveren ze met AI geheel nieuwe teksten aan, die nergens anders te vinden zijn. En er zijn ook tools op de markt die een inschatting maken of iets met AI is gemaakt, maar het blijft een soort kansberekening. Ik vind dat problematisch en wat mij betreft kan er op die manier dus niet worden gecontroleerd. Het verbaast mij dat er onderwijsinstellingen zijn die blind met dit soort tools werken. Of dat binnen de HvA ook wordt gedaan weet ik niet zeker, daar heb ik nog geen transparante discussie over gezien.”

Meer werk voor docenten

In zijn opiniestuk schetst Hans de huidige situatie: ‘studenten weten ChatGPT inmiddels goed in te zetten, en docenten proberen al jaren met antiplagiaatsoftware erachter te komen of studenten hun ingeleverde werk zelf hebben geschreven; en nu dan ook met AI-detectie, die helaas niet altijd helemaal goed zit.’ Maar hoe moet het dan wel? “Als docenten moeten we ons onderwijs herontwerpen, en dat is veel werk. De ironie is dat we het idee hebben dat AI werk van ons kan overnemen. Ons kan helpen ons werk efficiënter te doen waardoor we hetzelfde werk met minder mensen kunnen uitvoeren. Maar op dit moment levert AI elke docent alleen maar meer werk op. Onderschat niet hoeveel onderwijs moet worden aangepast door de komst van AI. Stel je voor: voorheen deden studenten zelf een programmeeropdracht; nu kan AI dat in 2 minuten voor ze doen. Je moet dus op een andere manier gaan controleren of studenten snappen wat programmeren is. Bovendien gaat het hele beroep van programmeur veranderen door AI, evenals het werkveld. Wat gaat er veranderen en welke skills horen daarbij? Dat heeft mij gedwongen om na te denken over wat studenten moeten kennen en kunnen; het is een soort spiegel geweest voor wat ik aan het doen was.

Een ander voorbeeld: ik geef een filosofie vak op de Business-faculteit. Ik heb daar studenten die zeggen: ‘ik kan deze hele opleiding met ChatGPT doen; ik hoef helemaal niets meer zelf te doen’. Ik denk dat daar zeker een kern van waarheid in zit. Je kan met weinig moeite veel studiepunten halen. Ik liet de studenten altijd een essay schrijven waarmee ik ze op een filosofische manier echt over iets kon laten nadenken. Nu is een essay daar niet meer de juiste vorm voor, want ze kunnen met ChatGPT die opdracht in 5 minuten maken. Weliswaar niet met een top-essay als resultaat, maar wel goed genoeg voor een voldoende. Ik heb die specifieke opdracht moeten veranderen om de studenten echt te laten nadenken en een goed idee te krijgen van wat ze allemaal kunnen. Zo moet het nu om een hele concrete zaak gaan, ze moeten een stakeholder interviewen en ook de transcriptie daarvan inleveren. Daarnaast moeten ze relevante literatuur opzoeken en dat relateren aan de case. En uiteindelijk moeten ze een reflectie doen. Allemaal zaken waar ChatGPT niet heel goed in is. En dit is nog maar één voorbeeld van wat er allemaal moet worden aangepast. Er ligt echt een enorme opgave! Het zou al helpen als we meer onze kennis met elkaar zouden delen en een en ander gezamenlijk zouden oppakken.”

Veelheid aan strategieën

Ook de minor ‘Het internet is stuk, maar we gaan het repareren’ moet eraan geloven. “Ik ben niet meer tevreden over de validiteit van de assessment van de minor en als team hebben we besloten dat we het volgend jaar anders gaan doen. We hadden een portfolio-beoordeling zonder mondeling, maar die gaan we er nu wel bijdoen om de validiteit van het eindcijfer dat de student krijgt te verhogen.” Maar, ook een mondeling heeft nadelen, weet Hans. “Zo is niet iedere student verbaal even vaardig. Je zult dus eigenlijk een veelheid aan strategieën moeten inzetten, want hoe meer verschillende tools je inzet hoe meer validiteit je beoordeling heeft. Een collega filosoof aan de UvA heeft naar aanleiding van de opkomst van AI weer het klassikale tentamen ingevoerd, waarbij je met een pen aan een tafeltje dingen moet schrijven. Daar wil ik niet per se heen. We zijn bij de HvA al veel aan het bewegen richting formatief evalueren tijdens het leerproces. Dus het is ook voor mij een uitnodiging om als docent dichter op de student te gaan zitten en elke student beter in beeld te hebben. Ik zie de opkomst van AI ook als een kans om het onderwijs weer terug te humaniseren. Weg van het fabrieksdenken met grootschalige toetsen. Terug naar docenten die samen met studenten problemen proberen op te lossen.”

Progressieve en scherpere keuzes

“Laten we een discussie voeren, zeker in tijden van bezuinigingen, over of we ons onderwijsgeld willen weggeven aan de grote Amerikaanse bedrijven met hun antiplagiaatsoftware. In de context van bezuinigingen, in de context van hoe we met studenten om willen gaan en in de context van de matig werkende software – die zelfs slechter werkt als Nederlands of Engels niet je eerste taal is, wat dus ook nog eens discriminerend is – vind ik dat we die software weg moeten doen. Ik snap dat sommige opleidingen daar niet klaar voor zijn, maar ik hoop dat de HvA daar progressieve en scherpe keuzes in durft te maken. Overal binnen de HvA zijn docenten die dit op een slimme en creatieve manier aan het oplossen zijn. Dus hoe zorg je ervoor dat die manieren worden gedeeld ? Als instituut hebben we een cultuur waarin onderwijs heel belangrijk is, waarin we investeren, waar goed en serieus over zaken wordt nagedacht. Een cultuur dus die kansrijk is om hiermee goed om te gaan. Ik denk dat we kunnen proberen om meer urgentie te creëren over hoe we hier snel mee aan de slag kunnen gaan.

Het worden echt zware jaren voor HvA-docenten, er moet ongelooflijk veel onderwijs worden aangepast. Er wordt aangenomen dat je continu je onderwijs doorontwikkelt, maar dat gebeurt normaal gesproken niet met déze intensiteit. Door de hele HvA heen passen docenten nu noodgedwongen in hun eigen tijd hun onderwijs aan. En het is belangrijk dat we dat op de een of andere manier in beeld krijgen, faciliteren en ondersteunen, maar wel op een manier die niet ten koste gaat van de hoeveelheid tijd die we per student hebben.”

Het internet lijkt op een vliegveld. Kunnen we er een bibliotheek van maken?

Internetpionier Ethan Zuckerman zat begin 2018 in zak en as over de staat van het internet. Na de Brexit, de verkiezing van Trump en het Cambridge Analytica-schandaal was de maatschappij klaar met het web. Zuckerman had één hoop om het internet weer gezond te krijgen: de Europese publieke omroepen. Geïnspireerd door Zuckerman schreef Geert-Jan Bogaerts (Hoofd Innovatie en Digitale Media bij de VPRO) op Tweede Paasdag 2018 een eerste versie van het PublicSpaces Manifest met daarin vijf belangrijke principes: open, transparant, verantwoordelijk, soeverein en de gebruiker centraal.

Vijf jaar later is PublicSpaces uitgegroeid tot een coalitie van tientallen publieke organisaties die samen werken aan een “een alternatief software-ecosysteem dat het publieke belang vertegenwoordigt en geen winstoogmerk heeft.” Eind juni organiseerde PublicSpaces de derde editie van hun conferentie in Pakhuis de Zwijger in Amsterdam, en ik was erbij. Ik zag tijdens de conferentie twee grote thema’s:

Inclusieve technologie: het gebrek en de noodzaak

Het PublicSpaces Manifest mist een aantal waarden die op dit moment uiterst relevant zijn. Denk aan duurzaamheid of aan gelijke behandeling. Eén van de sessies ging dan ook over welke waarden er toegevoegd zouden moeten worden aan het manifest.

Het PublicSpaces Manifest mist een aantal waarden die op dit moment uiterst relevant zijn. Denk aan duurzaamheid of aan gelijke behandeling. Eén van de sessies ging dan ook over welke waarden er toegevoegd zouden moeten worden aan het manifest.

Die sessie was een logisch vervolg op het verhaal van Ruha Benjamin, auteur van Race After Technology. In haar keynote maakte ze duidelijk dat een heel klein, niet-representatief deel van de mensheid verantwoordelijk is voor onze digitale wereld. Daardoor zitten we volgens haar gevangen in de verbeelding van een ander. Bovendien zijn de standaardinstellingen van onze technologie niet voor iedereen geschikt.

Ze gebruikte hostile architecture als metafoor. Denk daarbij aan bankjes die gemaakt zijn zodat daklozen er niet op kunnen liggen. Kunstenaar Fabian Brunsing verbeeldt de huidige situatie prachtig met zijn bankje waar je vijftig cent in moet gooien om te kunnen zitten.

Vier foto's van hetzelfde bankje waar spikes uitkomen als je niet geld in het bijbehorende apparaatje gooit.
De Pay & Sit bank van Fabian Brunsing, beeld © Fabian Brunsing

In het aansluitende panel over publieke waarden en kunstmatige intelligentie (AI) werd duidelijk hoe de blik van een klein groepje mensen ons perspectief kan vertroebelen. Zo vindt onderzoeker Michele Murgia dat er binnen de hype over kunstmatige intelligentie (AI) buitensporig veel aandacht is voor de toekomstige existentiële risico’s ervan. De grote gevaren zijn ondertussen te weinig in beeld. Denk aan de impact van AI op arbeidsomstandigheden, het klimaat, racisme en sexisme. Hij bouwt daarom een language model vanuit publieke waarden om de productiemiddelen rondom AI democratiseren.

Europa moet investeren in de digitale publieke ruimte

In het panel Investing in the digital commons werd duidelijk dat dit een uitgelezen moment is voor Europa om te investeren in digitale publieke infrastructuur. Simona de Heer is politiek assistent van Europarlementariër Kim van Sparrentak. Zij legde uit dat het gehele Europese politieke spectrum het er over eens kan zijn dat het problematisch is dat big tech de infrastructuur maakt waar wij afhankelijk van zijn. Daarnaast is het niet langer en vogue om de publieke sector zo klein mogelijk te houden (zie bijvoorbeeld de Europese liefde voor Mariana Mazzucato). Volgens De Heer verdient een weerbare maatschappij een sterke publieke sector, eentje die zijn eigen infrastructuur bouwt.

Marleen Stikker (oprichter van Waag Futurelab) sluit zich daarbij aan. Volgens haar heeft de overheid afgelopen jaren heel veel geïnvesteerd in de private sector en in zichzelf, terwijl er eigenlijk geen geld is gegaan naar het digitale publieke domein. Hoog tijd om dit te veranderen. Volgens Stikker heb je overal waar data ontstaat een data commons strategie nodig: een strategie om te zorgen dat die data voor iedereen waardevol kunnen zijn. Als overheid moet je bereid zijn daarbij publiek-civiele (in plaats van publiek-private) samenwerkingen aan te gaan.

Hoe moet zo’n digitale publieke ruimte er dan uit zien? Dat besprak Eli Pariser – bekend van het idee van de filter bubble – in de afsluitende keynote. Met zijn stichting New Public onderzoekt en verkent hij wat er nodig is om digitale publieke ruimtes te maken die voor een breder publiek aantrekkelijk kunnen zijn (lees vooral hun onderzoek).

Voor elke publieke ruimte heb je volgens Pariser drie dingen nodig: er moet iets gebouwd zijn (in het digitale domein zijn dat ‘code ’ en ‘design ’), er moet iets geprogrammeerd worden (de inhoud, datgene wat er te doen is) en je hebt eigenaarschap nodig (mensen die zorgen dat het op een prettige manier blijft werken). Die laatste noemt hij ‘stewards’. Volgens Pariser hebben we te weinig aandacht voor het programma en voor de stewards. Mensen moeten de publieke ruimte vormgeven, het liefst op een democratische manier.

Waarom ik dit interessant vind

Het internet begint steeds meer te lijken op een vliegveld: overal tracking, advertenties en surveillance, met een captive audience. Zelf kan ik heel slecht tegen dit soort volledig commerciële ruimtes. Daarom ben ik fan van de bibliotheek, “het paleis voor het volk”. Het is één van de weinige plekken waar je nog gewoon binnen kan lopen zonder dat je iets hoeft te kopen. Ik mis de digitale equivalent. Eerder betoogde ik daarom al dat we moeten investeren in digitale sociale infrastructuur.

Dit is ook de reden waarom ik met een team van docenten van de Hogeschool van Amsterdam en met Marleen Stikker en Waag Futurelab een nieuwe minor heb ontworpen: Het internet is stuk, maar we gaan het repareren.

De uitdaging is daarbij om aan de hand van het denken over de publick stack nieuwe sociale digitale infrastructuur te ontwerpen die democratisch, inclusief en duurzaam is. Doe en denk je mee?

Deze tekst verscheen eerder als Recast nieuwsbrief.

Wees niet bang om je account te deleten als social media je een eikel maakt

Op 6 januari 2019 ben ik voorgoed gestopt met Twitter. Dat was niet alleen maar omdat ik er genoeg van had om als brandstof te dienen voor een surveillance kapitalistisch verdienmodel. Nee, ik vond vooral dat ik moest stoppen met Twitter omdat het platform de allerslechtste kant van mezelf naar boven bracht. Ik ben doorgaans een hele rustige jongen. De mensen die mij boos hebben gezien zijn op één hand te tellen. Mijn bijnaam is “natural born buddha”. Mindfulness komt me aangewaaid. Maar het lukte Twitter keer op keer om een soort woede-machine van me te maken.

Het verliep altijd volgens hetzelfde patroon: Bits of Freedom – de stichting waar ik op dat moment directeur van was – plaatste een tweet met een kritisch perspectief op technologie in de context van mensenrechten. Vervolgens kwam er dan een willekeurige trol langs die zijn (yup, het waren altijd mannen) ongefundeerde en vaak onzinnige mening als antwoord op onze tweet gaf. Omdat dit antwoord nu direct onder onze tweet stond, en ook nog eens voor al onze volgers zichtbaar was, voelde me ik me genoodzaakt om deze spuit elf van repliek te dienen. Ik wilde hem dan in 280 tekens het liefst helemaal kapot schrijven. Mijn collega’s keken me daarna soms wat meewarig aan. Ging het wel goed met me? Dat had die persoon nou ook weer niet verdiend toch?

Deze dynamiek was me natuurlijk al wel opgevallen. En ik had ook allang begrepen dat de op viraliteit gerichte ontwerpkeuzes van Twitter – de retweet optie, de beperkte hoeveelheid tekens per tweet, het gebrek aan gemeenschap en aan context, en de mogelijkheid om elke tweet te zien en daarop te antwoorden – mijn onprettige gedrag in de hand werkte. Maar pas na het lezen van Jaron Lanier’s Ten Arguments for Deleting Your Social Media Accounts Right Now had ik de juiste woorden voor dit probleem. In dat boek is hij duidelijk: “social media is making you into an asshole”.

Lanier heeft een vermoeden over waarom je van sociale media een klootzak wordt. Hij is ervan overtuigd dat we diep in onze menselijke persoonlijkheid een schakelaar hebben die in twee standen kan staan. We lijken daarin op wolven: we kunnen in een solitaire stand of in een roedel stand. In de solitaire stand zijn we vrijer. We moeten wel iets voorzichtiger zijn, maar kunnen in deze stand voor onszelf denken, improviseren en mooie dingen maken. Op ‘standje roedel’ raken we volgens hem geobsedeerd door hiërarchie en de pikorde. We trappen omlaag en likken omhoog. We zien anderen niet meer als individu maar delen ze op in twee groepen: vriend of vijand. Groepsdenken ligt op de loer. En daarmee dus gedrag dat je alleen zult vertonen als je je gesterkt voelt door die groep van gelijkgestemden.

Die roedel stand is funest voor de publieke sfeer. Autoritair denken is bijvoorbeeld geworteld in de roedel. Collectieve processen, zoals onze democratie, werken paradoxaal genoeg het beste als iedereen als individu voor zichzelf denkt, in de solitaire stand dus. Volgens Lanier zetten sociale media platforms zoals Twitter, Facebook, Instagram en YouTube onze schakelaar in de roedel stand. Dit komt volgens hem omdat die platforms ons totaal op elkaar gericht maken in plaats van dat we als individu geconfronteerd worden met een realiteit die groter is dan onszelf.

Al deze platforms kapitaliseren onze beperkte aandacht. Ze verdienen meer geld naarmate we meer tijd bij ze besteden. En dat hoeft helaas geen quality time te zijn. Hun maatstaf voor succes is nooit de mate waarin ze de publieke sfeer gezond houden. Nee, hun growth hackers zijn echt alleen maar geïnteresseerd in meer gebruikers die langer blijven plakken.

Voor dit soort platforms is het feit dat Twitter-president Trump eigenhandig haatvolle online discussies weet te scheppen, dat meer Facebook gebruik leidt tot meer vreemdelingenhaat, of dat er onder een Facebook livestream van een protest tegen Zwarte Piet duizenden afgrijselijke racistische en seksistische reacties worden geplaatst, niets anders dan de collateral damage van hun ambitie om ongeacht de maatschappelijke consequenties zo snel mogelijk zo veel mogelijk geld te verdienen. Online haat is daarmee dus één van de onvermijdelijke uitkomsten van hoe we op dit moment ons informatie-ecosysteem ingericht hebben.

Dit hoeft niet zo te zijn. Het is wel degelijk mogelijk om platforms te ontwerpen waarin de gebruikers niet in de roedel stand gezet worden en waar we wel op een duurzame manier kennis met elkaar kunnen delen, elkaar kunnen steunen, en zelfs een gezonde politiek kunnen bedrijven. Maar dan moeten we die platforms wel zo ontwerpen dat ze succesvoller zijn naarmate ze ons beter mensen maken.

Voor nu kun jij alvast het advies van Lanier opvolgen: als je een nare kant van jezelf ontdekt bij het gebruik van een online platform, als je er onzeker van wordt, of als je merkt dat je iemand neer wilt halen, dan is vertrekken bij het platform eigenlijk de enige verstandige optie. Dat heb ik begin 2019 dus bij Twitter gedaan. Ik ben er oprecht een beter mens van geworden.

Dit artikel verscheen voor het eerst op 4 november 2020 bij Lilith.

How The Dude Was Duped By Big Tech

A website with The Big Lebowski quotes was blocked for no reason by Facebook. Looking for justice at a tech company that has automated the enforcement of its rules. Written by Reinier Kist.

Cult film The Big Lebowski (1998, directed by the Coen Brothers) tells the story of The Dude: a former hippie minding his own business, who falls prey to powers that are bigger than himself. The Dude happily fills his days bowling, smoking joints, bathing and drinking White Russians. But the easy life of this Californian Oblomov — on flip flops, wearing a bath robe, and brilliantly portrayed by Jeff Bridges — is roughly upended one day when two thugs kick in his door, threaten him, and pee on his rug. That act drags The Dude into a plot full of misunderstandings and colorful characters. An at the end, after his weird adventures, it turns out that all of it — spoiler alert — was for nothing.

This story is not about The Big Lebowski, but about thebiglebow.ski, a search engine for quotes from the film. A film which, more than 20 years after being released, still has a large number of loyal fans. Like The Dude in the film, the website and its founder Hans de Zwart became beholden to bigger powers. And just as in the film, the whole plot turns out to be based on a misunderstanding. But before that becomes clear, De Zwart has to go on a monthslong odyssey full of frustration and wondrous twists and turns.

Abusive?

The story begins when thebiglebow.ski is blocked by Facebook. Hans de Zwart, like The Dude a former activist who is taking it easy, has launched the site in the middle of May. The former director of dutch digital rights organization Bits of Freedom is a fan of The Big Lebowski. He has noticed that there isn’t a good search engine for quotes from the film. “Even though about every single sentence from the script is eminently quotable,” says De Zwart. So he builds the search engine in a week, including the possibility to share the quote on social media.

This is where Facebook says: no. Users who want to share their favorite quotes on the social network get the following message: “Your message couldn’t be sent because it includes content that other people on Facebook have reported as abusive.” Facebook subsidiary Instagram also blocks the site. Who has reported him? And Why? These questions put De Zwart on a search for justice.

All the dude ever wanted… was his rug back…

De Zwart wants to complain to Facebook, but that is only possible if he has a Facebook account. As a digital rights activist he doesn’t participate in social media, mainly because he doesn’t want to add to the surveillance economy. Still, he decides to create an account.

He immediately gets angry at Facebook messing up his name. The company changes his name to ‘Hans De Zwart’, with a capitalized D. A small annoyance, but for De Zwart it signifies something bigger: “It is the arrogance of a giant American corporation which considers the correct spelling of the names of millions of Dutch people an edge case.”

Then it turns out that Facebook doesn’t see De Zwart’s complaint as a complaint, but as an “experience”. The chance that Facebook will look at it is small. At the top of the complaint form is the following message: “While we aren’t able to review individual reports, the feedback you provide will help us improve the ways we keep Facebook safe.” When he hands in his complaint he gets a message: “Thank you for your experience.”

After a few weeks of waiting, it becomes clear to De Zwart that no one at Facebook will look at his complaint. He still has no idea what part of his website is “abusive” and why he is being blocked.

Automated decisions

Facebook and Instagram have grown into essential communication platforms with billions of people sharing information and news. And for many (online) businesses these sites are the only way to reach their customers. That is why it is important that the information on Facebook and its subsidiaries find their way to users in a transparant and honest way. And that there is an equitable complaints procedure for people whose website has been blocked for whatever reason.

The power of the large internet platforms, and the responsibility that comes with that power, was the subject of a historical antitrust hearing at the US House of Representatives this year. Being a digital rights activist, De Zwart knows this discussion very well, so he starts to meticulously log his attempts to get clarity.

Don't run away from this dude! Goddamnit, this affects all of us! Our basic freedoms.

Halfway June, De Zwart tries to buy a Facebook ad for his website. He has read that Facebook might be willing to listen to your complaints if you are spending advertising dollars with the company. He creates a completely innocent advertisement and pays 5 euro to distribute it to the users of the network.

The advert is rejected, “this ad contains or refers to content that has been blocked by our security systems (#1885260)”, notes Facebook. De Zwart has no idea what the error code means and to complain about this, he first needs to agree to four sets of legal terms. Which he does, without reading them. But after reporting the problem, he again gets no indication whether Facebook is planning to do anything with his complaint. “Thanks for helping us improve!” is the happy message from the platform.

Writing in his log book he notes that he now has another problem: “I want my 5 euro back, but I can’t find any way of doing that.”

He thinks about just letting it all go. Of course he doesn’t really care about the 5 euro, it is the principle that matters. All the while he is clicking himself into an RSI injury, trying to keep all the settings on his Facebook account as privacy friendly as possible.

This whole fucking thing—I could be sitting here with just pee-stains on my rug.

Why does he worry himself so much over this? De Zwart sees “the arbitrary (not to say totalitarian) decisions of the company” as a serious limitation on our freedoms, he emails to the author of this article. Especially since so many people have become very dependent on Facebook.

He considers the block to be “ridiculously disproportional”. Pages of the website which evidently don’t violate any of the ‘community standards’ and also don’t have any potential copyright issues, can’t be shared either. De Zwart doesn’t understand why it is completely impossible to get some form of due process at Facebook. He believes that there should be a working complaints procedure for website owners. A procedure that can also be used by people who don’t have a Facebook account.

Prophetic words

“It appears that Facebook will only look at problems if they realize that it might cost them too much political or media capital if they continue to ignore them”, writes De Zwart at the end of his email.

These words turn out to be prophetic. A few days after the author of this article presents the case to a Facebook PR person, the problem is solved. Nobody had reported his website for “abusive” material — just like the film revolves around a kidnapping incident that has never taken place. The website has all this time been incorrectly labelled “by our automated tools” as spam, according to the spokesperson. “Our apologies for the inconvenience.”

Thebiglebow.ski can now be shared without limitations on Facebook: a bittersweet victory. “If this can happen to me, then I should assume that this happens to (tens or hundreds of) thousands of other people too”, according to De Zwart.

The end of the film is similarly bittersweet. The dude has an even nicer rug, but loses a friend. Hans de Zwart still hasn’t gotten his 5 euro back.

This article was written by Reinier Kist and originally appeared in Dutch in NRC on August 3rd, 2020. It was translated into English by Hans de Zwart.

Would you like to live in a world where you are constantly driving next to a police car?

Foto van een politieauto van Ramon Vasconcellos, CC-BY-SA 2.0

The Belgian gadget blog Bloovi interviewed me about the current state of privacy. Bloovi and Mischa Verheijden (the interviewer) were kind enough to allow me to publish the Dutch text of the full interview. You can find the original here.

Don’t run away from this. This affects all of us!

‘Don’t run away from this, Dude! Goddamnit, this affects all of us! Our basic freedoms! – Fighting for digital rights @bitsoffreedom’, schrijft Hans de Zwart in zijn Twitter-bio.

De Zwart (lachend): “Het is een citaat uit mijn favoriete film The Big Lebowski. Mensen die de film goed kennen, herkennen die zin meteen en voor andere mensen is het wel iets dat op mijn werk slaat. Een mix van ironie en serieus.”

Ik heb de film gezien, uiteraard, maar had de zin niet herkend en ga daarom met de privacystrijder verder op hoe de zin op zijn werk slaat. Waarom is het nodig te zeggen dat mensen niet van je moeten weglopen. Het is ook herkenbaar op Bloovi: als we naar de cijfers kijken, valt het op dat artikels over privacy minder vaak worden gelezen. Willen mensen het niet horen, begrijpen ze het niet, interesseert het ze niet?

Privacyproblematiek lijkt in een zekere zin op de klimaatproblematiek

De Zwart: “Ik denk dat een aantal karakteristieken van de privacy-problematiek ervoor zorgt dat het voor mensen moeilijk is zich daarin te verplaatsen of er zich echt zorgen over te maken en een handelingsperspectief te krijgen. In die zin lijkt het op de klimaatproblematiek.

Wat je merkt, is dat op het moment dat je privacy heel concreet maakt en er ook een handelingsperspectief is mensen het superbelangrijk vinden. Als wij een blogpost schrijven over de manier waarop Windows 10 zonder het jou te vragen allemaal data van je kaapt, is dat een moment waarop mensen ineens wel luisteren en actie ondernemen. Het is aan ons om de problematiek zo te vertalen dat mensen er actief op worden.

Het heeft voor een deel ook te maken met een gebrek aan verbeeldingskracht en een geprivilegieerde positie: als jij je geen zorgen over je privacy hoeft te maken, betekent dat dat je waarschijnlijk niet werkzoekend bent, dat je geen vluchteling bent, dat je niet een stalkende ex hebt, dat je geen psychiater, dokter of journalist bent. Dan kun je het je veroorloven om er niet over na te denken en daar moet je blij mee zijn.”

Zonder privacy geen ik

Toch is De Zwart ervan overtuigd dat privacy ons allemaal aangaat en om onze basisvrijheden gaat: “Wellicht is het zo dat het moeilijk is, wel denk ik dat deze problemen steeds urgenter worden. Omdat er zoveel data door de maatschappij vloeien, zie je dat men op steeds meer plekken algoritmisch, op basis van data, beslissingen neemt, voorspellingen doet en inschattingen maakt. Wij zijn early to the party: wij maken ons nu al druk over iets waar zich in de toekomst iedereen druk over zal gaan maken.”

“Privacy is een moeilijk concept,” zegt De Zwart. “Het gaat over het vermogen om zelf in controle te zijn over wat je wel en niet deelt over jezelf. En dus ook de mogelijkheid hebben je even terug te trekken in de privésfeer en daarmee je eigen ik te definiëren. Zonder privacy is er geen ik.”

Kortetermijnkansen beter in beeld dan langetermijnrisico’s

“Als je mij vraagt hoe het komt dat grote groepen mensen het geen enkel probleem vinden dat we door het bedrijfsleven permanent gesurveilleerd worden,” gaat hij verder, “Dat elk nummer dat je afspeelt op Spotify, dat elk boek dat je leest bij Amazon, elke video die je kijkt op Netflix en YouTube, elke zoekopdracht in een zoekmachine ergens wordt opgeslagen, dan zeg ik dat we dat hebben geaccepteerd, omdat we gemak zo prettig vinden.

We hebben kortetermijnkansen gewoon veel beter in beeld, dan langetermijnrisico’s. Net zoals het voor ons veel makkelijker is om bang, dan moedig te zijn. Veruit het grootste gedeelte van ons evolutionair bestaan was het vooral handig dat we niet al te lang nadenken als er iets ergs gebeurt, maar gewoon zo snel mogelijk wegrennen. Om die angstreflex dan tegenover het belang van een vrije democratische rechtstaat te zetten, is best veel gevraagd voor onze oude breinen.

De reden waarom de overheid absurd veel bevoegdheden aan zichzelf toe-eigent en steeds verder het privédomein indringt, is omdat we bang blijven.

Maar een mooie metafoor van Bruce Schneier is dat als we niet oppassen de consequentie is dat we dan in een wereld komen te leven waarin je permanent het gevoel hebt dat je naast een politieauto rijdt.

Ik herken dat heel erg, als ik naast een politieauto rij, dan voel ik me ongemakkelijk, dan check ik toch even of ik mijn gordel wel aan heb en of ik niet vijf kilometer te hard rij. Dat is ook niet het moment waarop je even iets geks gaat doen.

En een van de dingen die we volgens mij collectief onderschatten, is het effect van continu geobserveerd te worden. We weten dat we ons heel anders gedragen als we bekeken worden en dat is heel beperkend voor onze creativiteit en de manier waarop we in het leven staan. Het zet echt druk op de sociale integriteit van de maatschappij.”

Kloof data-haves en data-have nots

Wat er volgens De Zwart aan het gebeuren is, is dat de kloof tussen de data-haves (overheden en grote bedrijven) en de data-have nots (burgers) groeit: “Zij die de data, en dus de informatie, in handen hebben, bepalen de bandbreedte van wat je kunt doen in de publieke ruimte en überhaupt qua gedrag. Die relatie is op dit moment heel asymmetrisch, omdat al die data voornamelijk terechtkomt bij een paar grote bedrijven in Silicon Valley en die bedrijven zijn het toegangsportaal voor de overheid om bij die data te komen en wij als burger kunnen dat niet.

Waar het eigenlijk normaal zou zijn dat de overheid en het bedrijfsleven transparant zijn en wij als burgers en consumenten privé kunnen zijn, komen we dus langzaamaan in een omgekeerde wereld te leven.

“Je wordt op allerlei manieren gedwongen of verleid om maar zoveel mogelijk data in te leveren, omdat dat de best mogelijke dienstverlening zou opleveren, terwijl die dienstverlening zelf totaal niet transparant is in de manier waarop zij zelf haar beslissingen neemt.”

Smart cities: smart voor wie?

Vanuit die kloof gezien is het dan nog maar de vraag of je blij moet zijn in een smart city zoals bijvoorbeeld Gent, te wonen.

De Zwart: “Ik zou daar toch wel een kritische houding tegenover aannemen. Adam Greenfield, een bekende criticaster van het smart city-denken, zegt dat het woord ‘smart’ afgrijselijk is: voor wie is het smart en waar gaat het eigenlijk over? Als je het uitpluist, dan blijkt het eigenlijk altijd te gaan over controle en dus macht. Als je er gewoon wat beter naar kijkt, blijkt het te gaan om het volgen van mensen zodat we ze beter kunnen manipuleren en beter hun gedrag kunnen voorspellen.

Maar, dan roept zich meteen de vraag op: wie zit aan het stuur en wat zijn de doelstellingen van de personen die achter het stuur zitten? Het hele idee dat voor iets zo dynamisch als een stad, een tool zou bestaan waarmee je het geoptimaliseerde Gent krijgt: iedereen weet dat je het niet op alle dimensies zo goed mogelijk kunt doen. Als je iets belangrijker maakt, gaat dat altijd ten koste van iets anders en het zou kunnen dat andere mensen juist net dat wat verloren gaat belangrijk vinden.”

Toekomst van privacy

Hans de Zwart ziet dat mensen de controle over hun data aan het teruggrijpen zijn: “Steeds meer mensen worden zich bewust van de privacyproblematiek en willen daarin bewuste keuzes maken. Daarom denk ik dat het zeker mogelijk gaat zijn om privacy te redden en in de toekomst ook in het digitale domein op een nette manier, zoals in je eigen huis, je terug te kunnen trekken en jezelf te kunnen zijn.”

Dat is ook waar Bits of Freedom zich hard voor maakt: “We willen een wereld bereiken, waarin we met elkaar kunnen communiceren zonder dat er iemand meeluistert en waar we vrij kennis met elkaar kunnen delen en elkaar kunnen informeren. Dat is geen anarchistisch perspectief waarin alles maar moet kunnen.

Wat volgens de wet niet mag, mag ook niet op internet en mensen die dingen doen die niet door de beugel kunnen, moeten vervolgd worden. Het punt is dat het internet zo werkt dat het superbelangrijk is dat we veilig met elkaar kunnen communiceren en dat je de intimiteit die daarvoor nodig is, de persoonlijke levenssfeer en de mogelijkheid om je uit te drukken op de manier die jij wilt, niet mag verzwakken.”

Image credit: Politieauto 1 by Ramon Vasconcellos, CC BY-SA.