ChatGPT heeft de manier waarop studenten werken nu al compleet veranderd. De software om te checken op plagiaat werkt daardoor niet meer en discrimineert studenten die de taal minder goed spreken. Docenten moeten stoppen met het gebruik van die software en in plaats daarvan hun onderwijs aanpassen.
Dit is het eerste studiejaar waarin echt élke afstuderende student heeft gehoord van ChatGPT. Studenten maken steeds vaker schaamteloos gebruik van “Chat”, zoals zij het noemen, om hun schrijfwerk nagenoeg volledig door AI te laten maken.
Dat lijkt misschien verschrikkelijk. Maar het inzetten van antiplagiaatsoftware om dit ‘probleem’ te voorkomen is precies wat het onderwijs niet moet doen.
Onderwijsinstellingen gebruiken al jaren software om te controleren of studenten hun ingeleverde werk wel zelf hebben gemaakt. Die software checkt op plagiaat, het overnemen van tekst die al door iemand anders geschreven is. Een student levert het werk in, het gaat langs de plagiaatscanner, en die toont hoeveel procent van de tekst al ergens anders online staat of eerder ingeleverd is. Als docent kun je dan zelf bepalen wat je met die informatie doet.
Met de opkomst van AI werken dit soort systemen niet meer. ChatGPT schrijft immers compleet nieuwe teksten. Ingeleverd werk van studenten dat door ChatGPT geschreven is staat nergens anders al online.
De makers van antiplagiaatsoftware hebben daarom iets nieuws ingebouwd in hun software: AI-detectie. Die probeert—door middel van AI—de kans te berekenen dat een tekst niet door een mens maar door een AI is geschreven.
AI om AI te controleren dus. Dat klinkt goed, maar is het niet.
Want je kunt geen discussie krijgen over of een tekst ergens anders al online staat: je kunt het bewijs gewoon opzoeken. Daarentegen kun je nooit met zekerheid zeggen dat een tekst door AI geschreven is.
Dat wordt ook door OpenAI, de makers van ChatGPT, ruiterlijk toegegeven. OpenAI’s eigen meest geavanceerde AI-detectie tool markeert bijna tien procent van de door mensen geschreven teksten als dat ze door AI geschreven zijn. Dit betekent dat je dus niet kunt weten of je een student vals beschuldigt als de AI-detectie aangeeft dat een tekst weleens niet door de student zelf geschreven zou kunnen zijn.
Daar komt nog eens bij dat de valse beschuldigingen niet eerlijk verdeeld zijn. Uit onderzoek aan Stanford blijkt namelijk dat mensen die schrijven in een taal die niet hun eerste taal is eerder vals beschuldigd worden door AI-detectie tools dan mensen die een taal wel vloeiend kunnen schrijven.
Het checken op plagiaat met software gaat bovendien uit van wantrouwen naar de student. Dat is niet per se bevorderend voor de relatie tussen de docent en de student en daarmee ook niet voor het leerresultaat.
Software die het tien procent van de tijd mis heeft, die discrimineert én die uitgaat van wantrouwen, kun je uiteraard niet gebruiken in je onderwijs. Maar wat kunnen docenten en onderwijsinstellingen dan wel doen?
Natuurlijk is het belangrijk om te controleren dat studenten niet vals spelen, maar dat hoeft niet met antiplagiaatsoftware. Ook ik word als docent elke dag geconfronteerd met ‘studenten’-werk dat hoogstwaarschijnlijk niet door de studenten zelf geschreven is. Inmiddels herken ik het middelmatige toontje van de AI en de alinea’s die in eerste instantie prima lijken (want: foutloos Nederlands), maar die bij een kritische blik eigenlijk vrijwel nietszeggend blijken te zijn.
Elke keer als ik merk dat een groot deel van mijn studenten niet zelf heeft nagedacht maar een machine dat heeft laten doen zit er maar één ding op: mijn opdrachten en mijn manier van toetsen aanpassen.
Of we dat nou willen of niet (ik heb mixed feelings, maar neig naar niet), studenten gáán AI gebruiken voor hun opdrachten. Dat betekent dat docenten creatief moeten zijn in wat ze van studenten vragen en hoe ze controleren wat er nou precies geleerd is.
Dat is veel werk. Maar als onderwijsinstellingen stoppen met het uitgeven van onze onderwijsgelden aan dure licenties van de Amerikaanse bedrijven die antiplagiaatsoftware leveren hebben we daar misschien wel wat extra financiële middelen voor.
Dit artikel werd, in een iets gewijzigde versie, op 4 april voor het eerst gepubliceerd door de Volkskrant.
As a lecturer, I like to invite guest lecturers to educate my students. It is good for them to have access to people from the ‘real world’, and I’ve noticed that students enjoy a fresh face.
Yet, I am always a bit hesitant to invite people. It is a big ask for people to prepare a talk specifically for your students. Also, you never know what you are going to get: some guest lecturers capture attention very naturally, and others lose my students after their first few sentences.
I have found a way to overcome this hesitation and accomplish these two goals:
Allow the guest lecturer to come in with zero preparation.
Make sure that the students stay engaged with the guest lecturer.
Rather than asking guests to give a lecture, I let my students interview them instead.
That is more work for me, but I think it is worth it. This is how I do it:
Tell the students who is coming and ask them what questions they would like to pose to this person. I usually share a couple of links to the person who is coming, their work, and their organization. Most times students will have to hand in two questions each, with a strict deadline. For this, I use a web form that captures the student’s name and each of the questions in separate fields. This allows me to download all the questions as a single spreadsheet for further processing. This step ensures that students are activated before the lesson starts.
Cluster and curate the questions and list them in a document. I go through each of the questions one by one and try to cluster them into different themes and order them chronologically. A question about how somebody got into this type of work lends itself to being at the top, and a question about future plans should probably come at the end. For each student, I try to pick at least one of their two questions, ensuring they have something to ask the guest. Usually, there will be a broad range of questions, covering most of what the guest would have brought themselves. I make a single document that lists all the questions that are to be asked in the right order and with the student’s name behind every question. I add a blank line between each question. If I want students to ask multiple questions before the guest answers, then I omit the blank line.
Print out the list of questions and give each student (but not the guest!) a copy. Before the lesson, I print out the questions, making sure they fit on a single (two-sided if necessary) piece of paper. I hand these out to the students as they come into class. I don’t give the guest a copy, because that would make it unnecessary for the students to ask the questions. I will occasionally send the guest a copy of the questions in advance, especially if they are a bit nervous. But if I do, I tell them not to let the students know they’ve seen the questions already.
Facilitate the interview and keep things moving along. I tell the students that I am expecting them to pay attention and ask their question at the right moment. They have to be ready when I say “OK, next question!” forcing them to keep paying attention. It is important to tell the guest to keep their answers short. In my experience, you can comfortably do around 25 questions in an hour. You can do a bit more if you keep up the pace.
Try it! Your guest lecturers and your students will be thankful.
Currently I am experimenting with the Zettelkasten method for writing notes. I just want to share some of the books that I am reading and the software that I am using:
I use TiddlyWiki to store my notes. It is an incredibly flexible personal and portable wiki. It has been around forever, is open source, and will hopefully have some staying power.
It can be a bit hard to get to grips with how it works. To really get going with it, Grok TiddlyWiki by Soren Bjornstad is required reading.
In principle TiddlyWiki is a single file, which you can sync between different devices. I need a solution that allows me to seamlessly switch between my laptop and my phone. TiddlyPWA seems to do the trick. It turns TiddlyWiki into an offline-first Progressive Web App, keeping my notes synced through a server that only every sees my encrypted data.
At the end of each year, I list the books that I have read during that year. Earlier years were 2022, 2021, 2020, 2019, 2018, 2017, 2016, 2015, 2014, 2013 and 2012. Below, you will find the list of books that I’ve read in 2023. Every year I also include an overview of my other media consumption habits (magazines, RSS feeds, podcasts, etc.). This year and for the first time, I’ll also reflect on the films that I got to see in the cinema.
If you’d like to receive my short book reviews in your mailbox every four weeks, then please subscribe to my books newsletter here.
This year, I’ve only managed to read 36 books for a total of 9,816 pages. This is way less than last year, and about the same as the year before. I don’t really know what changed in comparison to last year.
One third of the books that I’ve read were written by women. About a third of the books that I’ve read had authors that were born in the US or the UK, a third were from Dutch or Belgian writers, and a third came from the rest of the world. All of this is about the same as last year.
I’ve ordered the list of books into categories that make sense to me (and that are in many ways overlapping and arbitrary). These are the books that I’ve read and what I thought of some of them:
My reading challenge
This was the second year of my personal yearly reading challenge. Basically, I’ve tasked myself with reading a bunch of prize-winning books, mostly fiction. I was supposed to read these 20 books, and managed to read 12 of them (plus I finished one book from last year’s challenge).
There were some real gems in this list. Daanje’s book (or actually eleven books in one) really blew my mind, I’ve never read anything like it. Desai, Keegan, and Mbougar Sarr were al just very good. Cohen and Karunatilaka were both wonderfully funny, but in the painful kind of way. Ernaux is not really my style I guess, and Gee’s history of the life on earth didn’t really work for me either.
Anjet Daanje — Het lied van ooievaar en dromedaris (link)
Yorick Goldewijk — Films die nergens draaien (link)
Gee, Henry — A (Very) Short History of Life On Earth (link)
B00k C7ub 4 N3rd$
The book club celebrated its tenth anniversary last year. We read six books, just like last year. Christian’s book is very insightful if you want to understand how AI really works (the kind that is based on reinforcement learning), and Hill’s book is quite the ride and scary food for thought. The rest wasn’t that notable.
Pamuk’s Museum of Innocence project, consisting of a book and an accompanying museum, is brilliant and really added to my visit to Istanbul in late 2022. Roemer’s triology is difficult, but rewards you with its fabulousness. And Dumon Tak’s book about animals giving talks in class about animals to animals is a must-read for anybody who has some playfulness left inside of them.
Februari made me think about the rule of law (in the context of technology and climate) once more. Hef’s ghostwritten autobiography was a unexpected delight caused by its realness. Scott is always good. Kouyoumdjian’s picture book about Lebanon’s civil war is gut-wrenching while also managing to be hopeful, it is an amazing feat. Du Sautoy is good if you like games (and a bit of math). Frayne en Van den Berg make important points about the immorality of work. And Wells helped me sail a 6.5 meter yacht all by myself through Friesland last summer.
I track the articles that I’ve read and want to keep for use in the future via insights.hansdezwart.nl (which I wrote myself). It allows me a structured view of the sources, topics and authors that I read. The data below is not 100% correct, because I have a slight backlog in processing what I’ve saved, but it is precise enough to gain some insights from it.
I refuse to read (or listen to, or watch) any medium that personalizes their content for me specifically. This means I avoid recommender systems, and I also don’t go through the ‘most read’ or ‘most shared’ lists. And I’ve completely quit following or regularly looking at any social media. I consider this to be an inoculation against disinformation and manipulation, and against the filter bubble of course (if it does finally turn out to be for real).
I stay up to date by following specific sources, either in their magazine form or via RSS. I go through the whole source and then pick what I want to read. I strongly prefer to keep up to date through RSS instead of through email newsletters. Substack newsletters can be read via RSS, but there are still a few sources that I am forced to read via email (and I actively resent those).
When I noticed that I was spending too much time refreshing my RSS client to see if there was something new, I created a new methodology for looking at my feeds. I put my feeds in three different categories: morning, daily, and weekly. I check out the ‘morning’ feeds once a day when I wake up (it has the stuff you might want to talk about at the proverbial water cooler), and combine this with reading the Economist’s Espresso app, ANP press service newsletter, and a browse through Het Parool, marking the things I will likely read over lunch. I then allow myself to go through the ‘daily’ feeds only once a day (and in one go) and look at the ‘weekly’ feeds only once a week, on Fridays.
The podcasts I listened to
Using Pocket Cast, I still listen to all new episodes of Napleiten, De Rudi en Freddie Show, Against the Rules (by Michael Lewis, recently turned into Judging Sam), the Bits of Freedom Podcast, Ondertussen (the podcast of my faculty), Stuurloos, Vos & Lommer, and (forever) This American Life. New on the must-listen list is PJ Vogt’s Search Engine.
I’ll listen to most episodes of the Ezra Klein Show and of Conversations with Tyler. When the topic fancies me I’ll listen to 99% Invisible, Freakonomics Radio, Lex Bohlmeier’s interviews for De Correspondent, Philosophical Disquisitions, Cautionary Tales, Philosophy Bites and Philosophy Books, Docs, Planet Money, Radiolab, Talk Easy, This Machine Kills, and (very occasionally) the Tim Ferris Show.
There were a few one-off podcasting series that I listened to this year and enjoyed: De Kunst van het Verdwijnen, De Taxi Oorlog, De zaak Ramadan, This is Technology Ethics (still a few eposides to go), Dit kan geen toeval zijn, Welkom in de AI Fabriek (recommended!), and of course Morozov’s insanely detailed The Santiago Boys.
The films that I saw
Cineville allows me to go to the cinema as often as I’d like for a fixed monthly fee. I saw these 81 films through Cineville this year (in order of seeing them): Trois couleurs: Bleu (re-release), Living, À plein temps, Soy Cuba, The Banshees of Inisherin, Broker, Flux Gourmet, Hiroshima mon amour, De Koninklijke Republiek, No Bears, De acht bergen, Knor, Dekalog 7 + 8, Trois couleurs: Blanc (re-release), Women Talking, Orfeu Negro, Aftersun, Falcon Lake, Tár, The Holy Mountain (re-release), Trois couleurs: Rouge (re-release), Godland, Saint Omer, Dicht bij Vermeer, Jodorowsky’s Dune, Leila’s Brothers, EO, El topo (re-release), The Blue Caftan, Godland, Love Life, Empire of Light, Joyland, Sick of Myself, Kleinkinderen van de Oost, Princess, Plan 75, Sporen van Indië, Dalva, Pacifiction, Reijseger Fraanje Sylla: Soundtrack for the Soul, Fitzcarraldo (re-release), The Dmitriev Affair, Werner Herzog – Radical Dreamer, Les pires, Into the Abyss, Aguirre, der Zorn Gottes (re-release), Atlantide, Die große Ekstase des Bildschnitzers Steiner, The Fire Within: Requiem for Katia and Maurice Krafft, Lola, Ghost Dog: The Way of the Samurai (re-release), Lektionen in Finsternis, Coffee and Cigarettes, Oppenheimer, Le mépris (re-release), Past Lives, Anatomy of a Fall, Perfect Days, Killers of the Flower Moon, La haine, Warnow: reis naar het Noorderlicht, The Universal Theory, Anselm, And the King Said, What a Fantastic Machine, Total Trust, Squaring the Circle (The Story of Hipgnosis), Geographies of Solitude, May December, Das Lehrerzimmer, Kes, De bezette stad, Napoleon, Kokomo City, Hardcore Never Dies, Fallen Leaves, The Other Side of Hope, Stop Making Sense, Dearest Fiona, The Idiots, and The Boy and the Heron.
My favourite two films of the year probably were Anatomy of a Fall and Pacifiction. The first had me on the edge of my seat for the full film, and the latter (which needs a big screen) spoke truth about power, politics, and colonialism. But there was a lot more that made an impression: Eye showed a retrospective of Werner Herzog’s films and each and every one of them was great. Many other older films that I saw were very rewarding (because of the Lindy Effect I am sure): Kieślowski’s Trois Couleur triology was beautiful, Ghost Dog and La Haine felt like old friends, and Kes was touching and has the most amazing scene that I saw this year: a PE lesson on a soccer pitch. Other films that are worth mentioning are Perfect Days (Japanese toilets), Tár (toxic masculinity and wokeness), Atlantide (speedboats and drugs in Venice), Dalva (an amazing and sad child), Geographies of Solitude (a nerd nerding), and the Kokomo City (an amazing film about black trans women in their strenght and vulnerabilty).
There must be something wrong with me because I couldn’t stand Past Lives (96% fresh on Rotten Tomatoes, 267 critics are wrong, I am with these 11).
I am still reeling from my first encounter with Jodorowsky’s The Holy Montain and can’t believe I had never seen it before. I will never forget the toad rendition of Columbus colonizing Latin America. This was such a blasphemous feast for the eye, that I don’t want to withhold the trailer from you:
Next to my Cineville binge, I also saw 9 documentaries at IDFA. The ones that have stuck with me are: Burning Out (firemen and a -woman in Amsterdam, watch it at NPO), Gerlach (a farmer next to a McDonalds drive-in), and Bushman (showing that all the discussion about racism that we are having now, was already there in the early seventies, there is very little maturation I am afraid).
I will also switch to a new note-taking system for diary purposes (TiddlyWiki using TiddlyPW). This means that I should be able to add visits to museums, the theatre, concerts, and other beautiful things to next year’s edition of this post.
InternetpionierEthan Zuckermanzat begin 2018 in zak en as over de staat van het internet.Na deBrexit, de verkiezing van Trump en het Cambridge Analytica-schandaalwasde maatschappij klaar met het web. Zuckerman had één hoop om het internet weer gezond te krijgen: de Europese publieke omroepen. Geïnspireerd door Zuckerman schreef Geert-Jan Bogaerts (Hoofd Innovatie en Digitale Media bij de VPRO) op Tweede Paasdag 2018 een eerste versie van hetPublicSpaces Manifestmet daarin vijf belangrijke principes: open, transparant, verantwoordelijk, soeverein en de gebruiker centraal.
Vijf jaar later is PublicSpaces uitgegroeid tot een coalitie van tientallen publieke organisaties die samen werken aan een “een alternatief software-ecosysteem dat het publieke belang vertegenwoordigt en geen winstoogmerk heeft.” Eind juni organiseerde PublicSpaces de derde editie van hun conferentie in Pakhuis de Zwijger in Amsterdam, en ik was erbij. Ik zag tijdens de conferentie twee grote thema’s:
Inclusieve technologie: het gebrek en de noodzaak
Het PublicSpaces Manifest mist een aantal waarden die op dit moment uiterst relevant zijn. Denk aan duurzaamheid of aan gelijke behandeling. Eén van de sessies ging dan ook over welke waarden er toegevoegd zouden moeten worden aan het manifest.
Het PublicSpaces Manifest mist een aantal waarden die op dit moment uiterst relevant zijn. Denk aan duurzaamheid of aan gelijke behandeling. Eén van de sessies ging dan ook over welke waarden er toegevoegd zouden moeten worden aan het manifest.
Die sessie was een logisch vervolg op het verhaal van Ruha Benjamin, auteur van Race After Technology. In haar keynote maakte ze duidelijk dat een heel klein, niet-representatief deel van de mensheid verantwoordelijk is voor onze digitale wereld. Daardoor zitten we volgens haar gevangen in de verbeelding van een ander. Bovendien zijn de standaardinstellingen van onze technologie niet voor iedereen geschikt.
Ze gebruikte hostile architecture als metafoor. Denk daarbij aan bankjes die gemaakt zijn zodat daklozen er niet op kunnen liggen. Kunstenaar Fabian Brunsing verbeeldt de huidige situatie prachtig met zijn bankje waar je vijftig cent in moet gooien om te kunnen zitten.
In het aansluitende panel over publieke waarden en kunstmatige intelligentie (AI) werd duidelijk hoe de blik van een klein groepje mensen ons perspectief kan vertroebelen. Zo vindt onderzoeker Michele Murgia dat er binnen de hype over kunstmatige intelligentie (AI) buitensporig veel aandacht is voor de toekomstige existentiële risico’s ervan. De grote gevaren zijn ondertussen te weinig in beeld. Denk aan de impact van AI op arbeidsomstandigheden, het klimaat, racisme en sexisme. Hij bouwt daarom een language model vanuit publieke waarden om de productiemiddelen rondom AI democratiseren.
Europa moet investeren in de digitale publieke ruimte
In het panel Investing in the digital commons werd duidelijk dat dit een uitgelezen moment is voor Europa om te investeren in digitale publieke infrastructuur. Simona de Heer is politiek assistent van Europarlementariër Kim van Sparrentak. Zij legde uit dat het gehele Europese politieke spectrum het er over eens kan zijn dat het problematisch is dat big tech de infrastructuur maakt waar wij afhankelijk van zijn. Daarnaast is het niet langer en vogue om de publieke sector zo klein mogelijk te houden (zie bijvoorbeeld de Europese liefde voor Mariana Mazzucato). Volgens De Heer verdient een weerbare maatschappij een sterke publieke sector, eentje die zijn eigen infrastructuur bouwt.
Marleen Stikker (oprichter van Waag Futurelab) sluit zich daarbij aan. Volgens haar heeft de overheid afgelopen jaren heel veel geïnvesteerd in de private sector en in zichzelf, terwijl er eigenlijk geen geld is gegaan naar het digitale publieke domein. Hoog tijd om dit te veranderen. Volgens Stikker heb je overal waar data ontstaat een data commons strategie nodig: een strategie om te zorgen dat die data voor iedereen waardevol kunnen zijn. Als overheid moet je bereid zijn daarbij publiek-civiele (in plaats van publiek-private) samenwerkingen aan te gaan.
Hoe moet zo’n digitale publieke ruimte er dan uit zien? Dat besprak Eli Pariser – bekend van het idee van de filter bubble – in de afsluitende keynote. Met zijn stichting New Public onderzoekt en verkent hij wat er nodig is om digitale publieke ruimtes te maken die voor een breder publiek aantrekkelijk kunnen zijn (lees vooral hun onderzoek).
Voor elke publieke ruimte heb je volgens Pariser drie dingen nodig: er moet iets gebouwd zijn (in het digitale domein zijn dat ‘code ’ en ‘design ’), er moet iets geprogrammeerd worden (de inhoud, datgene wat er te doen is) en je hebt eigenaarschap nodig (mensen die zorgen dat het op een prettige manier blijft werken). Die laatste noemt hij ‘stewards’. Volgens Pariser hebben we te weinig aandacht voor het programma en voor de stewards. Mensen moeten de publieke ruimte vormgeven, het liefst op een democratische manier.
Waarom ik dit interessant vind
Het internet begint steeds meer te lijken op een vliegveld: overal tracking, advertenties en surveillance, met een captive audience. Zelf kan ik heel slecht tegen dit soort volledig commerciële ruimtes. Daarom ben ik fan van de bibliotheek, “het paleis voor het volk”. Het is één van de weinige plekken waar je nog gewoon binnen kan lopen zonder dat je iets hoeft te kopen. Ik mis de digitale equivalent. Eerder betoogde ik daarom al dat we moeten investeren in digitale sociale infrastructuur.
Dit is ook de reden waarom ik met een team van docenten van de Hogeschool van Amsterdam en met Marleen Stikker en Waag Futurelab een nieuwe minor heb ontworpen: Het internet is stuk, maar we gaan het repareren.
De uitdaging is daarbij om aan de hand van het denken over de publick stack nieuwe sociale digitale infrastructuur te ontwerpen die democratisch, inclusief en duurzaam is. Doe en denk je mee?
