Vanwege de coronacrisis heeft het onderwijs het afgelopen jaar in alle onderwijslagen vooral thuis plaatsgevonden. Terwijl de basisscholen inmiddels weer open zijn geldt dit niet voor veel andere onderwijsinstellingen. Op veel verschillende innovatieve manieren is dit thuisonderwijs mogelijk gemaakt, en de Piratenpartij Utrecht juicht deze innovatie zeker toe. Wij maken ons echter ook zorgen over bepaalde ontwikkelingen, met name het afnemen van toetsen met online toezicht; ook wel “proctoring” genoemd.
Hoewel de corona-regels op den duur zullen verdwijnen lijkt het erop dat we van het online-proctoring nog niet af zijn:
“Tijdens het SURF-webinar ‘Online proctoring na corona’ bepleit Sylvester Draaijer van de Vrije Universiteit dat online proctoring ook na de coronacrisis grootschalig moet worden ingezet”
(Bakker, 2021)
Als partij die zich altijd inzet voor de privacy, maakt de Piratenpartij Utrecht zich grote zorgen over deze ontwikkeling. De volgende bezwaren zullen in dit artikel kort worden toegelicht: (1) privacy, (2) omgevingsfactoren, en (3) kansenongelijkheid.
Privacy
Online proctoring kan gebeuren door commerciële bedrijven of door de docent; in beide gevallen zijn er serieuze privacy-issues. Zoals omschreven door Drew Harwell (2020) in de Washington Post, leidt dit tot zorgwekkende taferelen, waarbij de privacy van studenten ernstig wordt geschonden, waarbij zij worden gedwongen om een keuze te maken tussen hun studiepunten en hun privacy.
Onderwijsinstellingen moeten zichzelf de ethische vraag stellen of zij wel in de huizen van studenten moeten willen kijken. Veel studenten wonen in een studentenhuis waarbij de werkplek ook de slaapkamer is. Hoewel dit natuurlijk niet het doel is van de onderwijsinstellingen, is een niet te voorkomen gevolg van online toetsen dat er een kijkje wordt genomen in de slaapkamer van studenten.
Verder kan de online surveillance zorgen voor effecten zoals beschreven door Jeremy Bentham in zijn werk over het panopticum; studenten gaan zichzelf corrigeren. Bij toetsen waarbij gebruik wordt gemaakt van kunstmatige intelligentie wordt er in de gaten gehouden wat je ogen doen, staar je te lang uit het raam? Dan kan het zomaar zijn dat je wordt gemarkeerd als verdacht. Wanneer je tijdens een test rekening moet houden met de gedachte dat je niet over wilt komen alsof je aan het spieken bent kan dit negatieve consequenties hebben op je concentratie.
Dat online proctoring een inbreuk is op de privacy van studenten is duidelijk. Maar waarom is dit eigenlijk een probleem? Omdat privacy een ongelofelijk belangrijk mensenrecht is. Zonder privacy hebben we geen democratie, geen autonomie en geen persoonlijke relaties; zonder privacy zijn wij geen mens. Een uitgebreide uitleg over het belang van privacy vindt u hier.
Omgevingsfactoren
Naast een schending van de privacy kunnen er ook nog andere serieuze problemen ontstaan met zowel de techniek als met externe factoren (SURF, n.d.). Hoewel er uitgebreid getest kan worden door onder andere ethische hackers, kan een systeem nooit volledig veilig zijn. Onlangs zorgde een data-lek bij ProctorU ervoor dat de gegevens van duizenden studenten op straat kwamen te liggen (Fearn, 2020). Dit kan negatieve gevolgen hebben voor alle studenten. Wanneer blijkt dat er een beveiligingslek is geweest tijdens een toets, zullen alle uitslagen onbetrouwbaar zijn.
Een ander probleem is dat studenten niet altijd invloed hebben over wat er in hun omgeving gebeurt. Huisgenoten kunnen binnen lopen, er kan op de deur geklopt worden, de wifi kan uitvallen, of er kan zelfs een brandalarm afgaan. Wanneer er tijdens een toets op een fysieke locatie van de onderwijsinstelling een brandalarm af gaat zijn er protocollen die ons vertellen wat er dan moet gebeuren. Hoe zit dit met online toetsen?
Verder kunnen er ook fysieke ongemakken ontstaan. Denk aan een toets van drie uur waarbij een toiletbezoek niet mogelijk is. Maar ook het voorbeeld van Harwell (2020) waar een student onwel werd en de opdracht kreeg om aan haar bureau te blijven zitten terwijl zij moest overgeven, laat zien hoe schrijnend de situaties kunnen worden. Studenten hebben geen grip op deze situaties maar worden wel verantwoordelijk gehouden voor de gevolgen.
Kansenongelijkheid
Onderwijs moet de plek zijn waar kansen ontstaan, waar de thuis situatie niet meetelt en waar we iedereen gelijk behandelen. Helaas weten we dat dit niet het geval is en dat kansengelijkheid in de praktijk nog ver te zoeken is. Zonder hierover in detail te treden wil ik kort laten zien dat online proctoring de patronen van ongelijkheid versterkt, zeker wanneer het gebeurt door middel van kunstmatige intelligentie (AI).
De problemen starten al met het feit dat de algoritmes die worden gebruikt niet inzichtelijk zijn (Rubenstein & Griggs, 2021), terwijl ze vergaande consequenties kunnen hebben voor het lot van studenten. Onderwijsinstellingen zouden geen gebruik moeten maken van proctoring services die hun algoritmes niet willen prijsgeven, want op deze manier weten ze niet waar ze hun studenten aan blootstellen.
Ook blijken de systemen niet geschikt te zijn voor studenten met een beperking (Swauger, 2020). De systemen zijn gebouwd om te bepalen of ons gedrag “normaal” of “verdacht” is. Plotselinge bewegingen, trillen, oogbewegingen, de bewegingen van de mond; alles wordt geanalyseerd. Hierdoor hebben studenten met een fysieke of mentale beperking een veel grotere kans om door de AI bestempelt te worden als verdacht. Dit werpt voor deze studenten, voor wie het onderwijs in sommige gevallen al een uitdaging kan zijn, nog een extra drempel op.
De proctoring bedrijven gebruiken over het algemeen gezichtsherkenningssoftware van andere bedrijven. Hiervan weten we dat deze over het algemeen slechter zijn in het herkennen van mensen met een donkere huidskleur. Tijdens online proctoring toetsen, zijn studenten met een donkere huidskleur bijvoorbeeld gevraagd om een felle lamp op hun gezicht te schijnen omdat de software hun anders niet zou herkennen (Swauger, 2020). Maar het is ook al voorgekomen dat een zwarte student niet kon inloggen voor een online toets omdat de software zijn gezicht niet herkende. Ook op het gebied van gender schiet de AI software tekort. Trans studenten die in hun ID-kaart nog een geslacht hebben staan waar zij zich niet meer mee identificeren hebben moeite ondervonden om in te loggen.
Hoewel er nog niet veel onderzoek naar is gedaan, laat recent wetenschappelijk onderzoek zien dat online proctoring extra negatieve effecten heeft voor studenten die vaak erg zenuwachtig zijn voor een toets. Het was al bekent dat zenuwen voor een toets samenhangt met een lager resultaat, en wat recent onderzoek van Daniel Woldeab en Thomas Brothen (2019) laat zien is dat dit effect wordt versterkt door online proctoring.
Wat ik met bovenstaande voorbeelden duidelijk wil maken is dat online proctoring bestaande ongelijkheden in de samenleving versterkt. Voor een cis gender, witte, neuro-typische student zonder beperkingen die normaal al goed scoort zullen de problemen wellicht minimaal zijn. Maar voor iedereen die niet aan dit beeld voldoet zorgt het gebruik van AI surveillance software voor extra problemen.
Conclusie
Onderwijsinstellingen zijn zo druk met het voorkomen van fraude dat ze de kwaliteit van onderwijs en het welzijn van studenten uit het oog verliezen. Naast de technische uitdagingen van online surveillance tijdens toetsen, zorgt proctoring voor grote ethische problemen waar het gaat om privacy en kansengelijkheid.
De Piratenpartij Utrecht is een partij die werkt vanuit vertrouwen. Op dit moment krijgen studenten massaal het signaal dat zij zodanig niet te vertrouwen zijn dat er alles aan gedaan moet worden om te zorgen dat ze niet spieken. Vertrouwen is wederkerig. Mensen die alsmaar signalen krijgen dat ze niet te vertrouwen zijn zullen ook nooit leren te vertrouwen.
Wij zijn niet naïef, wij weten ook dat studenten zullen proberen te spieken. Maar wij geloven in oplossingen die niet privacy-schendend zijn en kansengelijkheid versterken. Kennis kan op verschillende manieren worden getoetst, onder andere door middel van open-boek toetsen.
Laten we, samen met corona, ook online surveillance bij onderwijsinstellingen het komende jaar de deur wijzen. Laten we toewerken naar een samenleving op basis van vertrouwen.
Bronnen:
Bakker, M. (2021). Het hoger onderwijs moet overgaan op grootschalige proctoring. Geraadpleegd op 31 Maart 2021, van https://www.scienceguide.nl/2021/03/het-hoger-onderwijs-moet-overgaan-op-grootschalige-proctoring/.
Fearn, N. (2020). More than 400,000 hit by data breach at online exam site — what to do. Geraadpleegd op 31 Maart 2021, van https://www.tomsguide.com/news/proctoru-data-breach.
Harwell, D. (2020). Mass school closures in the wake of the coronavirus are driving a new wave of student surveillance. Geraadpleegd van https://www.washingtonpost.com/technology/2020/04/01/online-proctoring-college-exams-coronavirus/.
Rubenstein, D., & Griggs, M. (2021). It’s Time to Re-Set the Bar for Online Proctoring. Geraadpleegd op 31 Maart 2021, van https://news.bloomberglaw.com/environment-and-energy/its-time-to-re-set-the-bar-for-online-proctoring.
SURF. (n.d.). Thematic issue ‘Open and online education – Assessment in open and online education edition’. Geraadpleegd van https://www.surf.nl/en/thematic-issue-open-and-online-education-assessment-in-open-and-online-education-edition.
Swauger, S. (2020). Our Bodies Encoded: Algorithmic Test Proctoring in Higher Education. Geraadpleegd op 31 Maart 2021, van https://hybridpedagogy.org/our-bodies-encoded-algorithmic-test-proctoring-in-higher-education/.
Woldeab, D., & Brothen, T. (2019). 21st Century assessment: Online proctoring, test anxiety, and student performance.