Discriminatie bij online fraudedetectie? Niet bij Fontys

Er zijn zorgen over tentamensoftware Proctorio, die door verschillende hogescholen en universiteiten gebruikt wordt om fraude te detecteren. Zo zou de software donkere gezichten veel minder goed detecteren, wat discriminatie in de hand werkt. Maakt Fontys ook gebruik van deze software?

Stel dat je thuis achter je laptop zit tijdens het maken van een tentamen of andere toets. Softwareprogramma’s als Proctorio kijken onder andere of je je aandacht op je beeldscherm richt. Doe je dat niet, dan kan dat betekenen dat je spiekt door naar aantekeningen of een boek naast je laptop te kijken.

Om dat te kunnen controleren moet je gezicht goed in beeld zijn. Daar gaat het bij Proctorio mis. De algoritmes die de software hiervoor gebruikt, herkent donkere gezichten namelijk minder goed, waardoor studenten met een donkere huidskleur daardoor een groter risico lopen om onterecht als fraudeur bestempeld te worden, onderzocht RTL.

Ander programma
De Hogeschool van Amsterdam, Hogeschool Utrecht, Hogeschool Inholland, Nyrenrode Business University, de Technische Universiteit Eindhoven, de Universiteit van Amsterdam, de Universiteit Leiden en de Universiteit Maastricht maken gebruik van Proctorio. Fontys doet dat niet, maar kent wel een ander programma waarmee gewerkt wordt.

Fontys maakt namelijk gebruik van ProctorExam om digitale kennistoetsen af te nemen bij studenten die niet op locatie aanwezig kunnen zijn. Een softwareprogramma waarbij de eerdergenoemde valkuilen binnen Fontys niet voorkomen, omdat bewust gekozen is voor ‘live proctoring’.

“Bij Fontys kijkt er tijdens de afname altijd een surveillant online mee wanneer er een toets afgenomen wordt en wordt er geen gebruikgemaakt van AI-gestuurde software waarbij automatische gezichtsherkenning een donkergetinte student niet herkent”, legt Karin Vennix uit vanuit haar rol als procesmanager toetsen bij de dienst Onderwijs en Onderzoek (O&O).

Experiment
ProctorExam wordt daarentegen niet Fontysbreed gebruikt. Wel loopt er een experiment bij vijf instituten, waaronder Fontys Academy for the Creative Economy en Fontys Economie en Communicatie. Het college van bestuur heeft daarbij de dienst O&O gevraagd om in samenwerking met deze instituten tot een voorstel te komen voor besluitvorming rondom onlineproctoring. Vennix: “Hoe het voorstel er precies gaat uitzien, is nog niet duidelijk. We zijn nu nog volop in gesprek met de deelnemende instituten om dit te formuleren.” [Noëlle van den Berg]