Geen risicovolle algoritmes bij Fontys: 'Onbetrouwbaar'
Creëer meer bewustwording op scholen voor de risico’s van algoritmes. Dat is de boodschap die het College voor de Rechten van de Mens wil meegeven nadat er onderzoek is gedaan over dit onderwerp.
Het onderzoek is in opdracht van het College voor de Rechten van de Mens uitgevoerd door KBA Nijmegen en ResearchNed, en zoomt in op hoe algoritmes momenteel in het onderwijs worden ingezet en welke risico’s op discriminatie er zijn. Projectleider Charlotte Baarda zegt volgens NOS dat de schaal waarop algoritmes in het onderwijs worden gebruikt, fors is toegenomen.
Ook Fontys maakt er gebruik van. En ook voor Fontys geldt dat er meer bewustwording over algoritmes nodig is. Maar er is bij deze instelling geen reden voor paniek omdat algoritmes hier niet op ‘een risicovolle manier’ worden gebruikt om besluiten mee te nemen. Dat stelt Gisa de Jonge, functionaris voor gegevensbeschermer, die dit collegejaar onderzoek doet naar algoritmes en kijkt naar hoe Fontys op dit gebied voldoet aan de eisen van de AVG-wetgeving.
Risico’s
De Jonge beaamt dat aan het gebruik van algoritmes verschillende risico’s kleven. Het College voor de Rechten van de Mens waarschuwt er bijvoorbeeld voor dat er op scholen vaak te weinig kennis is om algoritmes op een verantwoorde manier in te zetten, waardoor discriminatie bij leerlingen en studenten kan ontstaan, bijvoorbeeld omdat ze dyslecxie of autisme hebben.
Algoritmes zouden gebruikt kunnen worden om toetsen na te kijken. Of om lesstof aan te passen aan het gedrag van leerlingen of studenten. Misschien zelfs voor anti-fraudesoftware. Bij Fontys werd er bijvoorbeeld een algoritme meegeleverd bij Turnitin (plagiaatcontrole), dat kan zien of een werkstuk door AI gemaakt wordt. “Maar daar wordt bij ons allemaal geen gebruik van gemaakt”, legt De Jonge uit. “Als belangrijkste reden omdat we de uitkomsten niet betrouwbaar genoeg vinden.”
Wel gebruikt Fontys op andere vlakken algoritmes, stelt De Jonge. “Ten eerste hebben we studenten die het gebruiken tijdens hun lessen. Bij ICT moeten eerstejaars bijvoorbeeld met ChatGPT werken. Maar ook bij Journalistiek houden studenten zich bezig met algoritmes en AI.”
Het tweede punt is dat de verschillende diensten van Fontys steeds meer en steeds vaker met algoritmes te maken krijgen doordat ze bijvoorbeeld spontaan met al bestaande applicaties worden meegeleverd. Zo kijkt de dienst Marketing, Communicatie & PR naar hoe algoritmes gebruikt kunnen worden op de websites van Fontys om de gebruiksvriendelijkheid te vergroten en ze aan te passen op de behoeften van gebruikers, en kijkt de dienst Informatievoorziening & Technologie of ze Microsoft Copilot, een assistent-functie voor kunstmatige intelligentie, op een verantwoorde manier kunnen inzetten.
Verschil
De Jonge legt uit dat er een verschil is tussen algoritmes en AI. Algoritme omschrijft ze als een soort recept waarvan de uitkomst volgt uit een aantal vooraf gedefinieerde stappen. “Het gevaar hierbij is een beslissing op basis van ‘de computer says no’. Belangrijk is daarbij is dat er menselijk handelen tussen zit dat mag bijsturen. Maar bij AI beslist de computer volledig; je weet niet waarom de computer ‘no’ heeft gezegd, dat heeft hij zelf bedacht.” Oftewel: bij algoritmes kun je nog bijsturen, bij AI is dat veel moeilijker.
“Ik heb nog niet kunnen vinden dat Fontys gebruikmaakt van algoritmes of AI waarbij computers bepalen wat er aangeboden wordt. Bij toetsen werkt Fontys altijd met mensen. We hebben veel aandacht voor het begeleiden van studenten. We gebruiken wel degelijk algoritmes, maar niet op basis waarvan dit soort besluiten genomen wordt. De mens blijft altijd nodig. AI kan ons niet overnemen. De mens moet de uiteindelijke beslissing nemen. Tegen de mens kun je klagen, die kan ingrijpen.”