'Crisisframe over AI in het onderwijs werkt averechts'

De media waren vorige week eensluidend over een Fontysdocent die een AI-tool bouwde om studentenportfolio's te analyseren. Foei! Zoals Bron toen echter al schreef: het delen van privacygevoelige info via AI gebeurt dagelijks en overal. Dat is ook de stelling van Koen Suilen, Ruud Huijts en Leon van Bokhorst, samen de taskforce AI bij Fontys ICT. Zij pleiten in onderstaand opiniestuk voor minder paniek en meer openheid hierover.

Op 2 februari berichtte Omroep Brabant: "Docent Fontys bouwt AI-tool die studentengegevens naar ChatGPT stuurt." Eind vorig jaar was de Hogeschool Arnhem en Nijmegen in het nieuws: een docent gebruikte AI-software die toegang kreeg tot persoonsgegevens van studenten. De toon in alle berichtgeving presenteert dit als crisis, een datalek: hoe kon dit gebeuren?

Maar die vraag accepteert het crisisframe. Natuurlijk moeten we proberen incidenten te voorkomen. Maar het zijn vooral symptomen van een fundamenteler probleem. Gebeuren dit soort dingen bij elke hogeschool? Vrijwel zeker. Niet omdat we roekeloos zijn, maar omdat AI-tools onvermijdelijk zijn geworden in het dagelijks werk.

De AVG definieert een datalek als "ongeoorloofde verstrekking van of ongeoorloofde toegang tot persoonsgegevens". Een student die ChatGPT gebruikt om e-mails te formuleren en daarvoor e-mailadressen deelt in een chatgesprek? Volgens de letter van de AVG is dit een datalek. De juridische definitie is helder. Onduidelijk is hoe we hiermee omgaan.

Waarom gratis AI-tools een probleem zijn
Gratis AI-tools zoals ChatGPT, Claude of Gemini zijn niet te verdedigen voor gebruik met persoonsgegevens in een onderwijscontext. De juridische basis voor institutioneel gebruik ontbreekt. Er is geen verwerkersovereenkomst tussen de onderwijsinstelling en de AI-aanbieder. Je weet als instelling niet waar de data naartoe gaan, hoe ze verwerkt worden, of ze gebruikt worden voor modelverbetering.

Het probleem wordt groter met zelfstandig handelende, agentic browsers zoals Perplexity’s Comet of OpenAI’s Atlas. Open een digitale leeromgeving in zo'n browser en de AI-agent heeft al snel toegang tot alle studentengegevens. De AVG is geschreven voor databases, niet voor autonome agents.

De voorspelbare reactie: verbieden. Maar het gebruik vindt toch wel plaats: op persoonlijke apparaten, met eigen accounts. Verbieden stopt het niet; het maakt het alleen onzichtbaar. Dit fenomeen heeft een naam: shadow AI.

De Fontys-docent experimenteerde en deelde zijn werk openlijk op LinkedIn. Hij kreeg feedback, ook kritische, en paste aan. Precies het proces dat we bij studenten waarderen: proberen, falen, reflecteren, verbeteren.

Fontys onderzocht met hulp van externe deskundigen de zaak en concludeerde: geen datalek. Er is alleen met testportfolio’s zonder persoonsgegevens gewerkt. Maar volledige zekerheid bestaat niet, omdat er geen audit trail is. Niet van dit experiment, niet van al het andere AI-gebruik. Het is technisch onmogelijk om achteraf volledig te verifiëren wat er precies is gebeurd.

En dit is geen tekortkoming van Fontys. Dit is de realiteit voor élke hogeschool. Of je nu gratis tools gebruikt, shadow AI, of zelfs institutionele systemen. Complete audit trails bestaan niet. De AVG beperkt zelfs wat er gelogd mag worden. Wie heeft nooit per ongeluk een e-mailadres in een chat geplakt? Deze micro-datalekken gebeuren dagelijks, overal, onzichtbaar.

Veilig on onveilig?
Fontys handelde vanuit vertrouwen: men geloofde de docent en bewaakt het klimaat waarin experimenteren mag. Want een situatie zonder risico bestaat niet. De keuze is niet tussen veilig en onveilig, maar tussen zichtbaar risico met leren, of onzichtbaar risico in de schaduw. 

Als medewerkers niet meer durven te praten over hun AI-gebruik, leert niemand van elkaars fouten en resteert alleen een paniekreactie achteraf. Fontys biedt daarom ruimte om te leren, maar uiteraard wel binnen de kaders van wet- en regelgeving. Het is bij Fontys expliciet niet toegestaan om echte studentgegevens te uploaden naar openbare AI-diensten.

Er is een vraag die nog niet gesteld is: wat drijft docenten naar deze tools? Soms werkdruk en de behoefte om sneller te werken. Maar óók de ambitie om het werk beter te kunnen doen: meer zien, feedback geven die anders onmogelijk was. Geen enkele instelling kan hierin voorzien. Dit is onontgonnen terrein. Juist experimenteren brengt ons verder. Daarom werkt het crisisframe in de media averechts.

De toon van de berichtgeving rondom dit soort incidenten heeft een effect. Elke docent die dit leest, leert één ding: experimenteer nooit openlijk. Want als het misgaat, eindig je in het nieuws. Dit is precies hoe je shadow AI creëert.

De expertise die er niet is
AI-beleid vraagt om experts die juridisch, technisch én beleidsmatig denken. Die bestaan nauwelijks. Dit is onontgonnen terrein zonder best practices of blauwdrukken. Nul risico bestaat niet. De keuze is die tussen gecontroleerd experimenteren met vertrouwen en acceptatie van risico, of ongecontroleerde shadow AI en schijnveiligheid. De benodigde expertise bouw je alleen door te doen, en dat vraagt ruimte om te falen zonder dat elk incident een crisis wordt. AI-beleid vraagt om volwassenheid, niet paniek. Dat klimaat van vertrouwen bouwen we samen.

Koen Suilen, Ruud Huijts en Leon van Bokhorst, taskforce AI bij Fontys ICT