Lekker aanrommelen met AI bij Fontys: riskant?

Paniek afgelopen week bij de Hogeschool van Arnhem en Nijmegen. Een docent overtrad mogelijk de interne regels door een AI-model toegang te geven tot de online leeromgeving. De hogeschool vreest een datalek. Kan dit ook gebeuren bij Fontys? Bron vroeg het twee AI-experts.

Hogeschool Arnhem en Nijmegen (HAN) is nu een intern onderzoek gestart en heeft een ‘voorlopige’ melding gedaan bij de Autoriteit Persoonsgegevens. Opmerkelijk is dat de docent zich heel bewust was van het feit dat hij interne regels overtrad door zelf AI-software te installeren die toegang kreeg tot persoonsgegevens van studenten. Tegen zijn studenten zei hij niettemin blij te zijn met zijn eigen actie. “Omdat er nu eindelijk een onderzoek komt wat er wel en niet kan met AI".

Kennelijk werd de discussie daarover binnen die hogeschool niet juist of hard genoeg gevoerd. Diezelfde discussie vindt ook bij Fontys plaats op alle niveaus. Er zijn al wel basisregels, maar begin volgend jaar moet er een uitgebreidere handleiding komen over hoe studenten en medewerkers binnen Fontys met AI dienen om te gaan.

Panisch
Bij Fontys ICT hebben ze inmiddels al een eigen platform ontwikkeld dat meer veiligheid biedt, Bron schreef er eerder al over. Een van de makers ervan, Koen Suilen, zegt wel te staan kijken van de reactie van de HAN. “Hoe de HAN ermee omgaat, hoe panisch er wordt gereageerd. Het is niet dat de data naar een crimineel iemand gaan. Die gaan naar een organisatie of bedrijf die data kan gebruiken om een AI-model te trainen.”

Maar moet Fontys zich zorgen maken over de eigen cybersecurity als het om dit soort datalekken gaat? Suilen: “Ik heb geen idee. Maar ik vind het wel de hoogste tijd dat het begrip datalek geherdefinieerd wordt. Het is een koepelbegrip waar een usb-stick, een softwarescriptje of een browser onder kan vallen. Bij AI zegt het vooral iets over de mate van zelfstandigheid die AI krijgt. Maar het heeft ook alles te maken met de krampachtigheid over dit onderwerp.”

“Iedere organisatie die werkt met AI zal zeggen: ga er verantwoordelijk mee om. Technisch gezien heeft iedereen er beleid over. De eerste reflex is altijd controle en verbieden, maar dat is geen structurele oplossing. Dan verplaatst het zich naar de schaduw. Ofwel de schaduw-it: de echte Pandora’s box zit namelijk niet in de laptop van school, die zit op je mobieltje.”

"Dat is waar ik mij zorgen over maak: de AI-geletterdheid, het besef dat als je een bepaalde tool gebruikt, dat daar consequenties aan hangen. Dat besef is er nog niet of niet genoeg bij iedereen. Ik denk niet dat we bij Fontys rücksichtlos vooruit gaan. Het manco is meer: we doen relatief weinig aan zelf bekwaam worden.”

“Checks and balances inbouwen, dat gebeurt te weinig. Er zijn ook maar weinig voorbeelden bij andere organisaties die als best practice kunnen dienen. Een andere factor is dat traditionele organisaties zoals de onze niet de snelheid hebben om mee te gaan in het tempo waarin big tech-bedrijven ontwikkelingen over ons uitstort.”

Bedreigend
Hoe bedreigend dat kan zijn, is ook de strekking van de door talloze Nederlandse media ondertekende brandbrief aan informateur Buma. Zij zien in die bedrijven en de manier waarop zij te werk gaan een grote bedreiging voor de democratie en de informatievoorziening in Nederland. De media willen nauw betrokken worden bij het AI-beleid van de overheid en vinden dat Den Haag veel sneller de Europese regelgeving moet toepassen.

Dat zijn de media. Terug naar het onderwijs. Daar ziet Suilen het allemaal niet heel somber voor in. “Op de keper beschouwd denk ik dat de soep niet zo heet gegeten wordt. Het is vooral omdat het iets nieuws is, waardoor mensen vaak in een verkeerd narratief stappen. ‘De trein die al rijdt’: dat soort fatalisme, alsof je overgeleverd bent aan anderen. Ergens klopt dat, maar ik heb wel een keuze in hoeverre ik ergens in meega.”

Knutselen
Docent, schrijver, Bron-columnist maar in dit geval toch vooral AI-specialist en technofilosoof Rens van der Vorst staat er niet van te kijken, van de ophef bij de HAN. “Als iedereen zelf gaat knutselen met AI, dan kan dat gevaarlijk zijn. Ik sluit zeker niet uit dat dit ook bij Fontys gebeurt en dat ook hier dat gevaar bestaat.”

Het probleem met AI, zo zegt Van der Vorst, is dat je tegenwoordig zelf niet veel hoeft te kunnen om toch ingewikkelde dingen te bouwen. “Vroeger moest je op zijn minst zelf kunnen coderen. Dat hoeft niet meer, want dat programmeren doet AI wel voor je. Dus wordt het steeds eenvoudiger om dingen als een custom gpt of chatbot te bouwen. Maar het wordt dus ook steeds belangrijker dat je daar voorzichtig en doordacht mee omgaat.”

Probleem is dat de meeste studenten maar ook docenten waarschijnlijk werken op dezelfde computer die ze ook voor Fontys gebruiken. En zoals voor elke plugin geldt: al heel snel geef je daarmee toegang tot je bestanden en geef je dus ook de controle weg.

“Je geeft een externe actor toegang tot gegevens waar ze niets te zoeken hebben. Op een secure omgeving is dat risico natuurlijk al een stuk kleiner. Factorauthenticatie, waarbij je op je mobieltje eerst een code moet invoeren, maakt het al een stuk beter. Maar al met al wordt het allemaal wel een stuk ‘trickier’.”

“Mijn advies: ook al heb je een scherpe scalpel, dan nog is het niet verstandig om jezelf te opereren. Steeds meer amateurs kunnen nu van alles maken en doen met AI. Maar ook op het gebied van kunstmatige intelligentie is het beter als je zaken overlaat aan de experts.”