Van boek tot verordening: altijd ontwikkelingen met AI

De AI-verordening, ook bekend als de AI Act, is goedgekeurd door het Europees Parlement. Heeft dat merkbare gevolgen voor Fontys? ICT-docent Erdinç Saçan kan er ons alles over vertellen. Hij brengt binnenkort immers niet voor niks samen met drie collega’s een boek over AI op de markt.

Een AI-verordening, wat is dat in hemelsnaam? Voor mensen met weinig of geen technische kennis zal het klinken als een vage term. Tijd dus voor een korte en heldere uitleg. AI biedt kansen en voordelen op heel veel verschillende gebieden, maar het neemt ook risico’s met zich mee. En om die risico’s zo laag mogelijk te houden, zijn er regels opgesteld voor het gebruik van AI in de Europese Unie.

Bron vraagt Erdinç Saçan om meer duidelijkheid. Want als er iemand is die alles over AI kan vertellen, dan is hij het wel. De ICT-docent kreeg een jaar geleden vanuit uitgeverij Noordhoff de vraag of hij een boek wilde schrijven over AI. Dat heeft hij gedaan, in samenwerking met zijn drie ICT-collega’s Ruud Huijts, Koen Suilen en Danny Bloks. Daarover later meer.

Niet voelbaar
Volgens Saçan is de AI Act de meest snelle aangenomen verordening die bij het Europese Parlement is doorgevoerd en krijgen we er direct of indirect allemaal mee te maken. Misschien ook bij Fontys, al zullen we daar volgens de docent in de eerste plaats niet veel van voelen.

“De Europese Unie heeft basale richtlijnen opgesteld waar bedrijven en overheden zich aan moeten houden bij het gebruiken en inzetten van AI. Het mag bijvoorbeeld geen gevaar vormen voor de mens. AI mag geen gedrag manipuleren, mag iemand niet tot bepaalde keuzes, een bepaalde kledingkeuze of bepaald gedrag dwingen. Maar AI mag iemand ook niet classificeren op status, woonplaats of verdiensten."

Een ander voorbeeld heeft een directere link met het onderwijs. Saçan heeft het over toezichttechnologie, zoals de tentamensoftware Proctorio, die bijvoorbeeld wordt ingezet bij online toetsen. Onlangs werd bekend dat deze technologie donkere gezichten veel minder goed zou detecteren, wat discriminatie in de hand werkt. “Bij Fontys wordt deze software niet gebruikt, maar bij andere scholen wel. Hoewel Fontys niet direct de gevolgen van de verordening zal voelen, krijgen we er indirect wel mee te maken.”  

Leven en leren met AI
Goed, dan terug naar het boek van Saçan en zijn collega’s. Dat heet ‘Leven en leren met AI’ en wordt half mei uitgebracht. “De reden dat het zo lang heeft geduurd, heeft te maken met de snelle ontwikkelingen rondom AI. Elke dag komen we wel weer iets nieuws over dit onderwerp te weten. In principe zouden we dus dagelijks een nieuw hoofdstuk aan het boek kunnen toevoegen. Maar op een gegeven moment moet je zeggen: dit is het eindmoment en hier houden we het bij.”

Het boek is bedoeld voor studenten en alle anderen die op een laagdrempelige manier over AI willen leren. Na het lezen van het boek zou iedereen de basis moeten hebben om een keuze te maken om al dan niet AI in te zetten, een keuze te maken over welke vorm van AI wordt ingezet en om ethische afwegingen hierin te maken.

“Er zitten belangrijke hoofdstukken tussen over maatschappelijke impact en de valkuilen van AI, maar ook over de ecologische kant. Het is absoluut niet de bedoeling om mensen bang te maken, we willen vooral een laagdrempelige handleiding aanbieden waarmee mensen kunnen zien wat ze met AI kunnen doen. Hoe zet je het in tijdens je eigen leerproces en hoe leer je een bepaald vak met generatieve AI?”