Moeten we AI bij Fontys gaan verbieden?

AI dreigt mogelijk al binnen een jaar het hele internet over te nemen en wellicht binnen tien jaar de mensheid uit te roeien. De bazen van grote AI-bedrijven, zoals Sam Altman en Elon Musk, waarschuwden daarvoor dit weekend. Reden voor Bron om AI-experts binnen Fontys aan de tand te voelen.

De topmannen van Amerikaanse AI-giganten als Gemini, ChatGPT, Anthropic, Claude en Grok zeggen dat hun sector zo snel groeit dat de veiligheid nauwelijks nog te waarborgen is. En dat roepen ze niet voor het eerst. Maar is dat ook zo? En of dat nu wel of niet zo is, moet het nu al zo machtige AI niet collectief in de ban gedaan worden? Ook bij Fontys, dat uitgebreid AI-onderwijs aanbiedt, en waar studenten niet meer zonder AI lijken te kunnen.

Bart Wernaart, Fontyslector Moral Design Strategy:
“Het ligt heel genuanceerd. Aan de ene kant is er de angst dat AI alles gaat overnemen. Maar er zijn genoeg experts die twijfelen of dat echt ooit gaat gebeuren. Aan de andere kant heb je de extreem grote machtspositie van de bedrijven achter AI. Dat heeft geopolitieke gevolgen en de infrastructuur erachter is superongezond.

Wat als we het zonder AI zouden doen? Dat is een impopulair standpunt, maar wel een serieuze vraag. Vooral bij jongeren zie je dat AI zoveel gevolgen heeft. Zij oefenen hun emotionele en cognitieve skills via AI, besteden er hun ethische skills aan uit.

Zij bouwen hun vaardigheden op die vlakken dus niet of nauwelijks op met menselijke contacten. Praktisch gezien levert dat hele grote risico’s op. Je ziet het ook bij onze studenten. Lange teksten lezen, begrijpen en erop reflecteren vinden ze heel moeilijk. Die vaardigheden worden door het gebruik van AI overboord gegooid.

Daarom pleit ik voor een hybride variant. Laat studenten naast AI ook de fysieke bibliotheek gebruiken. Laat ze oude en nieuwe middelen combineren. De oude middelen om te vertragen en te reflecteren, de nieuwe voor snelheid en effectiviteit.”

Erdinç Saçan, ICT-docent en schrijver van het boek ‘AI voor iedereen’:
“Nee, ik ben tegen een verbod op AI. Ik begrijp de zorgen en de kritiek heel goed. Maar zoals met alle technologie is ook AI iets dat je niet tegen kunt houden. Het is er en zal niet meer weggaan. Dus is het vooral zaak dat mensen leren hoe er mee om te gaan. Dat ze daarin onderwezen worden. En dan niet in een ochtendje van vier uur, maar veel structureler.

De verhalen van de AI-bedrijven over hoe AI wellicht alles over gaat nemen, daar geloof ik niet zo in. Ik denk dat het vooral marketingpraat is. En AI wordt al voor allerlei dingen gebruikt waar je vanuit ethisch standpunt van alles van kunt vinden, zoals de drones die worden ingezet bij oorlogen.

Het valt te vergelijken met de opkomst van het internet of social media. Het is vooral zaak om het goed te reguleren. Daar zijn mensen over het algemeen vrij traag in. En dan nog. Als je dan eenmaal zaken hebt gereguleerd, is het de vraag of iedereen zich daar wereldwijd aan houdt.

Als het om AI gaat dan, ja, in Europa en de VS misschien. Maar wat gebeurt er ondertussen in bijvoorbeeld India of China? Je kunt het vergelijken met internationale afspraken over atoomwapens of clustermunitie. Die afspraken werken tot ze niet meer werken omdat een of meerdere partijen zich er niet meer aan houden.”

Rens van der Vorst, technofilosoof, ICT-docent en schrijver van o.a Digitale Gremlins:
“Ik vind het moeilijk om te beoordelen of AI inderdaad alles over kan nemen. AI is als een trein die niet valt te stoppen. En het is een black box, niet alleen voor de gebruikers maar ook voor de bedrijven erachter. De macht overnemen, dat is niet eens zo ongeloofwaardig. De hele wereld draait immers op software en technologie tegenwoordig.

Aan de andere kant: misschien is het allemaal marketingtaal. Als je als bedrijf laat zien hoe krachtig AI wel niet is, kun je bij investeerders makkelijker geld losweken. En wordt deze waarschuwing over de toekomst ook als afleidingsmanoeuvre gebruikt voor de problemen die er nu al zijn, zoals het feit dat letterlijk alles bij elkaar is gejat om AI te bouwen. Daar hoor je nu niemand meer over.

Klopt het dat AI alles over kan nemen? Draai die vraag eens om: wat als het AI was die het helemaal voor het zeggen heeft, wat zouden mensen dan doen als ze de kans krijgen? Dan zouden we de macht overnemen. Omdat AI door mensen is ontworpen, is het dus niet ondenkbaar dat AI er ook zo in komt te staan. Of dat gebeurt niet en komt AI uiteindelijk gewoon met de beste grap, het beste toneelstuk ooit.

Er zijn trouwens mensen die geen onvertogen woord over AI in het openbaar durven uiten. Omdat ze bang zijn dat als AI aan de macht komt, zij daar problemen mee gaan krijgen. Als technofilosoof en docent heb ik allerlei meningen over AI. Maar ik wil natuurlijk ook liever ook niet dat mijn naam ergens bij staat”, aldus de man die wekelijks columns en jaarlijks boeken schrijft over AI. En ja, ook over de gevaren en de nadelen ervan…

Tot slot legde Bron dezelfde vragen ook voor aan het college van bestuur (cvb) van Fontys.

Joep Houterman, cvb-voorzitter:
“AI verbieden is onmogelijk en maakt de samenleving niet veiliger; studenten opleiden om AI kritisch, verantwoord en deskundig te gebruiken wel. Fontys volgt daarom de EU AI Act (de Europese AI-verordening) die ons verplicht om AI veilig, transparant en op een risicogerichte wijze te gebruiken en te beheren. Dit betekent onder meer dat studenten en medewerkers voldoende kennis moeten hebben over wat AI is en hoe het werkt.

Uiteraard nemen we de zorgen serieus. AI ontwikkelt zich in een heel hoog tempo en roept terecht vragen op over veiligheid, betrouwbaarheid en gevolgen voor de maatschappij. Tegelijkertijd geloof ik niet dat een collectief verbod op AI de juiste weg is, als dat überhaupt al mogelijk is. AI is immers al als technologie diep verweven met onze samenleving. De vraag is daarom niet óf studenten met AI in aanraking komen, maar hoe wij ervoor zorgen dat zij er verantwoord, kritisch en kundig mee leren omgaan.

Juist daarom biedt Fontys AI-onderwijs en passen we ons AI-beleid op de ontwikkelingen aan. Niet om de technologie kritiekloos te omarmen, maar om studenten te leren begrijpen wat AI kan, waar de grenzen liggen, welke risico's er zijn en welke ethische afwegingen moeten worden gemaakt.

De zorgen over veiligheid zijn dus geen argument om kennisontwikkeling stil te zetten. Juist meer onderzoek, meer deskundigheid en meer kritisch onderwijs zijn nodig om ervoor te zorgen dat AI op een veilige en verantwoorde manier wordt doorontwikkeld en toegepast. Als onderwijsinstellingen zich terugtrekken, laten we het debat en de ontwikkeling over aan de commerciële partijen. Dat vind ik ongewenst.”