Pas op student: bij AI kun je niet schuilen als het regent

Tal van studenten zien een AI-chatbot niet alleen als hulpmiddel maar ook als hun intiemste vriend en ideale gesprekspartner bij mentale problemen. Experts over de hele wereld hebben hun zorgen hier over uitgesproken. Bart Wernaart schrijft in onderstaande opinie dat hiervoor ook bij Fontys meer aandacht mag zijn. “ChatGPT heeft niet per se het beste met je voor.”

Alweer een stuk over AI. Alweer een met een bromsnorrende ondertoon die niet goed uitpakt voor Chat en kornuiten. Maar het is helaas wel nodig. Dit keer is het goed om het eens te hebben over AI en ons emotionele welzijn.

Waar het debat binnen onze hogeschool vaak gaat over AI en de kwaliteit van toetsing, onderwijs, eindwerken etcetera, gaat het misschien nog wat te weinig over ons welzijn, en vooral het welzijn van onze studenten. 

Collega Erdinç Saçan schreef hier een (zoals altijd) prikkelend stuk over -samen met Sander Duivestein- in het Nederlands Dagblad met de pakkende kop: ‘AI is een vriend die je altijd gelijk geeft, maar die je nooit had willen hebben.’

Hij wijst ons onder meer op de gevaren die ontstaan wanneer we AI-systemen als mensen, vrienden of zelfs vertrouwelingen gaan behandelen. En daar moeten we het denk ik echt wat meer over hebben.

Digitale offloading
Wanneer we AI gaan gebruiken als (vervanging voor) sociaal contact en emotionele interactie hebben we een serieus probleem op meerdere vlakken. 

Marieke van Vliet, Kelly Beekman en ondergetekende waarschuwden eerder voor digitale offloading van kennis en het afvlakken van de menselijke geest door onproductief AI gebruik: ‘door het gemak van veel AI toepassingen en de stelligheid waarmee AI haar uitkomsten presenteert, zijn we snel geneigd achterover te leunen en deze resultaten weinig kritisch en klakkeloos te gebruiken. Wat we hiermee dus inleveren is de capaciteit om frisse ideeën te hebben en bestaande ideeën kritisch te beoordelen.’  

Dit geldt niet alleen voor kennis en de manier waarop we naar de wereld kijken, maar geldt ook voor onze emotionele creativiteit. In wezen is een prompt een manier om een systeem te manipuleren waardoor je een bepaalde output krijgt.

De manier waarop je prompt is daarbij erg bepalend, en het is een taalkunst op zich om ervoor te zorgen dat -bijvoorbeeld- ChatGPT iets oplevert waar je nieuwe inzichten door krijgt. Deze inzichten zijn een gevolg van wiskundige vergelijkingen (ik zal vast op mijn kop krijgen van AI-technici met deze platgeslagen retoriek: sorry alvast), maar zeker niet het gevolg van oprechte zorg en betrokkenheid.

Een schijngesprek
Doordat ChatGPT heel vriendelijk en soms inlevend lijkt en soms menselijke ideeën aan elkaar kan knopen die we zelf niet eerder in verband brachten, kan het lijken alsof het echt met een nieuw idee kan komen. Maar in wezen is het onder aan de streep een combinatie van een gewogen gemiddelde dat een logisch berekend taalkundig gevolg is van je prompt. 

Tel daarbij op dat veel LLM modellen een culturele en ethische bias hebben, en het voor de gebruiker in veel gevallen lang niet altijd duidelijk is hoe het tot bepaalde inzichten komt. Hierdoor heb je een schijngesprek met een ondoorzichtig systeem waarvan je niet weet wat het motief is. 

Je kunt er immers geen relatie of vertrouwensband mee opbouwen waarbij je kunt varen op goede intenties. ChatGPT heeft niet per se het beste met je voor. Het rekent gewoon dingen uit. Slecht idee dus om hiermee je diepste worstelingen te bespreken.  

Emotionele creativiteit
Moeilijke dingen bespreken met vrienden of familie vraagt soms niet alleen om lef, maar ook om communicatievaardigheden. Dat is iets wat we bij uitstek zouden moeten ontwikkelen tijdens onze studententijd. 

Ik kan me goed voorstellen dat het wel heel verleidelijk is om je diepste gevoelens bloot te geven aan een machine, omdat het laagdrempelig is, je niet hoeft te dealen met de emotie of het oordeel van de toehoorder, en je het kan doen vanuit de ogenschijnlijke veiligheid van een zolderkamer. 

De kans is bovendien groot dat je op een dusdanige manier prompt dat je een voor jou veilig, voorspelbaar en wenselijk antwoord krijgt. Hierdoor belandt je mogelijk in een continue loop van zelf-stereotypering die je niet verder gaat helpen.

Bovendien, en misschien nog veel belangrijker, ontneem je jezelf de ervaring die nodig is om je eigen emotionele creativiteit vorm te geven. Deze ontstaat uit de interactie met mensen om je heen. Vrienden, familie of studiegenoten die je een ander perspectief kunnen voorhouden gebaseerd op zeer genuanceerde (en persoonlijke) levenservaring, in plaats dus van een gecalculeerd gemiddelde of logisch gevolg van een prompt. Je hindert jezelf in je ontwikkeling, terwijl je die ontwikkeling -zeker wanneer je het even moeilijk hebt-  juist ontzettend hard nodig hebt om met emotioneel lastige situaties om te gaan.       

Wij zijn Fontys
Tot slot: ik loop al wat jaren mee in onze mooie Fontysorganisatie. En door alle complexe en soms schokkende ontwikkelingen in de maatschappij, al dan niet twijfelachtige onderwijsvernieuwingen en technologische veranderingen heen is er één ding altijd hetzelfde gebleven. Docenten die er altijd zijn voor studenten, en dat met hun hele ziel en zaligheid.

Docenten zijn namelijk een bepaald slag volk dat zich tot (professionele levens-)taak stelt om het beste uit een nieuwe generatie mensen te willen halen, en te helpen in hun zoektochten. Beste student: mocht je donkere gedachten hebben en niet meer weten waar je heen kunt, dan weet ik zeker dat je -naast je studiegenoten- op iedere Fontyslocatie een willekeurige collega kunt aanspreken die oprecht om je geeft. Die naar je wilt luisteren en met je kan uitdokteren waar je misschien heen moet om verder te kunnen. 

En mocht het regenen (al dan niet in je hoofd) en je mij ergens tegenkomen, dan mag je altijd komen schuilen. Ik zal er zijn, net zoals mijn +/- 4999 collega’s.

Mr. Dr. Bart Wernaart is lector Moral Design Strategy en leading lector van het Center of Expertise (CoE) for Sustainable and Circular Transitions. Daarnaast is hij ook professioneel drummer, componist en dirigent.