De macht van big tech lijkt geen grenzen te kennen. Dat werd het afgelopen half jaar nog veel zorgwekkender nu die bedrijven (Google, Meta, Microsoft, Apple, Amazon) zich laten sturen door Donald Trump of Xi Yinping.

Rechters in Amerika die in de ban gedaan worden omdat ze iets beslissen dat een president niet behaagt. Hele bevolkingsgroepen – van asielzoekers tot LHBTQIA+’ers, van klimaatdemonstranten tot universiteiten – die worden ‘aangepakt’. Zelfs complete naties en territoria zien hun soevereiniteit bedreigd worden: denk aan Venezuela, Oekraïne, Groenland, Canada, Mexico en Taiwan.

Het heeft de digitale kwetsbaarheid van al bovenstaande maar ook van Europa blootgelegd. Niet voor niets wil de nieuwe regeringscoalitie grip krijgen op digitale autonomie en strategische afhankelijkheid in cloud, data en cruciale systemen afbouwen.

En het is geen ver-van-mijn-bed-show. Ook een onderwijsinstelling als Fontys heeft hier direct mee te maken. Wat kan de dienst I&T, die de digitale veiligheid van Fontys bewaakt, daar tegen doen? Waarom geen eigen datacenter, als Fontys of in samenwerking met andere hoger onderwijsinstellingen? Hoe kun je je weren tegen digitale vernieuwingen die verdacht of ronduit fout zijn?

Lastig
Thom Rutten is sinds dit collegejaar directeur van de dienst I&T. Hij heeft misschien wel de moeilijkste baan binnen Fontys gezien alle razendsnelle veranderingen die van buitenaf op de dienst afkomen. “Het is lastig. Ik herken al die vraagstukken wel, het zijn precies de zaken waar ook wij mee zitten bij de dienst."

"Waarbij die hele soevereiniteitsvraag wel relatief nieuw is; pas sinds kort is het een maatschappelijke discussie geworden. Probleem is: als je daar echt iets aan wilt doen, zul je afspraken moeten maken. Met BigTech zoals Microsoft. Maar je hebt ook te maken met vendor lock-in: als een grote partij kleinere partijen overneemt of wanneer er nog maar één aanbieder zou zijn voor bijvoorbeeld roostering. Ook dat beperkt dan onze soevereiniteit.”

Een andere factor is volgens Rutten de ‘exit strategie’: “Is het technisch, contractueel et cetera wel mogelijk om na afloop van een contractperiode weer in alle transparantie een keuze te maken of is overstappen, het maken van een andere keuze, niet te betalen of te organiseren? Dat is lastig voor ons als ‘kleine partij’. Op al die punten zijn we als dienst voortdurend in gesprek.”

Wel start Fontys nu binnen SURF-verband met een pilot Nextcloud, dat al getest wordt door academische ziekenhuizen en universiteiten. Maar alles dat wordt veranderd, vraagt meteen ook veel van de gebruikers. Van studenten en medewerkers dus. Rutten: “Wat we dan horen is dat het allemaal niet zo makkelijk en soepel meer is als dat ze gewend waren.”

Microsoft 
Fontys is, net als alle hoger onderwijsinstellingen in Nederland, zwaar afhankelijk van Microsoft: het besturingssysteem, maar ook Teams, Sharepoint, Pilot, enzovoorts. Meer dan 80 procent van alle digitale infrastructuur in het hoger onderwijs komt van Microsoft. Ter vergelijking: in Duitsland is dat slechts 15 procent.

Maar Nederland is een ‘handelsland’, en dat blijkt ook hier. Microsoft biedt namelijk zijn producten spotgoedkoop aan. Het bedrijf hoopt daarmee toekomstige klanten, de studenten dus, aan zich te binden. Rutten: “Nou, spotgoed is het niet. Geloof me, de rekeningen zijn hoog. Wel hebben ze voor veel zaken een oplossing, werken toepassingen goed samen en is het gebruikersgemak hoog. Allemaal zaken die wij graag willen.”

Losweken van Microsoft betekent een hogere kostprijs, lager gebruikersgemak en een spelletje Mikado van de buitencategorie. Want alles is niet zomaar uit elkaar te trekken en te vervangen. Meer soevereiniteit, meer autonomie is een duur en complex vraagstuk.

“Dit is ook precies waar binnen het hoger onderwijs, binnen SURF, de discussie over gaat. We zijn als Fontys te klein en moeten wel samenwerken. Op het gebied van cybersecurity werken we ook nauw samen met elkaar, onze buren van de TU/e zijn een belangrijke speler als het om veiligheid gaat.”

”Maar het speelt veel breder. Ook onder de chief information officers (ciso's) van Nederland is dit het grootste thema. Twee weken terug was onze eigen ciso Hub Gerats bij de lancering van de Cyber Hub. Op initiatief van de provincie zoeken de grootste Brabantse organisaties zoals ASML, gemeenten en het onderwijs elkaar op op het gebied van cybersecurity. Alles en iedereen is op dit moment bezig met dat soevereiniteitsvraagstuk.”

Afhankelijkheid
Begint het er dan niet mee dat Fontys net als jaren terug zijn eigen datacenter heeft? Dat alles op eigen servers draait? Dat die afhankelijkheid van big tech in elk geval op dat punt al minder wordt, en dat data letterlijk binnen de eigen Fontysmuren blijven?

Jos van Bijnen is security specialist bij Fontys I&T. “Ja, technisch gezien kun je zo weer een eigen datacenter opzetten. Dan heb je echter ook rekening te houden met de extra kosten die dat met zich mee brengt. Niet alleen aan onderhoud maar bijvoorbeeld ook wat een datacenter aan stroom consumeert. Bij elke vraag aan AI wordt er al gauw een paar honderd watt verbruikt. Doe dat maal het aantal studenten en we kunnen wel wat extra zonnepanelen gaan plaatsen op het dak van de campus.”

Helmut Grams, information security officer en directe collega van Van Bijnen: “Het is ook nog moeilijker geworden door de wetgeving voor security en AVG.  De big tech-giganten komen telkens weer met nieuwe tools die fantastisch werken. Maar die meteen ook overal inzitten. En niet zomaar vervangbaar zijn.”

“Dit werk is een speciale tak van sport. Doorlopend moeten we processen afstemmen om de beveiliging op orde te houden. We zijn nooit klaar. Al was het maar omdat hackers altijd wel weer iets nieuws verzinnen.”

AI en privacy
En AI is daarbij, alleen al als het gaat om die Algemene Verordening Gegevensbescherming (AVG), een van de grootste hoofdpijndossiers.

Van Bijnen: “Het moeilijke is dat wij gebonden zijn aan de AVG-regels. Juist daardoor kunnen we ook niet controleren of er AVG-gegevens naar AI’s gaan. Het enige wat wij kunnen doen is zorgen dat de risico’s zo klein mogelijk zijn. Daarbij focussen we op de dingen die bij Fontys binnenkomen en die we niet vertrouwen. Zoals die twee malafide Chrome extensies waarover wij vorige week een waarschuwing hebben gedeeld.”

Grams: “Daar moeten we ons, in het hoger onderwijs, in Nederland, in heel Europa, nu dus ineens over beraden: hoe krijgen we een stukje digitale autonomie terug. De opkomst van AI en straks de quantumcomputer, want die komt er hoe dan ook, maken dat moeilijker.”

Vooral de quantumcomputer is weer een nieuwe grote bedreiging. Van Bijnen: “Die is zo krachtig, die kan straks alles kraken. En wat is je data nog waard als de encryptie niet meer deugt?”

Rutten geeft tot slot aan hoe lastig het is om de gulden middenweg te vinden. “Ik zeg niet dat we nu te weinig middelen hebben, want we hebben de boel hier bij de dienst echt wel stevig staan. Wel is er steeds meer data nodig om processen goed te laten verlopen. Dus de vraag is: hoeveel geld, moeite en personeel wil je inzetten voor het beperken van  digitale risico’s en het verbeteren van je autonomie?”

Kunstmatige intelligentie gaat het hoger onderwijs en wetenschappelijk onderzoek behoorlijk veranderen, maar hoe? En moeten we het allemaal maar over ons heen laten komen? “We moeten zelf bepalen wat we wel en niet acceptabel vinden, in plaats van meebewegen met de markt.”

Expert Marleen Stikker kiest haar woorden zorgvuldig en wil zeker niet de indruk wekken dat ze ‘tegen’ artificial intelligence (AI) is, maar ze komt wel bij een radicale conclusie uit: het hoger onderwijs zou een schadeclaim moeten indienen bij de grote techbedrijven.

Mystificatie
Je hebt twee stromingen in de kritiek op AI, zegt Stikker. “Eén stroming heeft het over ‘existential risks’ en claimt dat AI in de toekomst de mens zal onderwerpen. Die stroming komt vooral uit de techindustrie zelf. Sam Altman van OpenAI bijvoorbeeld reist heel Europa door om iedereen te vertellen dat de mensheid op het spel staat.”

Stikker keert zich tegen zulke ideeën, alleen al omdat ze die onwetenschappelijk vindt: “Ze dichten AI meer dan menselijke intelligentie toe en doen alsof het een eigenstandige macht is. De menselijke intelligentie is vele malen complexer en ingenieuzer dan computing.” Bovendien leidt het volgens Stikker de aandacht af van wat er feitelijk aan de gang is. “Mensen als Altman roepen in het openbaar dat er regels moet komen, terwijl zijn bedrijf in Europa aan het lobbyen is tegen AI-wetgeving.”

Die eerste ‘kritische’ stroming is vooral een vorm van reclame, meent ze. “De AI-industrie voedt de mystificatie en jaagt angst aan. De samenleving weet niet meer hoe te handelen en vraagt dan hulp van dezelfde onheilsprofeten die AI over ons uitstorten.”

Grote vraagstukken
En die tweede stroming? “Die kijkt naar de grote vraagstukken en problemen van AI zoals die zich in de praktijk voordoen. Daar moeten we nu mee aan de slag, anders ondermijnt AI onze democratie en zelfbeschikking. Er is geen tijd te verliezen. We moeten ons geen angst laten aanjagen, maar vragen stellen. Bijvoorbeeld: van wie zijn die data waar AI mee getraind wordt? Dat is een machtsvraagstuk. Op oneigenlijke gronden zijn wetenschappelijke en culturele producties toegeëigend. Er zijn maar een paar partijen met genoeg kapitaal om dat kunnen, en dat zijn private partijen met specifieke belangen.”

Deze nieuwe vorm van AI (‘generatieve AI’) wordt al ingebouwd in sociale media, werkprocessen en educatieve programma’s, waarschuwt Stikker. “Veel mensen doen alsof het allemaal onvermijdelijk is: we zouden het ons niet kunnen permitteren om AI buiten de deur te houden, want dan zou je studenten tekortdoen. Maar is dat ook zo? Hebben we daar onderzoek naar gedaan? Waarom laten we toe dat deze technologie zonder procedures en gecontroleerde trials de wereld in wordt geslingerd?” [Tekst loopt door onder foto]

Het probleem is niet dat technologie grote veranderingen teweegbrengt, legt Stikker uit. “Dat kennen we natuurlijk wel. Dat zal ook altijd zo blijven. Het is ook niet erg dat AI ons voor allerlei fundamentele vragen stelt, want die zijn interessant. Wat is kennis, wat is samenhang, welke bias zit er in data? Je moet ChatGPT eens een vraag stellen over een onderwerp waar je zelf echt iets van weet, dan zie je wat een onzin er soms uitkomt.”

Het probleem is dat de macht bij partijen ligt die tot dusver hebben laten zien dat ze niet goed met die macht kunnen omgaan, meent Stikker. “Ze hebben zich data toegeëigend die niet van hen zijn. Daar komen ook al die rechtszaken vandaan. Jan en alleman stapt naar de rechter, want die bedrijven hebben gewoon alles binnengehaald van websites en trekken zich niets aan van intellectueel eigendom of het publieke domein."

"Ze privatiseren data die niet van hen zijn. Ze hebben de website van Waag Futurelab bijvoorbeeld ook leeggetrokken, terwijl wij een ‘creative commons-licentie’ hanteren, die commercieel gebruik verbiedt. Mediabedrijven als The Guardian blokkeren nu bedrijven als OpenAI die hun content stelen. Universiteiten zouden dat ook moeten doen.”

Voedsel en farmacie
Mensen kunnen al die informatie en wetenschappelijke artikelen óók lezen, maar als een AI-programma dat doet, zijn de effecten van een andere orde. “Denk alleen al aan de gevolgen van desinformatie. De problemen buitelen over elkaar heen. We zouden dit nooit accepteren als het bijvoorbeeld over innovaties in de farmaceutische industrie ging."

"Daar hebben we bepaalde mechanieken omheen gezet: je doet een uitgebreide trial, je kijkt zorgvuldig naar de gevolgen, je hebt een ethische commissie. Er zijn ook toezichthouders als het College ter Beoordeling van Geneesmiddelen (CBG) en het Europees Medicijn Agentschap (EMA). Bij innovaties van de farmaceutische industrie zeggen we niet: we moeten er meteen in meegaan, anders missen we de boot.”

Voor het onderwijs is het grote gevaar volgens haar niet dat studenten weleens ChatGPT gaan gebruiken om een redelijk essay te schrijven. Dat komt hooguit op de tweede plaats. “Ik zou willen dat de onderwijswereld zegt: van wie is deze technologie eigenlijk? Het onderwijs zou moeten meebepalen wat wel en niet mogelijk is met ChatGPT. Nu schieten we in de verkeerde reflex: o jee, hoe moet het verder met onze wetenschappelijke methodiek en onze toetsen? We zijn veel te volgzaam.”

Schade
Sterker nog, de wetenschap en het onderwijs zouden de techbedrijven moeten aanklagen, meent Stikker. “Ze hebben op oneigenlijke gronden wetenschappelijke kennis opgeslorpt en brengen een product met gebreken op de markt, waar het hoger onderwijs schade van ondervindt.” [Tekst loopt door onder foto]

En het probleem was te voorzien, meent Stikker, maar daar hebben de bedrijven zich niets van aangetrokken. “Al het werk dat we in het onderwijs en onderzoek doen, loopt schade op. En hoe hou je de integriteit van de wetenschap overeind? De kosten zijn gigantisch. Het lijkt me interessant om te onderzoeken of je een claim kunt indienen.”

Geen verbod
Daarmee is niet gezegd dat ze tegen deze nieuwe AI is, onderstreept Stikker. “Ik wil niet betogen dat het verboden zou moeten worden. Maar we moeten wel greep krijgen op het proces waarmee we nieuwe technologie in de samenleving introduceren.”

AI roept natuurlijk wel allerlei interessante vragen op. “En dat vind ik juist heel leuk. In het onderwijs moeten we met elkaar in gesprek gaan: moeten we misschien op een andere manier gaan toetsen? Nu laten we studenten vaak een essay schrijven van het type ‘A zegt dit, B zegt dat, en nu komt mijn conclusie’. Misschien kan dat anders en moeten we meer nadruk leggen op creative writing in plaats van academisch schrijven. En stellen we wel de juiste vragen? Kunnen we studenten niet beter vragen om iets te ontwerpen in plaats van een essay te schrijven? In de techniekstudies is dat tamelijk gebruikelijk, maar dat zou in de sociale - en geesteswetenschappen ook kunnen.”

Data en waarheid
De nieuwe technologie roept ook allerlei interessante vragen op over feiten en waarheid. “Er zitten complexe vraagstukken achter, waar je met studenten naar kunt kijken. Het is heel belangrijk dat ze begrijpen dat data en algoritmes niet neutraal zijn. Zulke vragen slaan we vaak over, terwijl ze fundamenteel zijn om te begrijpen waar je mee werkt. Dat zie je ook in andere vakgebieden, bijvoorbeeld de economie: hoe meet je welvaart?” 

De vraag is ook wat we intelligentie noemen. “Het heet artificial intelligence, maar het is eigenlijk computing, oftewel de verwerking van data. Dat vind ik eigenlijk het allerspannendste rond AI: de aannames over intelligentie en bewustzijn. Waarom denken we dat we de werkelijkheid tot data kunnen reduceren? Je ziet ook altijd een waarschuwing bij die programma’s staan: ze kunnen ernaast zitten. Zo onttrekken ze zich dus aan hun verantwoordelijkheid, wat je als mens niet kunt doen.”

Om hier inzicht in te krijgen, moeten de verschillende wetenschappen meer samenwerken, meent ze. “Straks kun je niet meer zeggen: hier heb je bèta, daar heb je alfa, daar heb je gamma. Je moet vraagstukken in samenhang zien, vanuit allerlei disciplines. Studenten moeten samen die algoritmes leren bevragen.”

Financiering
Eigenlijk moet ook de financiering van het onderzoek naar AI op de schop, meent Stikker. “Nu kunnen we alleen een grootschalig onderzoek doen als het bedrijfsleven eraan meebetaalt. Een vakbond heeft bijvoorbeeld de middelen niet om zoiets te financieren. Dat doet iets met de vraagstelling. De slachtoffers van de toeslagenaffaire hebben geen toegang tot data of AI-systemen om de overheid te controleren.”

Stikker is zelf raadslid bij de Adviesraad voor Wetenschap, Technologie en Innovatie (AWTI). Kan dat adviesorgaan zich er niet op storten? Stikker spreekt op persoonlijke titel, onderstreept ze, en niet namens de AWTI. “Maar verschillende adviezen sluiten hier zeker bij aan.”

Ze verwijst naar een recent advies over ‘erkennen en waarderen’ en de kwaliteit van wetenschap. Verder werkt de AWTI aan een advies over innovatie in de sociale - en geesteswetenschappen, dat begin volgend jaar uitkomt. “Ook daarin kunnen we niet om AI heen.”

Taalmodel
Wat studenten in elk geval moeten begrijpen, is dat zogeheten generatieve AI een taalmodel is. “Het genereert tekst en beeld op basis van computing, maar van echte betekenis is geen sprake. De modellen produceren een soort reader’s digest van verschillende databronnen, en geen waarheid.” [HOP, Bas Belleman]