Er zijn juist meer ICT'ers nodig
Met AI kun je tegenwoordig in een middag een app bouwen. Een paar prompts invoeren, wat klikken en publiceren. Of te wel: vibe coding. Je beschrijft wat je wilt hebben, AI schrijft de code en voor je het weet staat er iets werkends op je scherm.
Begrijp me niet verkeerd: ik vind dat fantastisch. Wil je een script maken dat automatisch je mailbox opruimt? Prima. Wil je een prototype bouwen om een idee te testen of aan collega's te laten zien? Nog beter.
Maar een recente gebeurtenis in Zwitserland laat zien waar het mis kan gaan. Een medisch professional bouwde met behulp van AI een eigen patiëntensysteem. Patiëntgegevens werden geïmporteerd, consulten werden doorgestuurd naar AI-diensten en het systeem werd online gezet. Vervolgens bleek dat een securityspecialist binnen korte tijd toegang kon krijgen tot alle patiëntdossiers.
Het systeem werkte. Dat was juist het probleem. Omdat het werkte, werd het gebruikt.
Romano Roth verwoordde het treffend op LinkedIn: dit is niet de democratisering van software, maar de democratisering van aansprakelijkheid. Zodra software echte persoonsgegevens verwerkt, houdt het verhaal niet op bij een werkende applicatie. Dan gaat het over beveiliging, privacy, wetgeving, toegangsrechten, beheer en verantwoordelijkheid.
Dat sluit mooi aan bij een recent artikel van onderzoekers Arvind Narayanan en Sayash Kapoor. Zij beschrijven softwareontwikkeling als veel meer dan code schrijven. Eerst moet je bepalen wat je gaat bouwen. Daarna volgt de uitvoering. Vervolgens moet je controleren of het veilig, betrouwbaar en verantwoord gebruikt kan worden. Juist die eerste en laatste stap blijken vaak het meeste werk te kosten.
Dat zie ik ook terug in het onderwijs. Studenten kunnen tegenwoordig in korte tijd indrukwekkende dingen maken. Een chatbot, een dashboard of zelfs een complete applicatie. Maar tijdens gesprekken met studenten merk ik dat de interessantste vragen steeds minder over code gaan. Waar worden gegevens opgeslagen? Wie heeft toegang? Welke risico's zitten er in het systeem? Wat gebeurt er als een AI-model een verkeerde beslissing neemt? En wie is daarvoor verantwoordelijk?
Misschien is dat wel de grootste misvatting van dit moment. Dat AI ervoor zou zorgen dat we minder ICT'ers nodig hebben. Terwijl het tegenovergestelde gebeurt. Hoe makkelijker het wordt om software te bouwen, hoe belangrijker het wordt dat er mensen zijn die begrijpen hoe systemen werken, risico's herkennen en de gevolgen van keuzes kunnen overzien. Alleen moet ict-onderwijs zich dan ook hierop aanpassen! Zo snel mogelijk.
Erdinç Saçan geeft les aan Fontys Hogeschool ICT en is AI-expert. Vorig jaar verscheen van hem het boek AI voor Iedereen. Lees hier zijn eerdere columns voor Bron.
Of je nou Gert Biesta's onderverdeling van het onderwijs gebruikt (kwalificatie, socialisatie, en subjectivering) of spreekt over verantwoord vakmanschap, het lijkt me vooral tijd dat iedere beroepsgroep of vakgebied nadenkt over hoe je opleidt voor een professional waarbij de maatschappelijke inbedding meekomt zodat de toekomstig professional beter leert inschatten wat mogelijke onbedoelde onvoorziene gevolgen zijn van het beroepsmatig handelen.
Wat ik vaak zie bij discussies over AI en de impact ervan is dat het gaat om efficiëntie winst. Maar die efficiëntie winst is wel voor de individu die het gebruikt, niet op collectief niveau.
In de jaren 80 werd gezegd dat we met zijn allen veel minder zouden gaan werken als gevolg van automatisering, de werkelijkheid laat zien dat dat niet het geval bleek te zijn. Dat is ook hierbij weer het geval als je het mij vraagt (maar de toekomst zal het ons leren).
Dus: meer vakmanschap, minder instrumentalisme. Het pleit volgens mij voor een belangrijkere plaats voor ethiek, maar vooral voor een filosofie van technologie en data.
Je hebt dus mensen nodig die de wens weten te vertalen naar een passende oplossing, voor meerdere stakeholders. Natuurlijk Security-built-in en met ethische begrenzingen, vanaf de eerste letter code. Mooi, die kennis hebben we als ICT’ers door schade en schande geleerd.
Maar is dat nu echt anders dan vroegere tijden? Toen de eerste homecomputers kwamen ('computers nemen alles over'), de eerste consumentenmodems ('je zou maar postbode zijn'), de eerste printers, snel internet, mobieltjes, youtube, streaming audio, video, 3d printers, virtual reality, ... We hebben een hoop revoluties gehad, die zeker disruptief waren en daarmee de wereld veranderden. AI maakt daar zeker deel van uit. waaruit we hebben kunnen leren dat de toekomst altijd aandacht verdient maar niet zo goed te voorspellen is. Imho. Leuk en leerzaam om het samen in de gaten te houden, te leren en toe te passen!