Bijna dood door AI

Drie onervaren klimmers wilden Mount Shasta beklimmen, een vulkaan van ruim 4.300 meter hoog in Californië. Geen eenvoudige wandeling: sneeuw, steile stukken, snel veranderend weer en een tocht waarbij ervaring en een goede voorbereiding belangrijk zijn.

Voor die voorbereiding gebruikten ze onder andere YouTube, AllTrails en Gemini. Vooral die laatste hielp bij het maken van hun plan. Ze vroegen AI naar de route, hoeveel eten en water ze moesten meenemen en wat ze onderweg het beste konden eten. Gemini adviseerde bijvoorbeeld eenvoudige koolhydraten en raadde vet eten af, omdat dat te lang zou duren om te verteren.

Het plan zag er overzichtelijk uit. Ze vertrokken om drie uur ’s nachts en rekenden op een tocht van ongeveer acht uur.
De werkelijkheid liep anders.

Om twaalf uur hadden ze eigenlijk moeten omkeren als ze de top nog niet hadden bereikt. Rond één uur bespraken ze nog of ze terug zouden gaan. Ze besloten door te lopen. Pas om zeven uur ’s avonds bereikten ze de top.
Zestien uur na vertrek.

En toen moesten ze nog terug.

Tijdens de afdaling raakten ze van de route en kwamen ze terecht in Mud Creek Canyon. Telefoons en powerbanks vielen uit, één van hen raakte geblesseerd aan zijn knie en ze hadden te weinig warme kleding bij zich om de nacht goed door te komen. Uiteindelijk moesten ze worden gered.

Achteraf zei een van hen: “We relied too much on AI rather than our own critical thinking.” Pijnlijk, want onderweg waren er genoeg signalen. De acht uur uit de planning waren allang voorbij. Het tijdstip waarop ze moesten omkeren ook. Toch gingen ze verder.

Ik moest bij dit verhaal vooral denken aan hoe makkelijk het inmiddels is geworden om AI om advies te vragen. Over werk, gezondheid, geld, reizen en blijkbaar ook over het beklimmen van een berg.

En natuurlijk over onderwijs. Studenten vragen AI hoe ze een opdracht moeten aanpakken, laten een tekst controleren of vragen om uitleg als ze iets niet begrijpen. Dat hoort inmiddels bij hun dagelijkse gereedschap.

Zo’n antwoord ziet er altijd overtuigend uit: strakke bullet points, logische stappen, heldere deadlines. Een prompt intikken voelt immers verdacht veel als het werk al gedaan hebben.

Maar een gegenereerd plan zweet niet, krijgt geen knieblessure en raakt niet onderkoeld in het donker. AI bedenkt de route fluitend in vier seconden, jij bent degene die daarna nog zestien uur door de vrieskou moet sjouwen.

Erdinç Saçan geeft les aan Fontys Hogeschool ICT en is AI-expert. Vorig jaar verscheen van hem het boek AI voor Iedereen. Lees hier zijn eerdere columns voor Bron.