Bart Wernaart over ethiek in de technologie: "Kwartje valt nog niet overal"

Met een online openbaar college én een symposium gaat Bart Wernaart volgende week de discussie aan over ethiek in de technologie. Volgens de Fontys-onderzoeker Law & Ethics is een debat over het onderwerp hard nodig. “In technologie speelt andere ethiek dan bij menselijke ethiek. Dat kwartje valt niet overal.”

Ethiek is toch iets menselijks? Wat heeft dat dan met technologie te maken? Het is een reflex die Wernaart herkent. Maar dat is, zo betoogt hij, een misvatting. Met het voortschrijden van de technologie wordt ethiek daarin alleen maar belangrijker.

Kritiek op app
Het meest in het oog springende, actuele voorbeeld is misschien wel de door de overheid gewenste invoering van de corona-app. Daarmee kun je als gebruiker zien of je in de buurt was van iemand die door corona besmet is (geweest).

Die app kreeg veel kritiek. Zo zou hij een inbreuk zijn op de privacy, zorgen voor schijnveiligheid en de effectiviteit van de app zou te wensen overlaten.

Op zich is Wernaart blij met de discussie. Er is wat hem betreft wel een belangrijke ‘maar’: “We kijken alleen naar de gevolgen van zo’n app, van de gebruikte technologie, en niet naar wat je ervoor moet programmeren”, legt hij uit. “Dan ga je voorbij aan wat we er aan de achterkant hebben ingestopt en wat voor waardeoordeel daaraan ten grondslag lag.”

Expert
Sinds een aantal jaren profileert Wernaart zich veelvuldig op het vlak van technologie en ethiek. Zodanig, dat hij in Nederland inmiddels geldt als één van de experts op dit gebied.

Hij werkt als jurist en ethisch docent bij Fontys Hogeschool Economie en Communicatie, schreef verschillende boeken over internationaal recht en ethiek en is onder meer betrokken bij het Fontys-onderzoek Smart Marketing and Strategy. Ook is hij bezig met het uitbouwen van het Moral Lab dat vorig jaar op Dutch Design Week in Eindhoven was te zien en waarbij de ethische voorkeur van mensen in interactie met technologie gemeten wordt.

Moral programming
Om uit te leggen waar zijn vakgebied vooral over gaat, noemt Wernaart het misschien wel bekendste voorbeeld: dat van de zelfrijdende auto. “Stel dat zo’n auto op een bepaald moment alleen linksaf of rechtsaf kan. Linksaf raakt hij een fietser met helm, rechtsaf een fietser zonder helm. De fietser met helm heeft de grootste kans om te overleven. Moet de auto die dan kiezen?”

Voor de auto zit er geen goed of fout in het antwoord. De auto kan niet feitelijk vaststellen dat links beter is dan rechts. “Dan kom je uit bij moral programming (morele programmering, red.). Je komt voor het ethische dilemma te staan wat de auto op dat moment moet doen.”

Hij noemt een (nog fictief) voorbeeld van een HRM-bot. “Mag een algoritme bij een sollicitatieprocedure DNA-data gebruiken, naast je cv en je gedrag op social media? En welke data moeten dan het zwaarst wegen bij een geautomatiseerde selectie van sollicitanten?”

Geen gezellig bijvak
Dat soort technologie komt uiteindelijk neer op wat mensen erin gestopt hebben. “Wie mag daarover gaan? De overheid, of het bedrijf, dat met morele programmatuur ook nog moet kunnen concurreren? Ethiek wordt van een ‘gezellig’ bijvak nu misschien wel de kern van technologische vraagstukken.”

“Er zijn mensen die zeggen dat er een ethische waarheid is, maar dat is best gevaarlijk. Andere mensen stellen dat ethiek relatief is. Dat is ook gevaarlijk, want dat wil zeggen dat iedereen gelijk heeft. In het veld daartussenin moeten we het antwoord op kwesties zien te vinden.”

Het begint met bewustwording in de samenleving. En die laat te wensen over, stelt Wernaart. “Ik mis het onderdeel moral programming in het debat. Wat kun je überhaupt in technologie stoppen? Een geprogrammeerde waarde voor privacy in technologie is niet hetzelfde als de privacy die ik als mens voel. In technologie speelt andere ethiek dan menselijke ethiek. Dat kwartje valt niet overal.”

Online openbaar college en symposium
Om het debat verder aan te zwengelen, houdt Wernaart woensdag 13 mei een online openbaar college in de reeks Fontys for Society. “Ik ga dan proberen een complex vraagstuk eenvoudig uit te leggen aan de hand van kinderspeelgoed. Het is voor een breed publiek. Voor mensen die zeggen: ik heb er nog nooit van gehoord, hoe zit het nu precies?”

Een dag later houdt Wernaart een online symposium. Daarvoor zijn allerlei gastsprekers uit Wernaarts werkveld uitgenodigd, onder wie een aantal lectoren van Fontys en sprekers namens TNO, Stichting WeAre en de gemeente Eindhoven. Verschillende thema’s komen aan bod, waaronder de ethische vraagstukken rondom war-bots: hoogtechnologische wapensystemen.

Drie vragen 
De inhoud van zowel het college als het symposium komt neer op drie vragen, stelt Wernaart. Wat kan ik programmeren (menselijke ethiek is anders dan machine-ethiek), wie moet erover gaan (overheid, bedrijf, of individu) en wat gaan we uiteindelijk doen (knopen doorhakken)? “De eerste twee vragen stellen we niet of nauwelijks. Het lijkt me handig om dat toch wel te doen.”

Die noodzaak is groter, dan menigeen denkt of weet, stelt Wernaart. “We hebben elke dag met dit soort zaken te maken, maar we herkennen het niet per se.” [Erwin Blatter]