Hoe en waarom is dit boek tot stand gekomen?
Het begon met een werkgroep met en voor informatieprofessionals, die een voorliefde voor filosofie delen. We bogen ons over hoe je het kritisch denken binnen organisaties kunt bevorderen. En dan met name binnen de context van ons werkterrein: informatisering. Dit boek, gericht op het belang van logisch en ethisch denken en handelen, is hier uit voortgekomen. Hiermee willen we bijdragen aan meer bewustwording rond de impact van digitalisering en aan meer autonomie in het denken van mensen hierover. We zien dat de focus op ethiek de laatste jaren duidelijk is toegenomen in de digitale wereld. Logisch, want het aantal incidenten en vraagstukken rondom digitalisering is de afgelopen jaren sterk gestegen.
Welke zijn de belangrijkste?
Om te beginnen kan digitalisering leiden tot allerlei vormen van oneerlijkheid. De toeslagenaffaire is maar een van de vele voorbeelden die laat zien waar verkeerd gebruik van algoritmes toe kan leiden, denk aan het discrimineren van bepaalde groepen. Daarnaast biedt digitalisering steeds meer ruimte aan criminelen om te stelen, te frauderen en mensen op te lichten. Maar ook machthebbers kunnen misbruik maken van digitale vormen van communicatie; zoals Donald Trump die via Twitter allerlei persoonlijke boodschappen deelde met zijn volgers, met als gevolg de bestorming van het Capitool in 2021. En Rusland is het schoolvoorbeeld van een land dat sociale media misbruikt om de publieke opinie te bespelen. Daarnaast hebben grote internetbedrijven als Google, Apple en Facebook extreem veel invloed op welke informatie wij krijgen voorgeschoteld. Digitalisering kan al met al leiden tot alternatieve waarheden en uiteenlopende desinformatie, wat op zich ook een grote bedreiging is.
En door digitalisering staat onze privacy ook steeds meer onder druk?
Zeker. De Algemene Verordening Gegevensbescherming die de EU in 2016 instelde, leidde ertoe dat organisaties veel voorzichtiger moeten zijn met onze persoonsgegevens. Maar zo’n maatregel is niet afdoende. Als burger heb je nu onder andere het recht om bij organisaties te checken welke persoonsgegevens zij van jou hebben opgeslagen. Maar is daarmee jouw privacy in praktijk voldoende gewaarborgd?
Jullie zien kritisch denken als een belangrijk onderdeel van digitale ethiek. Wat is het precies?
Kritisch denken is in ieder geval níet negatief denken, wat je makkelijk zou kunnen denken. Integendeel, de intentie van kritisch denken is juist positief. Het uitgangspunt is dat je gaat nadenken over de impact van keuzes en wat dat betekent voor anderen, de ethische aspecten van bepaald handelen. Maar kritisch denken is ook een vaardigheid, die je helpt bij het herkennen en voorkomen van verborgen aannames, onlogische redeneringen en denkfouten. Bij kritisch denken hoort dat je nieuwsgierig en goed geïnformeerd bent, en openstaat voor andere ideeën; dat je informatie deelt en blijft reflecteren op je denkproces. Zodat je uiteindelijk tot betere keuzes komt. Kritisch denken gaat óók over het verhogen van je kwaliteit van denken, wat samenhangt met de kwaliteit van gegevens en informatie. Handel je vanuit slechte gegevens, dan kom je zeer waarschijnlijk tot slechte beslissingen. Door kritisch te denken, voorkom je dit.
Interessant is dat jullie ook ingaan op de werking en valkuilen van ons eigen denken.
We weten van psychologen als Daniel Kahneman en Ap Dijksterhuis dat het onbewuste in ons denken en beslissen ons in de praktijk meer leidt dan het bewuste. We moeten dus meer bewust zijn van onze keuzes. Bij ons denken spelen ook aspecten mee als stemming en karakter. Zo kan een positieve stemming leiden tot een veel flexibeler denkproces en meer creativiteit; heb je daarentegen een slecht humeur, dan kan dat je vermogen tot kritisch denken flink belemmeren. En wat betreft karakter, iemand met een sterke persoonlijkheid zal eerder alternatieve standpunten overwegen en kritisch denken dan een dogmatisch of perfectionistisch persoon: die zijn veel minder snel geneigd om hun denken kritisch te evalueren.
Een ethisch probleem in het onderwijs is dat je met ChatGPT nogal makkelijk kunt frauderen…
Dat is inderdaad een groot probleem geworden. Deze generatieve AI is superkrachtig en biedt gebruikers prachtige mogelijkheden. Maar ChatGPT is zeker niet foutloos en roept vragen op over schendingen van rechten en privacy. En ja, studenten kunnen er nu heel makkelijk mee frauderen. Uiteindelijk ondermijnt ChatGPT uiteraard hun kennis, vaardigheden en daarmee het bereiken van hun leerdoelen. Er komt nu steeds meer AI op de markt waarmee je als docent het gebruik van ChatGPT kunt detecteren… maar ja, waar eindigt dit? Een universitair docent vertelde me laatst dat ze weer tentamens afnemen op de ouderwetse manier: studenten mogen alleen schrijven met een ouderwetse pen; laptops en mobieltjes komen de tentamenzaal niet in.
Jullie adviseren organisaties om intern een toetsingscommissie voor digitale ethiek aan te stellen. Gebeurt dat al?
Ja, dat zien we nu in toenemende mate. Zo’n ethische toetsingscommissie adviseert welke gegevens en algoritmen de organisatie vanuit ethisch oogpunt mag gebruiken. Een dergelijke commissie kan ook helpen om de kennis en bewustwording van het management rond de ethische kant van data en nieuwe technologie te vergroten. Enigszins vergelijkbaar is het moreel beraad, dat je bijvoorbeeld veel ziet bij zorginstellingen. Zo’n beraad is een gestructureerde methode om ethische dilemma’s te bespreken en te komen tot een beter begrip van de morele dimensies rond een bepaalde situatie.
Dit jaar kwam de Europese Unie met een Europese AI Act, een soort digitale gedragscode voor organisaties. Werkt deze in praktijk?
Dat kan ik nu nog niet goed beoordelen, maar ik juich het wel toe. Deze ethische gedragscode is gebaseerd op principes zoals transparantie en verantwoord gedrag. Wij hebben dit soort principes expliciet gemaakt zodat ze praktisch en direct toepasbaar worden. Zoals: wees transparant, door te zorgen dat de ingezette algoritmes inzichtelijk en toetsbaar zijn. En: wees rechtvaardig, maak geen enkel onderscheid op gebied van ras, religie, geslacht of leeftijd. Ik weet dat het onderwerp AI binnen de Rijksoverheid is belegd bij de Chief Data Officers van alle ministeries en dat zij geregeld bijeenkomen om over het omgaan met data en AI te spreken. Dat is een positieve ontwikkeling.
Over Paul Groothengel
Paul Groothengel is freelance journalist.
