De machtigste beroepsgroep van de wereld

Hoezo de machtigste beroepsgroep? In de tijd van het ontstaan van de VS waren dat de juristen, die de Onafhankelijkheidsverklaring en de wetten van de VS schreven. Daarna waren het de architecten en bouwers, zoals Robert Moses, die het landschap vormgaven. En nu dus de programmeurs. Omdat zij de architect zijn van de software die onze wereld regeert. De beslissingen die zij nemen sturen ons gedrag. Maken zij iets gemakkelijk? Dan doen wij het vaker!

Het boek begint met ‘de software-update die de wereld veranderde'. Wat dat was? Het nieuwsoverzicht van Facebook, wat medio 2006 de eerste statusupdate (van Mark Z zelf) rondstuurde. Grappig weetje: de gebruikers wilden het toen niet. Ze vonden het ‘te stalkerachtig'. Vóór de update kon je niet-zo-slimme-posts weer weghalen zonder dat veel mensen het gezien hadden. Ook werd je status update ‘single' niet direct van de daken geschreeuwd, zodat je rustig het verbreken van je relatie kon verwerken. Ontwikkelaarster Ruchi Sanghvi kreeg er flink van langs. Totdat iedereen eraan gewend was en het geweldig vond. Zo geweldig dat het verslavend werd. Daar had Ruchi niet zo over nagedacht, over mogelijke effecten, zij wilde alleen maar een uitdagend programma maken. En dat is een van de karaktertrekjes van programmeurs.

Rationeel

Coders hebben een rechtlijnige, rationele manier van denken. Ze werken in een omgeving waar recht voor z'n raap spreken wordt gewaardeerd. Sociaal gezien zijn ze dus (vaak) botte gasten. Autisten en Aspergers floreren hier. Ook ADHD-ers voelen zich heel erg thuis in het wereldje. Lekker doorgaan totdat de klus geklaard is, 72 uur aan een stuk door werken. De auteur stelt dat zij typisch 'INTJ-ers'zijn: de Introvert-iNtuitive-Thinker-Judger, een van de 16 Myers-Briggs persoonlijkheidstypes.

Diversiteit

Veel coders waren vrouwen, want het programmeren werd als iets ‘administratiefs' gezien, de technische uitdagingen zaten in de hardware, en hier werkten natuurlijk alleen mannen aan. Dat het als iets administratiefs werd gezien komt doordat in de 40-er jaren men nog met tabelleermachines werkte, die met ponskaarten aangestuurd werden, waar de ponstypistes gaatjes in ponsden. De eerste programmeerklus leek daar veel op: het betrof de ENNIAC, de eerste programmeerbare digitale computer in de VS. En het eerste programmeursteam bestond dus helemaal uit vrouwen.

Als gevolg daarvan waren er in 1967 superveel vrouwen die als programmeur werkten, voor (omgerekend) 140K nog wel. Maar programmeren werd belangrijker, moest daardoor vertegenwoordiging in het management hebben, en vrouwen in zo'n hoge positie kon natuurlijk niet. Ook was zo'n goedbetaalde baan nu opeens interessant voor mannen. Er werden meer mannen en minder vrouwen aangenomen. Ook het percentage vrouwen dat een informatica opleiding deed ging dalen; 1984 was het omslagpunt.

Waarom? In de 70-er jaren kwam de thuiscomputer op. En wie speelden daarmee? Nou, niet de meisjes, dat was ‘niks voor hen'. Ze hadden daardoor al een achterstand als ze aan de opleiding begonnen. En doordat er een gebrek aan leraren was, werden studenten actief ontmoedigd, o.a. door zware introductiecursussen, waardoor alleen ‘blanke jongens' overbleven. Vrouwen en minderheden verdwenen uit de opleiding.

In de 90-er jaren waren die blanke jongens op hoge posities terecht gekomen, en in de werving van nieuwe programmeurs gaven ze (natuurlijk) de voorkeur aan blanke jongens. En dan was er nog het probleem van regelrecht seksisme, waardoor de weinige vrouwelijke programmeurs bij de softwarebedrijven vertrokken. Hierdoor ontstond een mono-cultuur, wat natuurlijk van invloed is op de producten die gemaakt werden.

Geduld en efficiency

Wat is het belangrijkste gemeenschappelijke trekje van de programmeur? Het bijna masochistische vermogen om frustratie te verduren. Omdat ze meer tijd besteden aan het opsporen van bugs dan het schrijven van code. Een programmeur hoeft ook niet sociaal te zijn, of iemand te kunnen overtuigen. Je kunt een computer niet overtuigen dat iets werkt, je kunt alleen correcte code schrijven. Je code werkt, of werkt niet.

Programmeurs worden geobsedeerd door efficiency. Ze willen alles dat repetitief is (en dus vervelend) automatiseren. Dat kan een beetje gevaarlijk zijn, als je denkwerk automatiseert en zo mensen dom maakt, omdat vaardigheden (bijvoorbeeld rekenen) niet meer gebruikt hoeven te worden. Mensen zijn nu eenmaal lui, als er een korte route is, nemen we die. Ook de ‘likes' van Facebook zijn uit die efficiency focus ontstaan: veel gebruikers vonden het te veel werk om een reactie te typen op nieuws van een vriend. De bedenkers hiervan hadden echter de verslaving die dit met zich meebrengt door steeds te kijken hoeveel likes je hebt, onderschat (alweer!).

Vooroordelen

In 2015 ontwikkelde DeepMind (dochter van Google) de software AlphaGo, die alle menselijke grootmeesters in Go versloeg. Hij verbijsterde de experts ‘door zetten die geen mens ooit had gedaan'. Puntje bij deze AI is wel dat de ontwikkelaars van AlphaGo niet wisten hoe het leerde. Maar goed, het is maar een spelletje....

Ook in 2015 had Google Photo's een nieuwe functionaliteit: het tagde de foto's met het onderwerp van de foto. Super! Totdat een Afro-Amerikaan ziet dat de foto's van hemzelf en zijn net zo donkere vriendin als ‘Gorilla's' zijn getagd. De techneuten van Google zijn 98% wit en hebben (onbewust) èn selectief trainingsmateraal gebruikt èn proefgedraaid met hun eigen foto's. Niet zo best, maar het zijn maar foto's.....

Het blijkt dat AI-trainingsmateriaal zorgt voor besluiten met een groot vooroordeel. Het systeem COMPASS helpt overbelaste rechters door geautomatiseerd aanbevelingen te doen voor voorwaardelijke straffen in plaats van de cel in. Helaas zit het vol met raciale vooroordelen, het stuurt zwarten 2x zo vaak de cel in als blanken, met exact dezelfde historie, leeftijd en geslacht. Dus worden zwarten vaker veroordeeld, en dit is weer trainingsdata voor andere AI, die concluderen dat zwarten dus crimineler zijn, enzovoorts. Helemaal niet best, dit gaat over je leven...

En wat doe je dan, als programmeur? Grijp je in, in het systeem? En wat verander je dan, wie bepaalt wat ethisch is? En moet een AI de werkelijkheid niet weergeven, hoe naar die ook is? Dit zijn dilemma's waar we nog niet uit zijn, stelt de auteur.

Menselijkheid

Je kunt de conclusie trekken dat De Coders ‘een technische gemeenschap is, die zodanig op datamodellen is gefixeerd dat menselijkheid uit het oog wordt verloren.' Anderzijds, de grote investeerders in BigTech doen alles voor het geld, laten treitercampagnes op Twitter bestaan, als het maar aandacht trekt. Wie kan het tij keren? Diezelfde coders. In de tijd dat Google met project Maven (AI gebruiken als wapen in de defensie-industrie) aan de slag ging, kwamen de programmeurs in opstand tegen dit project: veel namen ontslag, duizenden tekenden een petitie. Google stopte met het project. Tenslotte zijn de programmeurs de machtigste beroepsgroep ter wereld.

Boeiend en informatief

De coders is een lekker vlotlezend boek met veel interessante informatie. Natuurlijk bevat het herkenbare verhalen, van Facebook en Instagram bijvoorbeeld, maar ook veel nieuwe weetjes. Er zitten zelfs (eenvoudige) stukjes code in, zodat je begrip krijgt voor het secure werk van de coders. Er is bijzonder veel onderzoek gedaan, dat kun je aan alles merken. De uitgever heeft er dan ook voor gekozen om alle noten en bronvermeldingen niet in het boek op te nemen, maar op hun website. Overal worden met name minder bekende programmeurs ten tonele gevoerd, die wèl heel bekende software en platforms hebben (mee-)ontwikkeld. Of toevallig de allereerste programmeur was. Dat maakt het verhaal persoonlijk en nergens droog. Knap gedaan.

Op diverse plaatsen wordt de impact van niet-geheel-objectieve software en AI aangekaart, met in veel gevallen een onopzettelijk oorzaak: de monocultuur bij programmeurs, de vooroordelen in onze huidige maatschappij en recente verleden. Het gebruik ervan is echter zo veelomvattend dat je je wel blijft afvragen of dit ooit ‘gerepareerd' kan worden, hoe goedwillend de programmeurs ook zijn. Dat vind ik een van de pluspunten van De Coders, het zet je aan het denken. Overal Mark Z de schuld van geven blijkt toch te kort door de bocht.

Wel makkelijk, en dus doen we dit te vaak....