Michaels maakte een breed armgebaar. ‘Wat jij hier ziet, Philips, staat op één lijn met de eerste atoombom!’
Philips staarde Michaels aan. Misschien was de man krankzinnig geworden?
‘Wij hebben hier de computer van de vierde generatie ontwikkeld!’ zei Michaels en sloeg hem op de schouder. ‘Luister! De eerste generatie bestond uit de allereerste computermodellen, die iets meer waren dan een simpele rekenmachine. De tweede generatie ontstond dankzij de transistor. De derde generatie werd mogelijk door het gebruik van de microchip. Wij hebben hier nu de vierde generatie ter wereld gebracht! Weet je wel wat we hebben gedaan?’
Philips schudde het hoofd. Michaels stond nu in vuur en vlam.
‘Wij hebben waarachtig kunstmatige intelligentie gecreëerd! We hebben computers gebouwd die kunnen dénken. Ze leren en redeneren. Het moest éens zover komen – en wíj hebben het gepresteerd!’
(voetnoot 1)
Als het gaat over artificiële intelligentie (AI – ook wel ‘kunstmatige intelligentie’ (KI) genoemd) moet ik bekennen nooit een groot kenner of fan te zijn geweest. Zodra ik de term kunstmatige intelligentie hoor, denk ik aan science fiction, aan bovenstaand fragment en aan een film die zich afspeelt in een kamer van een 10-jarig jongetje met een ruimtewezentje dat naar huis belt (‘ET phone home’). Het verbaast me dan ook zeer dat een van de meest levendige filmscènes die ik mij kan herinneren, bestaat uit een beeld van Arnold Schwarzenegger die zichzelf als levende machine met roodgloeiend artificieel oog in een gloeiende, kolkende, stomende lavavloed onderdompelt teneinde een schijnbaar gevaarlijke chip te vernietigen terwijl zijn twee menselijke vrienden huilend afscheid van hem nemen. (voetnoot 2) Thumbs up, dat dan weer wel.
The Edge-question: hoe denk je over machines die denken?
Het was dus ook met deze beelden in mijn achterhoofd dat ik ben begonnen aan het boek Machines die denken; invloedrijke denkers over de komst van kunstmatige intelligentie. In dit 542 pagina’s tellende boek, in het Nederlands uitgegeven door Maven Publishing, heeft John Brockman aan bijna 200 bekende wetenschappers, auteurs en kunstenaars de vraag voorgelegd: ‘Hoe denk je over machines die denken?’
Achter deze duidelijk geponeerde hoofdvraag gaan echter een aantal andere – meer impliciet verwoorde – deelvragen schuil. Deze worden niet gesteld door Brockman en co, maar het valt op dat de geïnterviewden wel degelijk op zoek zijn naar een antwoord op deze deelvragen. Om dus de vraag ‘Hoe denk je over machines die denken?’ te beantwoorden, staat men stil bij vragen als: kunnen machines (ooit) (überhaupt) denken? Wat is dat ‘denken’ dan precies? Is dat denken hetzelfde als intelligentie? En: wat is de relatie tussen de (denkende) machine en de mens? En tot slot: wat vind je daar dan van? Dat de meningen en antwoorden net zo talrijk zijn als de bladzijden van het boek, blijkt al gauw.
Na vol goede moed te zijn begonnen aan de gedachtegangen van those who matter als het gaat om AI, ben ik even gestopt, want waar het hebben we het eigenlijk over als we het over AI hebben? Wellicht even wat context voor degenen onder ons die – net als ik – denken aan Robin Cook of ET als het gaat om machines die denken. U weet alles al? Slaat u dan de volgende alinea gerust over.
Intelligentie meten met de Turingtest
Artificiële – of kunstmatige – intelligentie is de wetenschap die zich bezighoudt met het creëren van een artefact dat een vorm van intelligentie vertoont. De vraag is dan natuurlijk hoe we ‘intelligentie’ moeten definiëren. Alan Turing stelde zichzelf deze vraag in zijn artikel ‘Computing Machinery and Intelligence’ (voetnoot 3) dat hij in 1950 schreef. Turing bedacht een test – inmiddels bekend als de Turingtest – waarin een computer een gesprek met een mens moet voeren om daarmee aan te tonen dat het een intelligente machine is. Concreet: persoon A stelt vragen aan zowel een computer als aan een andere persoon (persoon B). Om uiterlijke verschijningsvormen niet mee te laten wegen, wordt het gesprek via getypte tekst gevoerd. Als persoon A niet (meer) kan onderscheiden wie de mens is en wie de computer, is de computer blijkbaar in staat om intelligent gedrag te vertonen.
In de loop der jaren zijn – met name – chatprogramma’s onderworpen aan de Turingtest. (voetnoot 4) Veelgehoorde kritiek is dat Turing weliswaar een concrete test heeft bedacht om te kunnen beoordelen of een computer een intelligent mens kan nabootsen, maar dat de vraag of de machine zelf echt intelligent is, hiermee nog niet beantwoord wordt. Het is echter wel snel duidelijk wanneer je praat met een machine die niet kan denken, denk bijvoorbeeld aan Siri van Apple (die echt nooit verstaat wie ik wil bellen) of Anna van IKEA (zie https://www.youtube.com/watch?v=rRY5XtLpNuU), die echt niet weet of ik de Benny of de Billy wil. Eliza (http://psych.fullerton.edu/mbirnbaum/psych101/Eliza.htm) weet de schijn misschien nog een tijdje op te houden en hoewel Eugene (zie https://www.youtube.com/watch?v=KNxALt_7F2k) volgens de universiteit van Reading geslaagd zou zijn voor de Turingtest, lijkt het er toch echt niet op dat deze machines binnenkort in staat zullen zijn de meest gestelde vraag ter wereld (‘Hoe gaat het met je?’) oprecht te beantwoorden.
Optimistisch, pessimistisch of gewoon een beetje bezorgd
Ook het overgrote merendeel van de geïnterviewden is ervan overtuigd dat intelligente machines op dit moment niet alomtegenwoordig zijn. Als we echter kijken naar de toekomst zijn hun meningen en visies in te delen in 3 groepen: de ‘optimisten’, de ‘bezorgden’ en de ‘pessimisten’. De optimisten zijn over het algemeen van mening dat denkende machines (in een of andere vorm) reeds bestaan, of gaan komen, dat het met de overheersing van de mens door AI wel los zal lopen en/of dat (de komst van) AI een goede zaak is: ‘De mogelijkheid van geavanceerde kunstmatige intelligentie is een buitengewoon stimulerend vooruitzicht. Het zal zo’n vaart niet lopen met overheersing, we kunnen ons wellicht een kwaadwillende mens voorstellen die een bataljon robots ontwerpt en op de mensheid loslaat om dood en verderf te zaaien, maar de totstandkoming van zo’n scenario is niet waarschijnlijk. Niet alleen moet deze kwade genius geobsedeerd zijn door massamoord, maar ook nog een briljant talent zijn op het gebied van technologische innovatie en computationele wetenschap.’ (Steven Pinker, p. 28). Paul Davies vindt bijvoorbeeld het idee dat een ‘metalen ding met inwendige bedrading rechten zou hebben of menselijke wetten zou overtreden’ ‘absurd’ (p.49). Naar het oordeel van Margaret Levi kan – en moet – AI de cognitieve stress waaraan mensen lijden, verminderen door het overnemen van taken die ze beter uitvoeren dan mensen. Denk hierbij aan de algoritmen van Google en Facebook maar ook aan mensonterende fabrieksarbeid (p.250).
De pessimisten staan hier lijnrecht tegenover: ‘Machines (door de mens gebouwde artefacten) kunnen niet denken, want geen enkele machine heeft een mening’ (Arnold Trehub, p.93). ‘Hetgeen zich in de black box bevindt is een tot zijn essentie teruggebrachte, tweedimensionale structuur die juist zulke verbazingwekkende resultaten oplevert doordat daaraan geen aspecten van de menselijke geest zijn toegevoegd. […] Hier is sprake van een hersenloze slaaf’ (Daniel Denett, p.108). Ook benadrukken zij verschillende gevaren: ‘Laat hem [computer] een week lang gonzen en hij voltooit 20.000 jaar intellectuele arbeid op menselijk niveau. Hoe groot is de kans dat een dergelijke entiteit er genoegen mee blijft nemen om door ons te worden aangestuurd? Het feit [is] dat we op een digitale apocalyps lijken af te stevenen…’(Sam Harris, p.413). Dennett voorziet een ander gevaar: ‘Het echte gevaar schuilt dus niet in apparaten die intelligenter zijn dan wij en die ons lot in handen nemen, maar in het toekennen van autoriteit aan apparaten die feitelijk geen idee hebben van wat ze doen’ (p.109).
De bezorgden twijfelen: ‘De komst van machines die echt denken, zal de belangrijkste gebeurtenis in de geschiedenis zijn. Of dit het beste of het slechtste is wat de mensheid ooit is overkomen, hangt af van hoe we ons erop voorbereiden. […] onvoorbereid hier op afstormen zou volslagen stompzinnig zijn’ (Max Tegmark, p. 65). ‘We zijn als individuen en als samenleving steeds afhankelijker van AI-algoritmen die we niet begrijpen’ (Nicholas Carr p. 79). Thomas Poggio denkt dat het zo’n vaart niet loopt: ‘Omdat intelligentie een heel scala van besluiten over verschillende van elkaar onafhankelijke vraagstukken behelst, is er weinig reden om bang te zijn voor het plotseling ten tonele verschijnen van een bovenmenselijke machine die denkt.’ (p.69). Wel pleit Poggio ervoor het ‘zekere voor het onzekere’ te nemen door het opstellen van goede veiligheidsmaatregelen en ethische richtlijnen.
Zowel optimisten, pessimisten als bezorgden wijzen op de ethische kanten: ‘AI kan mensen helpen, maar het ontslaat de mensheid niet van haar verantwoordelijkheid om ervoor te zorgen dat we ons denkvermogen voortdurend blijven ontwikkelen, evenals ons vermogen om redelijke oordelen te vormen op basis van waarden en empathie’ (Margaret Levi, p.250). En alvorens u uw testament wilt opmaken, biedt Leo Chalupa ons een oplossing: ‘Mocht het uit de hand lopen, trek dan gewoon de stekker uit het apparaat’ (p.105).
Onsterfelijke aliens die ons voorbij streven?
Als het gaat om de relatie tussen de mens en de machine, viel het mij op dat een gedeelte van de geïnterviewden daadwerkelijk het woord aliens in de mond neemt. Martin Rees (p.30) is ervan overtuigd dat ‘organische (menselijke) intelligentie geen toekomst heeft’. Een mengvorm van mens-en-machine is natuurlijk ook mogelijk: ‘Om de mensheid een lange en welvarende toekomst te kunnen bieden, moeten we kunstmatige intelligentiesystemen ontwikkelen in de hoop een soort hybride vorm van mens en machine te verkrijgen die de planetaire levenscyclus ontstijgt (Dimitar Sasselov, p.36). Sean Carrol gaat zelfs nog verder en beweert: ‘Hé, het zijn wel mijn vrienden! Wij zijn allemaal machines die denken en het onderscheid tussen verschillende soorten machines neemt af’ (p.75). In hoeverre een AI op de mens moet lijken, is niet altijd duidelijk. Brian Knutson (p.180) beweert dat een fysieke gelijkenis, naast zelfbesef en eigenbelang, ‘een gemakkelijke manier is om [de mens] te laten denken dat ze met een zelfstandige entiteit te maken hebben’. Een grappige benadering hiervan wordt in het boek gegeven door creative director Roy Sutherland (Ogilvy Group): ‘Zorg ervoor dat niemand een hekel aan het ding kan hebben’. Als voorbeeld noemt Sutherland de zelfrijdende auto: ‘[de bedenkers van het] prototype van een zelfrijdende auto hebben hun ontwerp bewust een ongelooflijk schattig uiterlijk meegegeven. Het autootje (let op het verkleinwoord!) ziet er uit als een puppy op wielen’ (p.254).
Singulariteit is een veelgenoemd begrip, bedoeld als het moment in de toekomst waarop de intelligentie van AI die van mensen evenaart of voorbijstreeft. Een enkeling waagt zich zelfs aan een voorspelling: Antony Garrett Lisi voorspelt dat het vermogen van computers nog voor het midden van deze eeuw het vermogen van het menselijk brein voorbijstreeft (p.43). Anderen lijken ervan overtuigd dat dit punt nooit zal worden bereikt: ‘De intelligentie van machines is nog steeds beperkt tot bepaalde gebieden en niet flexibel. Het meest frappante van biologische intelligentie is niet zozeer de kracht van het vermogen zelf, maar de verbijsterende veelzijdigheid ervan: van abstracte, ongebreidelde verbeeldingskracht tot extreem lichamelijk prestatievermogen – van Dvorzak tot Djokovic’ (Timo Hannay, p.61).
En dan: de sterfelijkheid. De mens wordt bepaald door beperkende factoren, met de dood als meest onontkoombare factor. Wie leeft, moet onder ogen zien dat hij ooit zal sterven. Het in leven willen blijven is volgens Mark Pagel geen aangeboren eigenschap van apparaten: ‘Het maakt computers niet uit of ze worden uitgeschakeld, laat staan dat ze zich er zorgen over maken’ (p.163). Esther Dyson (p.158) is echter niet zo optimistisch over artificial intelligence met artifcial life: ‘Als de intelligentie [AI] onsterfelijk is, waarom zou ze dan nog iets onbaatzuchtigs in zich hebben? Wat gebeurt er als zo’n intelligentie ons niet meer nodig heeft?
Perfecte asperges en Google’s ultieme secretaresse
Het lezen van meningen van – voornamelijk mannelijke – wetenschappers leidde bij mij na een pagina of 100 tot de behoefte aan een reality check: in hoeverre zijn de voorgestelde scenario’s al een link met de voor mij bekende werkelijkheid? Sinds ik me enigszins bezighoud met het wel en wee van AI lijkt het veel vaker langs te komen dan daarvoor en zelfs mijn man blijkt er opeens veel meer van te weten dan ik vermoedde. Maar AI blijkt ons leven al veel verder te zijn geïnfiltreerd (zou dat het goede woord zijn?) dan ik denk. Ik schijn asperges te kunnen kopen die door een robot zijn gestoken, precies op het juiste moment zodat het kopje niet boven de aarde is gekomen – en dus nog niet is verkleurd – en dus lekkerder is. Als ik online een boek bestel, wordt het door kleine machientjes ingepakt en verstuurd en kan het – hoe gemakkelijk! - per drone bezorgd worden. Gelukkig kan ik me ook nog ontspannen: een lekker avondje naar de bioscoop voor de film It’s no game, ontwikkeld in samenwerking met een kunstmatig intelligente scenarioschrijver. (voetnoot 5) Daarnaast heb ik vernomen dat ook Google bezig is met het maken van de ultieme secretaresse die weet of je het sterrenstelsel of het poppodium bedoelt als je opdracht geeft ‘De Melkweg’ op te zoeken. (voetnoot 6)
Een naslagwerk in plaats van een bedtime story
Dat de discussie over AI vele vormen en facetten kent, is inmiddels wel duidelijk. Het boek is dan ook een goede compilatie van de verschillende meningen en visies van hotshots over een fascinerend onderwerp. Zoals Tomaso Poggio (p.67) aangeeft, is de vraag rondom het ontstaan, de werking en de nabootsing van ‘intelligentie’ een van de belangrijkste vragen voor de wetenschap én ook voor Hollywood. Ik ben het met hem eens: het fascineert ons mensen hoe andere mensen denken en hoe het zal zijn als een computer intelligent (en menselijk?) zal zijn – kijk maar naar The Terminator. Het boek Machines die denken boort deze nieuwsgierigheid aan en geeft in zeer korte essays een interessant overzicht van de bestaande meningen, variërend van de ernstigste bedreiging voor het voortbestaan van de mensheid tot een ideale samenleving waar mens en machine in harmonie samenleven en werken. Het is een leuk overzicht, maar voor degenen die niet geheel thuis zijn in AI mist er wellicht een context. Het is lastig de diverse meningen op waarde te schatten en in de realiteit te plaatsen als je niet bekend met AI of er niet al een mening over hebt. Daarnaast zijn het vooral véél meningen, waardoor het soms wat lastig wordt om bij de les te blijven.
Voor wat betreft de inhoud van het boek: hoewel er dus best wel wat gaande is op het gebied van AI, lijken het matrix-scenario en de in 1981 geschetste ontwikkelingen van Robin Cook nog ver weg voordat we de singulaire grens zullen overgaan en een Matrix-achtige wereld zullen betreden. Daarnaast blijkt dat we – zelfs na het bevragen van bijna 200 mensen-die-het-kunnen-weten – nog erg bezig zijn met het definiëren van de hierboven genoemde termen ‘denken’, ‘intelligentie’ en ‘machines’. Het lijkt afhankelijk van elke individuele definitie in hoeverre de betreffende wetenschapper, auteur of kunstenaar optimistisch of pessimistisch gestemd is over de machine die denkt.
Ik ben niet bezorgd. Eerlijk gezegd denk ik dat de verhalen over het omverwerpen of uitsterven van de menselijke soort door toedoen van artificiële intelligentie zeer overdreven zijn. Voordat we daadwerkelijk moeten vrezen voor onze menselijke lijf en leden zal AI moeten beschikken over wat Abbas Raza ‘teleologische autonomie’ (p. 270) noemt: AI zal sociaal moeten zijn, afwegingen kunnen maken en een reden moeten hebben om de mensheid naar z’n mallemoer te helpen. Daarnaast lijkt het erop dat vooruitgang in het AI-onderzoek tergend langzaam gaat. Er lijkt dus voldoende tijd te zijn voor feedback na elk stapje voorwaarts. Het zal dus nog wel even duren voordat een ET, in meer of minder computationele vorm, naar huis zal bellen.
Liza Kozlowska heeft haar eigen taal- en communicatiebureau Kozlowska communications. Zij is lid van de KNVI, de grootste onafhankelijke beroepsvereniging voor informatie- en IT-professionals.
Voetnoten:
1 Dit fragment komt uit de medische thriller Brein geschreven door Robin Cook (Robin Cook, Brain, A.W. Bruna Uitgevers B.V. (Utrecht, 2003) pp. 235-236.) Omwille van de leesbaarheid is het fragment enigszins ingekort. En let op: het oorspronkelijke boek komt uit 1981!
2. Pak je zakdoek en zie: https://www.youtube.com/watch?v=qMnWNtRGo2k Terminator 2: Judgement Day
3. Voor de echte diehards onder ons: Turing, A.M., “Computing Machinery and Intelligence”, in: Mind 49: pp.433-460, 1950. Zie: https://www.csee.umbc.edu/courses/471/papers/turing.pdf
4. Charlotte Vlek, “Geslaagd voor de Turingtest! Maar wat betekent dat eigenlijk?”, de Volkskrant. Zie: http://www.volkskrant.nl/opinie/-geslaagd-voor-de-turing-test-maar-wat-betekent-dat-eigenlijk~a3675882/ (20 juni 2014).
5. Deze voorbeelden komen uit het artikel: “Robot wordt goede CEO, denkt Alibaba’s Jack Ma”, geschreven door Jelle Wijkstra voor AG Connect. Zie: http://agconnect.nl/artikel/robot-wordt-goede-ceo-denkt-alibabas-jack-ma?utm_source=nb_agc_20170501&utm_medium=email&utm_term=&utm_content=&utm_campaign=1-05-2017 (1 mei 2017). Voor de film “It’s no game” zie https://www.youtube.com/watch?v=5qPgG98_CQ8 (25 april 2017).
6. Tim van Steenbergen, “Google traint de ‘ultieme secretaresse’ in Zurich, NOSop3. Zie: http://nos.nl/op3/artikel/2111539-google-traint-de-ultieme-secretaresse-in-zurich.html (16 juni 2016).
