‘Kunstmatige intelligentie discrimineert iedereen’

Kunstmatige intelligentie is een enorme groeimarkt met duizenden startups. Toch is de toekomst van KI volgens in handen van een selecte groep: de G-MAFIA - Google, Microsoft, Amazon, Facebook, IBM, en Apple - in de Verenigde Staten, en BAT - Baidu, Alibaba en Tencent - in China.
Net als het internet kent kunstmatige intelligentie een winner take all-dynamiek waarbij een klein groepje bedrijven een enorme macht verwerft. Het klopt dat een divers ecosysteem van startups zich met specifieke ki-toepassingen bezighoudt, maar het zijn momenteel negen ondernemingen die de snelheid en richting bepalen. Zij hebben de infrastructuur en het gros van de patenten in handen en ontwikkelen de chips waar we in de nabije toekomst allemaal gebruik van gaan maken. Het probleem is dat deze bedrijven een agenda nastreven die niet noodzakelijkerwijs het algemeen belang dient. De G-MAFIA wordt voortgestuwd door het kortetermijndenken van Wall Street, terwijl BAT oceanen aan data verzamelt voor een autoritaire overheid. Als we de zaken op hun beloop laten heeft dat de potentie om de mensheid in een catastrofe te storten.

Veel toepassingen van kunstmatige intelligentie, zoals de digitale assistent, zijn vooralsnog niet meer dan gimmicks waarvan de baten niet opwegen tegen de potentiële risico's. Is het niet beter om KI gewoon te verbieden voordat de boel uit de hand loopt?
Over welke vorm van kunstmatige intelligentie heb je het nu? Het punt is dat KI een buzzwoord is geworden voor een hele waaier aan technologieën die zich in alle hoeken van ons bestaan heeft genesteld. Het digitale telefoongesprek dat we nu hebben zou bijvoorbeeld niet mogelijk zijn zonder KI. Het enige waar we naar kunnen streven is om de ontwikkelingen in goede banen te leiden. Vraag jezelf de volgende keer als je een foto online zet of een gratis spelletje downloadt bijvoorbeeld af wat er verder nog gebeurt met jouw data. Smartphones maken het ons leven zo gemakkelijk dat we het risico lopen in slaap te vallen, net op het moment dat de machines wakker worden.

Een van de grote uitdagingen is de onbewuste bias die in KI dreigt te sluipen, omdat de programmeurs voornamelijk witte mannen zijn die aan dezelfde universiteiten hebben gestudeerd. Hoe ban je die weeffouten uit?
Als je het hebt over de mogelijke slachtoffers van bias denken de meeste mensen aan vrouwen en etniciteit. Dat is potentieel inderdaad een groot probleem, maar in werkelijkheid gaat bias nog veel dieper. De G-MAFIA werkt momenteel aan autonome systemen die niet alleen onze beslissingen uit handen nemen maar ook onze keuzes voor ons maken. De bouwstenen die ze daarvoor gebruiken, of het nu gaat om de uitkomsten die hen voor ogen staan, de datasets die ze invoeren om machines te laten leren, of de algoritmes die ze daarbij toepassen, zijn stuk voor stuk het resultaat van subjectieve afwegingen. Dat betekent dat je, als je niet in alle opzichten precies lijkt op dat kleine groepje programmeurs dat momenteel de koers bepaalt, waarschijnlijk te maken zult krijgen met KI dat botst met je eigen waardensysteem. Kunstmatige intelligentie discrimineert wat dat betreft iedereen.

Hoe moet je zoiets reguleren?
Dat is juist het punt: dat lukt je niet. Regulering kan weliswaar een belangrijke rol vervullen als het gaat om deelaspecten van de KI-revolutie, zoals privacy en de vraag in hoeverre we eigenaar zijn van onze eigen data, maar als systeem ontwikkelt KI zich zo snel dat elke vorm van wetgeving al verouderd is voordat zij in werking kan treden. Om effectief toezicht te houden heb je bovendien een leger aan tech-experts nodig die genoegen nemen een ambtenarensalaris, terwijl ze bij de G-MAFIA een veelvoud kunnen verdienen.

Moeten we ons zorgen maken over het gebrek aan leiderschap? De Verenigde Staten zijn momenteel missing in action, terwijl Europa hopeloos verdeeld is.
Het aan banden leggen van KI is te ingrijpend en omvangrijk om aan één enkel land over te laten. Daarom pleit ik voor de oprichting van een mondiale autoriteit, waarin alle betrokkenen hun verantwoordelijkheid nemen en zich inzetten voor het algemeen belang: de G-MAFIA en regeringen, maar ook universiteiten, burgers en investeerders. Het is in ieders belang om tech-bedrijven een tandje lager te laten gaan, zodat ze de gevolgen van hun KI-toepassingen beter kunnen inschatten. Laat de overheid bijvoorbeeld optreden als financiële partner, zodat de prikkel om zo snel mogelijk winst te maken wordt weggenomen. In ieder geval is het van cruciaal belang om KI te gaan zien als een publiek goed, waarvoor iedereen een opoffering moet maken.

Dat lukt alleen als de G-MAFIA te goeder trouw is.
De grote technologie-bedrijven zijn net zo bezorgd over de toekomst als jij en ik. Ze zijn niet evil, al begin ik inmiddels mijn twijfels te krijgen bij Facebook. Maar dat is voor andere bedrijven reden te meer om zich te commiteren aan internationale samenwerking. Als Facebook bijvoorbeeld wordt opgebroken zal dat de sector enkel verzwakken, zonder het probleem op te lossen.

En in de tussentijd werkt China geduldig aan een autoritaire vorm van KI.
Als we KI in het westen gezamenlijk in goede banen leiden, dan zijn we in een positie om de groeiende macht van China te beteugelen en misschien zelfs in een internationaal verband in te kapselen. Maar als we niets doen, is er een reëele kans dat China haar autoritaire KI-toepassingen naar andere landen gaat exporteren en daarmee uiteindelijk de wereld overneemt.

Met welk scenario houdt u zelf rekening?
Dat fluctueert. Als ik kijk naar de handelsbelemmeringen die de Verenigde Staten momenteel opwerpen heb ik weinig tot optimisme. Als ik China was, zou ik stug blijven doorbouwen aan mijn eigen coalitie, weg van het westen. Gelukkig is het zelfs voor een futuroloog onmogelijk om de toekomst te voorspellen. Dat geeft me hoop.