Steeds meer organisaties begeven zich op het terrein van artificiële intelligentie (AI). Geïnspireerd door de succesverhalen van grote techbedrijven ligt de angst dat je als organisatie de boot mist als je niets doet al gauw op de loer. Tegelijkertijd horen we ook veel verontrustende verhalen over discriminatie, massaal verlies van banen en uitholling van expertise, wat onzekerheid oproept over hoe je AI-systemen verantwoord kunt inzetten. Dit alles leert bestaande organisaties echter weinig over hoe ze de ontwikkeling en implementatie van AI-systemen in hun organisatie op een verantwoorde èn effectieve manier kunnen vormgeven. Wij vonden het daarom hoog tijd om te onderzoeken wat er nu daadwerkelijk gebeurt voor en met AI-systemen in organisaties en op basis daarvan te komen tot aanbevelingen voor het slim managen van AI.
Er zijn drie unieke eigenschappen die AI-systemen fundamenteel anders maken dan de technologieën die hiervoor in organisaties zijn geïmplementeerd: (1) het is afhankelijk van grote hoeveelheden data om van te kunnen leren, (2) het is zelflerend en daarom moeilijk uit te leggen hoe uitkomsten worden gegenereerd - dat wil zeggen, de uitkomsten zijn ‘black boxed' - en (3) de taken die kunnen worden overgenomen bevinden zich binnen het domein van kenniswerk. Deze unieke eigenschappen zorgen ervoor dat de implementatie en het gebruik van AI-systemen nieuwe vormen van organiseren vereist. De vraag is alleen hoe deze nieuwe managementvormen er precies uit moeten zien. Met andere woorden: Wat voor (re)organisaties zijn nodig voor het implementeren en managen van AI-systemen in de praktijk?
Voor het boek hebben we acht, voornamelijk Nederlandse, organisaties onderzocht die zelflerende AI-systemen daadwerkelijk toepassen in hun werkprocessen. Op basis van deze praktijkcases, en de nieuwste academische literatuur, brengen we in ons boek in kaart hoe organisaties dergelijke slimme technologie implementeren.
Uit dit onderzoek zijn vier managementactiviteiten naar voren gekomen die centraal staan bij het implementeren van AI: (1) organiseren voor data, (2) organiseren voor testen en valideren, (3) organiseren voor een brugfunctie en (4) het organiseren voor verandering.
Om het managen van AI-systemen in de praktijk succesvol te laten verlopen doen we tenslotte vier aanbevelingen. Het S.L.I.M. managen van AI-systemen vraagt namelijk om:
1. Socio-technische veranderprocessen: Invoering van een AI-systeem moet worden gezien als een organisatorisch veranderproces en, vice versa, het systeem moet ook worden afgestemd op de behoeftes vanuit de werkprocessen.
2. Lokale inzichten: Het AI-systeem moet zijn gebaseerd op lokaal opgedane inzichten, zowel voor wat betreft de data, het testen en valideren, de brugfunctie, als ook de uiteindelijk te veranderen werkprocessen.
3. Interdisciplinaire kennis: Verschillende disciplines (zoals ontwikkelaars, gebruikers, wetgevers) moeten bij elkaar worden gebracht en er moet, waar nodig, voor bijscholing worden gezorgd.
4. Moreel bewustzijn: Er moeten discussies worden gevoerd over de ethische overwegingen en de uitlegbaarheid van zowel het AI-systeem, de onderliggende aannames en de gevolgen die keuzes kunnen hebben op de verdere ontwikkeling van het systeem.
Natuurlijk kan niet alles in één keer worden gedaan. Ook ligt er veel verantwoordelijkheid bij managers. We zijn ervan overtuigd dat managers, als belangrijke besluitvormers in organisaties, inderdaad een belangrijke rol en verantwoordelijkheid hebben in het implementeren van AI-systemen. We impliceren echter niet dat dergelijke verantwoordelijkheden door een enkele manager kunnen of moeten worden uitgevoerd. Integendeel, slimme managers creëren hiervoor een slim team om hen heen dat helpt om verder te kijken dan de AI-hype en antwoord kan geven op de vraag: Managen we AI-systemen wel slim?
Dr. Marlous Agterberg is onderzoeks- en valorisatie-manager bij het KIN Center for Digital Innovation, School of Business and Economics aan de Vrije Universiteit Amsterdam. Drs. Lauren Waardenburg is een PhD kandidaat bij het KIN Center for Digital Innovation, School of Business and Economics, Vrije Universiteit Amsterdam. Prof. dr. Marleen Huysman is het hoofd van het KIN Center for Digital Innovation, School of Business and Economics, Vrije Universiteit Amsterdam.
Ze zijn de auteurs van Slim managen van AI in de praktijk.
