Eerste Stimulus Mens en Organisatie voor onderzoek naar organisaties waar de mens is vervangen door AI
De snelle opmars van kunstmatige intelligentie roept vaak vragen op over het automatiseren van losse taken. Maar wat gebeurt er als niet alleen taken verdwijnen, maar hele afdelingen? Die vraag staat centraal in het onderzoek van Corine Boon en Tom van Engers en hun collega’s van de Universiteit van Amsterdam. Met hun voorstel over zogenaamde zero-person departments wonnen zij de eerste Stimulus Mens en Organisatie.
Foto: Andy Kelly, Unsplash
Een zero-person department is een afdeling die niet langer door mensen wordt bemand, maar door autonome software-agents. Deze agents worden aangestuurd door kunstmatige intelligentie en kunnen relatief zelfstandig opereren. Volgens hoogleraar Juridisch Kennismanagement Tom van Engers zullen zulke afdelingen steeds vaker voorkomen. “We zien nu al een toenemende inzet van AI-systemen die binnen bepaalde grenzen zelfstandig taken kunnen uitvoeren.”
Het onderzoeksproject ZODIAC (Zero-person Organisational Departments in Interaction, Accountability and Collaboration) is gericht op de technische, sociale en juridische implicaties van deze ontwikkeling.
Risico’s
De voordelen van zero-person departments liggen voor de hand. “AI-agents kunnen het werk verlichten en processen efficiënter maken. En ze zijn onvermoeibaar,” zegt Van Engers. “Als ze goed functioneren, kunnen ze 24 uur per dag beschikbaar zijn. Het levert ook een aanzienlijke kostenbesparing op.”
Tegelijkertijd wijzen de onderzoekers op verschillende risico’s. Zo kan deze ontwikkeling grote gevolgen hebben voor de relaties in organisaties. “Als je eerst samenwerkte met collega’s en nu met een geautomatiseerde afdeling, verandert dat de dynamiek op de werkvloer,” zegt Corine Boon, hoogleraar HRM & People Analytics aan de Amsterdam Business School. Daarnaast kan de verandering invloed hebben op de manier waarop werknemers hun werk beleven, en daarmee op hun welzijn. Werk kan bijvoorbeeld minder betekenisvol aanvoelen wanneer de rol van medewerkers verschuift van uitvoeren naar controleren.
“Ook veranderen de vaardigheden die je nodig hebt,” zegt Boon. “In plaats van het zelf te doen, moeten medewerkers nu evalueren wat AI-agents doen. De ervaring leert dat het belangrijk is de kwaliteit van het werk goed in de gaten te houden. Dat vraagt andere competenties en vaak ook nieuwe vormen van training.”
Van Engers wijst op een probleem dat al langer bekend is uit onderzoek naar automatisering: kenniserosie. Wanneer mensen bepaalde vaardigheden minder vaak gebruiken, neemt hun expertise geleidelijk af. “We weten uit onderzoek dat mensen eigenlijk heel slecht zijn in puur monitoren,” zegt hij. “Als je taak vooral bestaat uit het in de gaten houden van systemen, neemt de alertheid na verloop van tijd af.”
Tot slot dreigen, wanneer organisaties dit soort AI-gedreven afdelingen invoeren, vooral instapfuncties te verdwijnen. Dat is zorgwekkend, vindt Boon. “Mensen die later op hogere posities werken, hebben die eerste werkervaring wel nodig.”
Van Engers: ‘Er kleven aan de opkomst van zero-person departments allerlei vraagstukken, en die komen nu in volle wasdom op ons af. En de vraag is: gaat dat wel goed?’
Verantwoordelijkheid
Dat zero-person departments grotendeels autonoom werken, doet niets af aan de verantwoordelijkheid van de organisatie die een dergelijk systeem inzet. “Er spelen allerlei ethische, morele en juridische kwesties,” zegt Van Engers. “Uiteindelijk blijven mensen verantwoordelijk voor het gedrag van de technologie die zij inzetten.”
Hij voorspelt: “We staan aan de vooravond van een ontwikkeling waarin grote delen van organisaties worden ingevuld door agentsystemen die relatief zelfstandig functioneren. De vraag is niet óf dat gebeurt, maar vooral in welk tempo.”
Een belangrijk doel van onderzoeksproject ZODIAC is daarom om beter te begrijpen onder welke omstandigheden AI-afdelingen verantwoord kunnen worden ingezet. De onderzoekers zien parallellen met andere sectoren waar automatisering al langer een rol speelt. Van Engers noemt de luchtvaart als voorbeeld. Moderne vliegtuigen vliegen grotendeels automatisch, maar piloten blijven trainen om hun vaardigheden op peil te houden. “De vraag is hoe we iets vergelijkbaars kunnen organiseren in andere sectoren,” zegt hij. “Hoe zorgen we dat mensen voldoende vaardigheden, kennis en kunde behouden terwijl ze met AI-systemen samenwerken?”
Samenwerking
Om dat te onderzoeken werkt het team samen met verschillende praktijkpartners, waaronder KPMG en het shared service centre (SSC) van het ministerie van Binnenlandse Zaken. Dit laatste ondersteunt meerdere ministeries bij het beheer van cloudservices. Het werk dat daar wordt gedaan is complex en medewerkers moeten continu beschikbaar zijn om continuïteit te kunnen garanderen. Volgens Van Engers biedt het een interessante testomgeving. “We willen onderzoeken wat er gebeurt als delen van dat werk door een zero-person department worden uitgevoerd,” zegt hij. “Dan kun je ook kijken wat dat betekent voor de taken van de medewerkers die er nu werken.”
Met KPMG richt het project zich vooral op de vraag hoe organisaties verantwoording kunnen afleggen over AI-systemen. Als een afdeling grotendeels door AI wordt aangestuurd, moet immers duidelijk zijn hoe beslissingen tot stand komen en wie verantwoordelijk is wanneer er iets misgaat. “Daar spelen vragen rond auditing en rapportage,” zegt Van Engers. “Hoe zorg je dat organisaties vertrouwen kunnen hebben in zulke systemen en tijdig kunnen ingrijpen als dat nodig is?”
Hoewel het onderzoek zich vooral richt op de technologie en de impact daarvan op werknemers en organisaties, verwachten de onderzoekers dat de inzichten ook relevant zullen zijn voor burgers. Steeds vaker krijgen mensen immers te maken met complexe geautomatiseerde systemen, bijvoorbeeld bij overheidsdiensten of een klantenservice. Boon verwacht dat veel bevindingen over hoe medewerkers AI ervaren, ook vertaald kunnen worden naar de beleving van burgers die met AI geconfronteerd worden. “Het kan zijn dat mensen zich minder gehoord voelen als ze met AI-systemen communiceren,” zegt ze. “Ze kunnen zich daardoor eenzaam voelen. Maar er is ook onderzoek dat laat zien dat mensen sommige gevoelige vragen juist liever aan een AI-systeem stellen dan aan een mens.”
Juist die ambiguïteit maakt het onderwerp volgens de onderzoekers zo interessant. AI biedt kansen om werk efficiënter en flexibeler te organiseren, maar roept tegelijkertijd nieuwe vragen op over verantwoordelijkheid, vaardigheden en menselijke relaties op de werkvloer. Met hun onderzoek hopen Boon en Van Engers bij te dragen aan een genuanceerder debat over AI in organisaties. “Er zijn veel kansen, maar ook risico’s,” zegt Boon. “Wat wij willen begrijpen, is onder welke voorwaarden deze technologie op een verantwoorde manier kan worden ingezet, zodat we organisaties en andere belanghebbenden ook handvatten kunnen aanreiken om zero-person departments op een verantwoorde manier te implementeren.”
Transdisciplinariteit
ZODIAC is een transdisciplinair onderzoeksproject, dat is aan de Universiteit van Amsterdam is ondergebracht bij drie faculteiten: Natuurkunde, Wiskunde en Informatica, Economie en Bedrijfskunde, en Rechtsgeleerdheid.
‘Net zoals een organisatie een multidisciplinair team nodig heeft om zo’n zero-person departement te ontwikkelen, hebben wij als wetenschappers elkaars expertisegebieden nodig om een beter beeld te krijgen van wat er nu eigenlijk gaande is’, zegt Boon.
Volgens Van Engers heeft alleen al de call voor de Stimulus Mens en Organisatie het onderzoek een belangrijke impuls gegeven. “Iedere discipline keek al naar een stukje van dit vraagstuk,” zegt hij. “Maar pas als je die perspectieven bij elkaar brengt, kun je echt begrijpen wat er gebeurt wanneer organisaties steeds meer door AI worden ondersteund, of zelfs gedeeltelijk worden overgenomen.”
Dankzij de Stimulus kunnen twee onderzoekers worden aangesteld om het project te helpen uitvoeren.
