Zal de organisatie onder leiding van mensen door de komst van technologie verdwijnen? Nee, maar veranderen zal ze wel. ‘Managers zijn geen poortwachters van informatie meer. Transparantie en delen van informatie staan centraal.’
Door Willem Peter de Ridder
Zou een organisatie volledig kunnen worden aangestuurd door algoritmes? Zou artificial intelligence (AI) de manager overbodig kunnen maken? Het lijkt wellicht een aantrekkelijk vooruitzicht, want in organisaties gaat van alles mis door menselijk handelen. Organisaties hebben bijvoorbeeld de neiging tot conservatisme, waardoor de impact van externe ontwikkelingen en technologische mogelijkheden wordt onderschat en genegeerd. Zo is er het fenomeen ‘digitaal darwinisme’ dat op den duur tot het faillissement leidt van bedrijven die zich niet tijdig aanpassen aan de veranderende omstandigheden.
The DAO
Een aardige poging om een alternatieve organisatievorm te creëren was The DAO, opgericht in mei 2016. DAO staat voor decentralized autonomous organization. The DAO bestond alleen uit open source software, om precies te zijn een smart contract op het platform van Ethereum. Er was geen personeel, geen directeur en geen bestuur. Het was opgezet als een beleggingsfonds en iedereen die geld inlegde kreeg stemrecht om mee te beslissen over de investeringen die het fonds zou doen. De regels van het spel, zoals geprogrammeerd in de software, waren voor iedereen zichtbaar en konden worden veranderd als een meerderheid van de deelnemers zo besliste.
Het idee sprak velen aan, want binnen een maand had deze virtuele organisatie 162 miljoen dollar opgehaald. Deelnemers konden anoniem blijven en overheidstoezicht was er niet. Het duurde niet lang. Een groep computerwetenschappers ontdekte fouten in de software, waardoor het mogelijk was het stemproces te manipuleren. Een anonieme hacker wist vervolgens ongeveer een derde van de ingelegde fondsen te stelen, of in ieder geval onbereikbaar te maken voor de deelnemers in het fonds.
Menselijk ingrijpen
Om de situatie te herstellen is een zogenoemde hard fork toegepast in de virtuele cryptomunt Ethereum, waardoor het mogelijk was de eerdere transacties terug te draaien. Sindsdien is Ethereum gesplitst in Ethereum en Ethereum Classic, en beide bestaan nu naast elkaar.
De desillusie was niet alleen dat deze fraude plaatsvond, maar ook dat de hard fork alleen mogelijk was door menselijk ingrijpen. Dit is ook illustratief voor een veelvoorkomend misverstand over distributed-ledgertechnologie (DLT) of blockchain. Het verhaal wil dat deze technologieën veilig zijn omdat het vertrouwen is gedecentraliseerd. Vertrouwen in mensen blijft echter altijd een factor van betekenis. In dit geval moest je vertrouwen hebben in de programmeurs. Bij systemen met AI is het niet anders. Daar moet je bijvoorbeeld vertrouwen hebben in de mensen die een algoritme trainen, de werking ervan toetsen en de toepassing ervan overzien.
Minder hiërarchie, meer gelijkwaardigheid
De fundamentele reden voor het bestaan van organisaties, met mensen, is dat het simpelweg onmogelijk is om alle denkbare omstandigheden te beschrijven en te programmeren in een contract (zie: Andrew McAfee en Erik Brynjolfsson, Machine, platform, crowd. Harnessing our digital future, W.W. Norton & Company, 2017, hoofdstuk 13). Contracten zijn altijd incompleet omdat omstandigheden veranderen of er zich situaties voordoen die niet vooraf zijn bedacht. Een organisatie lost dit op door managers beslissingen te laten nemen. Managers en leiders blijven nodig, omdat in onze complexe wereld voortdurend keuzes moeten worden gemaakt en activiteiten en reacties moeten worden afgestemd. Bovendien worden wij zelden overtuigd door alleen getallen en algoritmes. Wij hebben behoefte aan verhalen daarbij. En daar komt dan nog bij dat mensen graag met andere mensen samenwerken.
De organisatie onder leiding van mensen zal dan ook niet snel verdwijnen, maar wel veranderen. We zien dat de hiërarchie afneemt en er meer gelijkwaardigheid komt, vooral met betrekking tot ideeën. Managers zijn geen poortwachters van informatie meer. Transparantie en delen van informatie staan centraal.
Om een algoritme te ontwerpen heb je veel voorbeelden nodig, en die zijn er niet van uitzonderlijke situaties. Bovendien kunnen bestuurders en directeuren informatie hebben die de heersende omstandigheden veranderen. Denk aan nieuwe wet- en regelgeving of technologische doorbraken, die niet in de – per definitie historische – dataset zijn opgenomen. We hebben managers nodig om beslissingen te nemen als de informatie incompleet is en je toekomstige resultaten niet kunt herleiden uit historische cijfers.
Leiderschap nodig
Juist in het stellen van vragen zit het overwicht van de mens en de beperking van de machine. Computers met slimme algoritmes zijn alleen gemaakt om vragen te beantwoorden. Dit betekent dat ondernemers, vernieuwers, wetenschappers, uitvinders en andere mensen die bedenken wat het volgende probleem is dat we gaan oplossen of het volgende gebied dat we gaan onderzoeken, heel hard nodig blijven.
Daarnaast zijn mensen, lees: leiders, in organisaties nodig om nieuwe oplossingen te implementeren en andere mensen te overtuigen van het nut en de noodzaak om te veranderen. We kunnen met behulp van AI voorspellen wat er gaat gebeuren en processen optimaliseren, maar de meeste mensen moeten actief worden gemotiveerd en aangespoord om daarvan gebruik te maken.
Ook algoritmes mogen fouten maken
Dat we management en leiderschap niet kunnen robotiseren, sluit niet uit dat AI bij het nemen van beslissingen een steeds grotere rol speelt, ook op strategisch niveau. Een veelgehoord bezwaar tegen het gebruik van slimme systemen is dat deze niet foutloos zijn, wat meestal ook zo is. Als je een algoritme traint aan de hand van verkeerde data is de uitkomst ook fout. Als de data vooroordelen bevatten, zitten die vooroordelen ook in de resultaten van het algoritme. Bovendien is machine learning vaak een blackbox. Het aantal knooppunten in een (deep learning) neuraal netwerk is zo groot dat het onmogelijk is na te gaan wat er precies op elk punt gebeurt. De machine weet meer dan zij ons kan vertellen. Dit maakt het lastig de uitkomst te interpreteren en uit te leggen, ook als die uitkomst juist is.
De vraag is echter hoe erg dat is. Ook mensen maken afwegingen ‘op gevoel’ die zij niet altijd goed kunnen uitleggen. Als je maar lang genoeg doorvraagt naar iemands motief, kom je uiteindelijk tot het weinig bevredigende antwoord ‘omdat ik het zo wil’. Bij het beoordelen van AI moet perfectie niet het criterium zijn, maar het best beschikbare alternatief. Mensen zijn allesbehalve foutloos, maar wij zijn in de regel veel toleranter voor de fouten van mensen dan de fouten van machines.
Empathie belangrijker
Hoewel AI vooral dient om bestuurders te ondersteunen, is het in de toekomst eenvoudig voor te stellen dat bestuurders die afwijken van het advies van een prescriptief informatiesysteem dat moeten verantwoorden. Het zou een nieuwe dimensie toevoegen aan het corporate-governanceprincipe ‘comply or explain’ (pas toe of leg uit). En als de routinematige beslissingen door AI worden genomen, worden sociale vaardigheden, empathie, creativiteit en originaliteit belangrijkere competenties voor directies dan kennis van operaties en financiën. Vragen stellen wordt belangrijker dan antwoorden geven.
Willem Peter de Ridder is directeur van Futures Studies, strategisch adviesbureau dat organisaties ondersteunt bij het verkennen van de toekomst, spreker, docent en auteur van Winnen met kunstmatige intelligentie.
Deze bijdrage komt uit IP #9/2020. Het hele nummer kun je hier lezen.