Technologie heeft eigenlijk altijd wel een ethische lading. Dit kan soms verregaande consequenties hebben voor consumenten, burgers of organisaties. Daarom start Fontys Hogescholen per 1 juni het lectoraat Moral Design Strategy onder leiding van lector Bart Wernaart.
Onze samenleving is getransformeerd van een information society naar een smart society. In een smart society interacteren mens en techniek altijd en structureel met elkaar. In toenemende mate vertrouwen we daarbij een deel van de ethische besluitvorming toe aan slimme technologie. Dat leidt tot allerlei maatschappelijke vraagstukken en uitdagingen. Hoe zeker moet een algoritme zijn van zijn zaak om een burger van fraude te beschuldigen? Wanneer moet een veiligheidscamera de politie inschakelen als het een vechtpartij denkt te voorspellen? Hoeveel risico mag een chatbot die financieel advies geeft een klant laten lopen? Wie mag bepalen hoe een algoritme op een sociaalmediaplatform omgaat met desinformatie? Het lectoraat gaat aan de slag om dit soort maatschappelijke vraagstukken verder op te pakken.
Ontwerp van technologie
‘Het gaat om meer dan alleen kennis opdoen over ethische vraagstukken’, zegt lector Bart Wernaart. ‘We willen de moraliteit van het individu “vangen” en ten goede gebruiken in het ontwerpproces van producten en diensten in zowel de private als publieke sector. Het gaat er vervolgens ook om dit door te vertalen naar strategie. Wat betekent dit bijvoorbeeld voor de missie en visie van organisaties? Of hoe verhoudt zich dit tot decentraal overheidsbeleid? En hoe kan een organisatie uiteindelijk op een transparante manier vaststellen dat het morele ontwerp ook daadwerkelijk datgene doet zoals dat oorspronkelijk bedoeld was? Het technologisch ontwerp leidt tot belangrijke uitdagingen op het gebied van morele autoriteit, ethische besluitvorming en morele strategievorming. Door middel van gedegen onderzoek willen we dit beter in kaart brengen en dat gebruiken als input voor toekomstig ontwerp van technologie.’
Sociaal innovatief leerproces
Wernaart start tegelijk met het nieuwe lectoraat als lector. De afgelopen jaren was hij werkzaam als jurist en docent-onderzoeker Recht en Ethiek aan de Fontys Hogeschool Economie en Communicatie. Wernaart ziet het nieuwe lectoraat als een manier om onderwijs en onderzoek dichter bij elkaar te brengen, waarbij studenten een actieve participerende rol hebben in het doen van betekenisvol onderzoek. ‘We willen enerzijds met onze voeten in de klei staan en bijvoorbeeld met mobiele moral labs de wijken in om te achterhalen welke morele verwachtingen burgers hebben van een voorspellend algoritme dat de overheid gebruikt. Denk daarbij aan preventive policing, of een algoritme dat risico op fraude moet detecteren. Anderzijds willen we meedoen op hoogwetenschappelijk niveau en daar tot nieuwe modellen en aanvliegroutes komen, gebaseerd op onze praktische expertise.’
Toekomst
‘Er gebeurt momenteel ontzettend veel op het snijvlak van technologie, ethiek en maatschappij’, vervolgt Wernaart. ‘Denk daarbij aan de steeds groter wordende rol van kunstmatige intelligentie. Maar tegelijkertijd gaan we soms te snel voorbij aan de ethische aspecten ervan. Door onderzoekers, ondernemers, onderwijs en overheden met elkaar te verbinden en gedegen onderzoek te doen, willen we hier meer zicht op krijgen. Uitgangspunt hierbij is de individuele moraliteit als input voor design van nieuwe technologie, waardoor moraliteit al aan de tekentafel nadrukkelijk meespeelt. Dat is echt de toegevoegde waarde van het lectoraat.’
Intussen zijn er al diverse samenwerkingsverbanden ontstaan. Zo zullen met de universiteiten van Quebec en Ottawa, de Universiteit van Leuven en verschillende commerciële partijen onderzoeksprojecten worden opgestart. Wernaart: ‘Het thema leeft enorm. Kijk naar de ontwikkelingen in het afgelopen jaar: discussies rondom deepfake, de toeslagenaffaire, surveillancesystemen en de corona-app centreren zich allemaal rondom (een gebrek aan) moral design. Het is broodnodig hier op een goede manier mee om te gaan om het vertrouwen in een mooie toekomst met technologie te vergroten.’