Door Cindy Lammers
Meer transparantie in een steeds digitaler wordende wereld; organisaties die opener zijn over wat er gebeurt met hun (en jouw) data en informatie; een menselijker perspectief. Dat is wat het initiatief Open the Black Box wil nastreven. TU Delft helpt daarbij met een eerste aanzet tot transparantie en transparency by design aan de hand van de Window Theory en ontwerpprincipes.
Waar steeds geavanceerdere technologie haar opmars maakt, zijn grenzen die worden opgerekt. Met dank aan de bedenkers en bedieners van deze technologie die het elastiek ervoor verschaffen en gebruiken. Tegelijk dienen zich – gelukkig – ook professionals aan die serieus willen nadenken over de impact en gevolgen ervan. Over de keerzijde van de medaille voor samenleving, mensen en dieren, van diverse pluimage en kleur. Zo ook Open the Black Box, een initiatief dat vorig jaar het licht zag tijdens een lanceringswebinar over transparency by design.
Een belangrijk thema, weet een van de trekkers Frank van Geffen (BI translator for Data & Analytics bij Rabobank). ‘Onze missie is om op onderzoeksjournalistieke wijze dit thema te benaderen en verslag te doen van wat we vinden. Daarbij willen we mensen die last hebben van een black box of er slachtoffer van zijn geworden – denk aan de toeslagenaffaire – een platform bieden om hun verhalen te delen. Daarnaast we willen onderzoeken welke mate van transparantie we kunnen “mee-ontwerpen” waardoor de black box makkelijker open te maken valt, of zelfs zodanig dat het geen black box wordt.’
Uitlegbaarheid en toetsbaarheid
In een vervolgsessie op de lancering enkele maanden later dippen de aanwezige data- en informatieprofessionals tijdens een webinar voorzichtig hun tenen in de black box, en is de TU Delft present voor de eerste verkennende handvatten. Namens TU Delft Design for Values zijn dat Pieter van Langen, senior onderzoeker Complex Systems Design, en Marijn Janssen, hoogleraar ICT & Governance. Die laatste neemt de honneurs waar van zijn promovendus Big en Open Linked Data Ricardo Matheus, die ‘hard heeft gewerkt aan de voorbereiding van dit webinar, maar er niet bij kan zijn’. Ze houden zich al enige tijd bezig met onderzoek naar transparantie en transparency by design, maar wat wordt daar nou eigenlijk mee bedoeld?
Voordat Janssen het woord neemt, vraagt hij de aanwezigen welk beeld zij erbij hebben. ‘Altijd het overzicht houden’, oppert iemand. ‘Dat is mooi,’ reageert Janssen, ‘want daarvoor hebben we geen transparantie nodig, maar alleen het overzicht.’ Een andere bijdrage luidt: inzichtelijk maken van keuzes, uitlegbaarheid en toetsbaarheid. ‘Met name uitlegbaarheid maakt het moeilijk’, zegt Janssen. ‘We hebben het hier over de black box, nou, voor mij is heel het leven een black box. Als ik naar buiten kijk, zie ik alleen wat vooraan staat en niet wat er verderop is.’ En ‘uitlegbaarheid naar alle doelgroepen als guiding principle’ – nog zo’n suggestie van een deelnemer – is mooi, vindt Janssen: ‘Ik ben het er ook zeker mee eens, maar het is wel lastig, want elke doelgroep is verschillend.’ Ook opperen de aanwezigen ‘inzicht en verantwoording’ als begrippen waar ze aan denken bij transparantie. Janssen: ‘Meestal is transparantie een hulpmiddel om tot inzicht en verantwoording te komen, maar je kunt ook verantwoording afleggen zonder transparantie. Kijk maar wat er gebeurt in de politiek.’
Een multikoppig monster
Kortom, het is een lastig begrip, ‘een multikoppig monster’, weet Janssen. ‘Iedereen praat erover, inclusief ikzelf, maar we willen het ook handen en voeten geven.’ Daarom heeft TU Delft een poging gedaan om transparantie en transparency by design te duiden. Op twee manieren: als proces en als resultaat van dat proces (de uitkomst). Wat dat laatste betreft komen ze tot de volgende beschrijving: ‘Transparantie als resultaat van het proces is het principe dat alle stappen van de datacyclus beïnvloedt en vormt, van het verzamelen van data tot aan het ontsluiten van data’ (Janssen, Matheus, Logo en Weerakkody, 2017). Janssen: ‘Wat we hiermee willen zeggen, is dat als we data transparant willen hebben, we vaak naar het einde kijken, naar wat eruit komt, terwijl we juist bij het begin moeten beginnen. Als je niet weet hoe iets gemeten wordt, weet je ook niet wat het waard is.’
Hij noemt als voorbeeld de temperatuur. ‘Als ik vraag: wat is bij jullie de temperatuur, dan krijg ik verschillende antwoorden. Ik weet niet of het gaat om de temperatuur in huis of buiten, dicht bij of ver van zee, en op welke hoogte. Voor een landbouwer is het bijvoorbeeld belangrijk om dicht bij de grond te meten en niet twee meter erboven, want als het vriest gaan zijn gewassen dood. Je moet dus goed weten wat er allemaal achter ligt om tot transparantie te komen.’
Opendataportals en apps
Dat brengt Janssen naar de tweede omschrijving, die van transparantie als proces: ‘Dit betekent rekening houden met transparantie in elke fase van het ontwerpproces, leidend tot het automatisch ontsluiten van relevante data, zodanig dat het publiek begrijpt wat deze data betekenen en wat ze ermee kunnen’ (Janssen, Matheus, Logo en Weerakkody, 2017). ‘Wij kunnen dit natuurlijk makkelijk opschrijven, maar het is best lastig. Want wie is “het publiek”? We hebben in Nederland 17 miljoen inwoners die alles op hun eigen manier bekijken en interpreteren, dus ook data.’
En dan is er de vraag wat we precies transparant willen maken, vervolgt hij. ‘Stel je voor: je wilt iets volledig opengooien; ik wil bijvoorbeeld mijn wiskundeboek helemaal transparant voor jullie maken. Dan moet ik jullie les gaan geven in die wiskunde. Ik moet jullie gaan leren hoe formules in elkaar zitten, welke logica daarachter zit en wat de axioma’s zijn. Dat vereist kennis, tijd en resources, en die hebben we niet. Wat wij vaak bedoelen met transparantie is dat we het snel zichtbaar willen krijgen en het juiste willen zien, maar dat vereist wel dat we weten wat het juiste is en wat er te zien is.’
Hij noemt in dit kader het verschil tussen opendataportals en specifieke apps. ‘Portals bieden ruwe data waar je zelf nog veel mee kunt doen, apps geven je een voorgedefinieerde view. Vergelijk Buienradar met een portal met allerlei klimatologische gegevens. Het zijn ook heel verschillende doelgroepen van transparantie die je ermee bedient. De een heeft kennis van zaken en van de data, en tijd om er iets mee te doen, en de ander wil alleen maar antwoord op een vraag.’
Window Theory
Er zijn dus barrières waarmee je rekening moet houden als je transparant wilt zijn of worden. TU Delft heeft daarvoor de Window Theory bedacht, die stelt: het zicht op data is afhankelijk van context en perspectief. ‘Wat je ziet hangt af van door welk raam je kijkt, maar ook van “hoe de gordijnen hangen”. Je ziet wellicht een mooie boom, maar niet dat erachter een grote vervuilende fabriek staat.’
Voor iedereen kan het zicht op data anders zijn. In 2019 destilleerden Matheus & Janssen factoren die het zicht op data beïnvloeden; ze hebben er toen 42 uit wetenschappelijk onderzoek naar boven gehaald – ‘and counting’. Denk alleen al aan vindbaarheid, vrije toegang, informatieoverdaad en compliance. Janssen: ‘Stel, je wilt antwoord op een vraag. Het is onze droom dat technologie jou dit brengt, maar als we kijken naar search engines als Google, dan zijn het nog steeds geen echte semantische zoekmachines, dus je moet het antwoord zien te vinden. Veelal krijg je honderden hits, wat duidt op informatieoverdaad. Daarnaast moet je toegang tot het antwoord hebben, wat vaak niet of slechts deels het geval is. En dan heb je de compliance nog. Er zijn dus veel factoren die bepalen hoe de gordijnen hangen.’
Beschikbaarheid van data
Janssen doet vervolgens een oefening met de deelnemers om te kijken hoe het met hun gordijnen en view is gesteld. ‘Opvallend hierbij,’ zegt hij, ‘is dat jullie nogal op het rationele perspectief zitten. Bijvoorbeeld “beslissingen begrijpen en weten hoe die in elkaar zitten”. Dit veronderstelt dat de beslisser dit weet. Is dat transparantie of kan hij gewoon uitleggen hoe de beslissing is genomen?’ Denk hierbij ook aan de beschikbaarheid van data, en aan zoiets als nudging, vervolgt hij. ‘Zijn het wel de juiste data die je openmaakt, en als je de data openmaakt, zijn die dan compleet? Want stel je voor wat de aanbieder van data kan denken: “Ik open mijn data zodat jij die mooi kunt analyseren en dan komt er dit uit, en wat ik niet wil laten zien, laat ik niet zien.” Fraudeurs zijn goed in het verbergen van bepaalde data.’
Janssen haalt ook een opmerking van een deelnemer aan over de behoefte: ‘wat zoeken we en wat willen we nu weten?’ ‘Hierbij ga je ervan uit dat mensen hun behoeften kennen, maar dat is een misconceptie. “Ik zoek transparantie in de budgetverantwoording.” Ja oké, maar wat zoek je dan precies? Transparantie in de uitgaven? Of wil je weten of de besteding effectief is geweest? Er kunnen veel vragen achter zitten en dat moet je verder analyseren.’
Een goede opmerking uit ‘de zaal’, stelt Janssen, is ‘aandacht besteden aan ieders window om een overall beeld te krijgen’. ‘Dat wordt nog nauwelijks gedaan, want het kost tijd en geld. Wat vaak gebeurt bij het openen van data is dat er een mooie portal wordt gemaakt met leuke tools en grafiekjes, maar leidt dit tot transparantie? Ik betwijfel het, al wordt dit vaak wel geclaimd. Bepaalde vragen kun je ermee beantwoorden, maar zijn dat ook de juiste?’
Ontwerpprincipes
Janssen zet het ietwat dik aan – om het later enigszins te nuanceren: ‘Uit de literatuur weten we inmiddels dat volledige transparantie niet bestaat. Dat lukt niet, en het is vaak ook niet nodig om vragen toch goed te kunnen beantwoorden. Bovendien zijn wij mens, en geen machine, en hebben we onze cognitieve beperkingen.’
Om toch op een gedegen manier transparantie van data te realiseren heeft TU Delft een aantal ontwerpprincipes op een rij gezet om rekening mee te houden (Matheus, Janssen & Janowski, 2021). Een aantal is hierboven al genoemd, het volledige overzicht staat in onderstaande afbeelding.
Aan het eind van het webinar vat Van Langen de weg naar meer transparantie nog even samen: ‘In het ontwerpproces, bijvoorbeeld via design thinking, zul je te maken krijgen met diverse waarden en verwachtingen ten aanzien van data, en die zul je moeten vertalen. De behoeften zijn vaak helemaal niet zo duidelijk, of je weet niet eens dat je ze hebt, maar je zult deze moeten duiden en uiteindelijk tot eisen moeten komen die je kunt toetsen om te kijken of eraan is voldaan of niet. De factoren, die lange lijst van 42, en wellicht nog meer, helpen je bij het ontwerpen om behoeften te duiden en eisen te formuleren. Vervolgens zul je een concept moeten opstellen dat gaat over: welke data gaan we ter beschikking stellen en wat voor systemen gaan we daarvoor gebruiken? Uiteindelijk leidt dit tot formulering van je ontwerp, en de ontwerpprincipes en het gesprek daarover helpen je om in het ontwerpproces tot een goede oplossing te komen. Eén die voor alle belanghebbenden acceptabel is.’
De KNVI-interessegroep Open the Black Box wil dit jaar activiteiten organiseren om het fenomeen vanuit diverse invalshoeken te belichten, zoals die van AI en algoritmes/deep learning, maar ook vanuit audit- en assurance-perspectief. Meer hierover vind je hier.
‘Transparantie is a never ending story’
‘Wil je het ontwikkelen van transparantie goed doen, dan moet je beseffen dat het transparantieproces – de “transparantiecyclus” hebben we het genoemd – altijd doorgaat’, zegt Janssen. ‘Als je data transparant hebt gemaakt, moet je ook controleren of het daadwerkelijk zo is. Natuurlijk is het niet compleet transparant, want als je data transparant maakt, leidt dit tot nieuwe vragen, en dat leidt weer tot de behoefte aan andere vormen van transparantie of tot andere zaken die transparant worden. Dan doorloop je die hele datacyclus weer opnieuw; dat is een continu proces, a never ending story. Als je zegt: we hebben twee jaar geleden een dashboard ontwikkeld en daarmee onze data transparant gemaakt, dan kan ik me niet voorstellen dat dat op dit moment nog steeds zo is.’
Cindy Lammers is hoofdredacteur van IP.
Deze bijdrage komt uit het digitale magazine IP #1/2022. Klik op de onderstaande button om het hele nummer te lezen.
