Moraliteit achter algoritmes bevragen, vastleggen en openbaren
In een statige kamer van het vijftiende-eeuwse Amsterdamse Waaggebouw houdt Marleen Stikker kantoor aan een minstens zo statige tafel. Alles ademt hier historie. Een mooie plek om met de internet-, techniek- en designpionier te reflecteren op een aantal trends voor de toekomst die in dit nummer aan bod komen. Samen met gelijkgestemden begon Stikker in 1994 De Digitale Stad. Zij openden daarmee het internet voor het publieke domein. Stikker is medeoprichter en directeur van Waag Society in Amsterdam, een instituut voor kunst, wetenschap en technologie dat experimenteert met het verbinden van steeds weer nieuwe technologieën en de maatschappij, zoals het open wetlab, een plek waar het brede publiek kan participeren in het opzetten van een biolab en het ontwikkelen van biokunst en -design.
Door: Frank Huysmans
Het verbaast niet echt dat haar eerste reactie op het lijstje dat IP haar voorlegt is dat het geen echt nieuwe trends zijn. ‘In mijn ogen staan al deze onderwerpen al langere tijd op de agenda. Wel zie je een soort eb-en-vloed-beweging. Artificiële intelligentie zat heel lang op een dood spoor. Door de verbinding aan neurale netwerken is er weer een nieuwe impuls gekomen.’
En robotisering? Ook niet nieuw natuurlijk.
‘Nee, maar er is wel een intensivering aan de gang. Robotisering hangt samen met kunstmatige intelligentie, big data en zelflerende machines. Daar is wel iets veranderd. We dachten dat robotisering over stofzuigers ging, en nu gaat het ineens over ons werk. Er zijn nu al applicaties die nieuwsberichten kunnen genereren over voetbal en de financiële wereld. Dat leest met zinnetjes als “Prachtig doelpunt!” alsof het door een mens geschreven is. Wel haalt het werk weg van mensen die anders zulke stukjes aan het typen waren.’
Wat wordt de nieuwe rol van mensen in zulke domeinen?
‘We zien dat er een enorme bias in zulke software zit. De eerste stap die we moeten zetten is om die bias, die vooronderstellingen zichtbaar te maken. Je moet als informatiewerker een metaperspectief ontwikkelen ten opzichte van de software.’
‘De campagne rondom de mogelijkheden en oplossingen die artificiële intelligentie en robots gaan bieden qua veiligheid, duurzaamheid, efficiëntie en kostenreductie… De belofte die vanuit de IT-wereld wordt geprojecteerd op wat het voor ons allemaal kan gaan betekenen is zo sterk dat iedereen erin gaat geloven: de politiek, investeerders, en mensen gaan er als consumenten ook in geloven. Het wordt “solutionisme” genoemd: het geloof dat techniek alles voor ons gaat oplossen. Door al dit optimisme is een kritische houding tegenover machine-intelligentie nog heel zwak ontwikkeld.’
Meer nieuwe technologie is altijd beter?
‘Ja. Je moet met heel grof geschut aankomen om te laten zien dat er in diezelfde technologie gevaren schuilen die je helemaal niet wilt als samenleving. En de vraag is ook: van wie is die technologie? Waar berust het eigenaarschap? Is de code te lezen? Zo lang je de instructies die in de software zitten niet kunt lezen, moet je software per definitie wantrouwen. Of het nu om gesloten zoekalgoritmes gaat zoals die van Google of om zelfrijdende auto’s.’
‘Als makers bereid zijn om de achterliggende instructies leesbaar te maken, dan is het accountable. Je hebt een counterintelligence nodig voor de intelligente systemen. We moeten als Nederland en als Europa gewetensvolle, open technologieën creëren. Dat vereist wel een ander denken over “rendement”. Je hebt het over een ander soort kapitaal.’
Wat voor soort kapitaal?
‘Nou, gewoon, kalm kapitaal. Een normaal rendement. Geen tien paarden, maar tien ossen die heel stug de grond gaan bewerken en zorgen dat ze duurzaam die oerkracht houden. Voor die duurzaamheid is een cultuur van waardecreatie in het publieke domein nodig. Je ziet namelijk dat in de startup-cultuur die we kennen uit Silicon Valley waarde uit het publieke domein naar private investeerders doorsluist, terwijl je ook aan wederkerige waardecreatie zou kunnen doen. Kijk ook naar het menselijk kapitaal: veel van het jonge talent wordt maar even gebruikt. Dan brandt het op of het raakt verstrikt in management.’
Waarom zijn zaken als openheid, duurzaamheid en leesbare instructies zo belangrijk?
‘Het is in wezen hetzelfde als met taal en religie in vroegere eeuwen. Het was een grote stap om van Grieks en Latijn in de vulgaire taal te gaan schrijven. Dat was een revolutionaire daad. Wat we nu omgekeerd aan het doen zijn, is een soort godentaal creëren die we bijna allemaal niet snappen. We moeten maar geloven dat het in orde is.’
‘Ik kan me gewoon niet voorstellen dat je na het Verlichtingsdenken een omgekeerde Verlichtingsstrategie gaat volgen. Dat je zegt: we vertrouwen erop dat een aantal mensen een taal spreekt die wij niet kunnen lezen. En dat er weer een soort heilige schrift komt, in de vorm van geheime code en algoritmes, die alleen aan ons uitgelegd kan worden door bepaalde mensen. Hacken is zo cruciaal geworden omdat het een poging is om weer tot een vulgaire taal en een gelijkwaardige positie te komen.’
Ik merk in mijn omgeving dat veel mensen, hoogopgeleiden ook, zeggen dat ze zich niet ook nog druk willen hoeven maken over zaken als ‘openheid’ en ‘privacy’.
‘Het gaat gewoon tijd kosten. Toen ik in 1994 zei dat het internet wel wat was, met De Digitale Stad, was het precies hetzelfde. Mensen zeiden: waarom zouden we daar gebruik van maken? Toen kwam er een browser en zei men: nou, misschien wordt het met plaatjes toch wel wat. Hetzelfde verhaal met de mobiele telefoon. Men zei: waarom moet ik altijd bereikbaar zijn?’
‘We hebben keer op keer gezien dat wat men nu vindt, niet betekent dat men dat over tien jaar nog steeds vindt. Ik weet niet beter dan dat ik altijd in gesprek ben met mensen over dat ze iets onderschatten.’
Is dat een constante lijn in jouw werk in de afgelopen 22 jaar?
‘Ja, dat is het wel. De eerste keer dat we hier bezig waren met een 3D-printer en een fablab en het principe van open design vond men het wel een grappig dingetje. Pas na een tijdje zie je dan dat meer mensen gaan zeggen dat die makersbeweging wel eens een disrupter kan gaan worden voor hoe de economie functioneert.’
‘Hetzelfde zou wel eens kunnen gaan gebeuren met wat we hier in ons wetlab aan het doen zijn. We hebben hier in De Waag namelijk een lab waarmee we DNA kunnen modificeren. We hebben daar als enige publieke plek buiten de universiteiten een vergunning voor. Dat doen we omdat we denken dat het vraagstuk van biodesign, het creatief ontwerpen met levend materiaal, al onze aandacht nodig heeft.’
‘De eerste stap die je moet zetten is dat je specialistische kennis over het modificeren van “levend materiaal” in het publieke domein krijgt. Je moet expertkennis democratiseren en vanuit een hackersperspectief zorgen dat de mystificatie rond zo’n technologie afneemt. Tot die tijd heb je twee smaken: je kunt het aannemen of afwijzen. Maar zodra je het begrijpt, kun je zelf ook de waarden inbrengen die je in de technologie wilt terugzien. Dat handelingsperspectief – dat je het gevoel hebt zelf de ontwikkelingen mede richting te kunnen geven – is belangrijk, of het nu gaat om die autonome systemen of artificiële intelligentie.’
Dus van toepassen naar…
‘… Mee richting geven en expliciet zijn over de waarden die in die technologie vervat zitten. En weten vanuit welke waarden je zelf opereert. Informatiewerk is in jullie context heel breed, zeker als je aan de publieke kant zit. Als het businessmodel van het bedrijf waarin je werkt is om zoveel mogelijk geld te verdienen, zul je niet zo kritisch zijn over de tools die je gebruikt. Maar als je voor de publieke zaak werkt, aan een universiteit of in een bibliotheek of archief, dan denk ik wel dat het je plicht is om een kritisch, onderscheidend vermogen te hebben over met welke technologieën je wel en niet in zee gaat.’
Toch blijkt het in de publieke wereld vrij moeilijk te zijn om met open standaarden te werken, omdat daarvoor op de werkvloer de deskundigheid ontbreekt en het dus ‘geld kost’.
‘Er zijn heel veel goede voorbeelden van hoe open source tot economisch rendement kan leiden. Het beste voorbeeld is momenteel dat van gov.uk. Dat heeft ingezien dat alle ministeries werkten met gesloten, locked-in systemen. Gov.uk is nu helemaal gebaseerd op user experience design en open source. In plaats van met vijf grote bedrijven kunnen ze nu werken met een paar honderd kleine bedrijven en dus een veel grotere markt laten meedingen naar projecten. Ze kunnen makkelijker switchen als een partij het niet goed doet. Ze raken niet langer locked-in in een software-omgeving. En het heeft enorme besparingen opgeleverd.’
‘Maar ik weet dat de archiefwereld en de bibliotheekwereld locked-in zitten in systemen waar je van z’n levensdagen niet meer uitkomt, omdat het zoveel tijd, geld en moeite kost om met iets nieuws te beginnen. Dat is problematisch, ook omdat er momenteel te weinig middelen zijn om een goede open source-strategie in te zetten.’
Iets anders: momenteel wordt de blockchaintechnologie ontdekt door de informatiewereld. Wat verwacht jij hiervan?
‘Het feit dat je een open registratie hebt en dat een mutatie overal tegelijkertijd plaatsvindt, betekent voor financiële administraties en dergelijke dat er een stap tussenuit gaat. Dat gaat enorme effecten hebben. Het betekent niet dat we allemaal zo gaan werken, maar voor bepaalde typen documenten wordt het wel cruciaal.’
‘Een voorbeeld: we zijn hier met de steden Amsterdam en Barcelona en een aantal andere partners bezig om een antwoord te vinden op Airbnb. Als Airbnb vindt dat jij je als verhuurder niet goed hebt gedragen, dan wordt in hun algoritme iets aangepast – en jij hebt geen idee waarom je geen klanten meer krijgt. Er is ook geen manier om ze zich daarvoor te laten verantwoorden. Wij ontwikkelen op basis van blockchain een open, wederkerig identiteits- en reputatiemanagement.’
‘Blockchain zal ook zijn beperkingen kennen, want het gaat om een bepaalde vorm van openbaarheid waarbij je ook je vraagtekens kunt zetten.’
Zoals patiëntenregistraties en dergelijke?
‘Ja. Als je de patiëntenregistratie koppelt aan jou als patiënt als portefeuillehouder, en je de huisarts of een andere vertrouwenspersoon vraagt dat samen met jou te beheren, dan is blockchain een manier om te zien of er iets is veranderd aan de documentatie over jou. Als dat zo is, wordt dat overal tegelijk bewaard. Maar wel versleuteld en alleen te openen als ik iemand de sleutel geef. Dus het is toepasbaar in combinatie met een aantal andere vraagstukken over beheer en toegankelijkheid.’
Er is nu ook sprake van het Interplanetary File System, een toepassing van het idee achter de blockchain op de architectuur van het web. Wat kunnen we daarvan verwachten? Bijvoorbeeld dat het eerdere versies van websites beter beschikbaar maakt?
‘Dat laatste zou echt iets kunnen zijn. We zitten met het gigantische vraagstuk over hoe we ons digitale geheugen kunnen blijven organiseren. In De Digitale Stad hadden we een archeologische dienst, die door een paar mensen was begonnen als een grap. In 1996 hebben we van de hele Digitale Stad een freeze gemaakt op een paar tapes. Toen kwam het idee al op dat het wel eens lastig zou kunnen worden om op termijn die Digitale Stad van toen weer op te roepen.’
Diverse partijen zijn er inmiddels wel mee bezig een selectie van het Nederlandse deel van het web te archiveren.
‘Er gebeurt inderdaad best veel. Het Nationaal Archief en de Koninklijke Bibliotheek zijn heel erg up-to-date op dit moment, dus ik maak me minder zorgen over het nu. Maar in de afgelopen vijftien, twintig jaar is er een heel groot stuk verdwenen. Het gaat lastig worden om te begrijpen hoe het internet en het web zich hebben ontwikkeld tot wat ze nu zijn.’
‘Daarom is het voor ons nu ook zo interessant dat we het project De Digitale Stad Herleeft hebben. Daarin werken we samen met de Universiteit van Amsterdam, het Amsterdam Museum en Beeld en Geluid, en zijn we bezig dat weer tot leven te wekken met studenten van de UvA. Die studenten zijn rond de twintig en zijn zo oprecht nieuwsgierig naar hoe dat dan ging in die tijd. Door die bevraging van het materiaal ontstaan nieuwe inzichten.’
‘De Digitale Stad is een van de weinige complete stukken van het vroege internet die er nog zijn. Her en der is er ook nog wel wat, maar voor de rest is er de grote amnesia van het eind van de twintigste, begin van de eenentwintigste eeuw.’
Ik las dat studenten erin waren geslaagd data en programma’s weer leesbaar te maken.
‘Door studenten is De Digitale Stad inderdaad weer aangezet. Maar de stad is lek, want er zijn in de afgelopen twintig jaar geen patches meer geweest in de software. We kunnen de stad daarom niet live zetten. Het is te kwetsbaar. Een andere groep studenten heeft een kopie gemaakt en heeft het geheel nagebootst in een emulatie. Daarvan zijn we nu aan het kijken wat er publiek gemaakt kan worden. En wat niet, want er zit informatie in waarvoor nooit toestemming is gegeven om het publiek te maken. Denk aan de inhoud van besloten fora en mailboxen. Alleen dat is al een heel interessante zoektocht.’
‘We willen ook in beeld brengen wat politieke partijen, de culturele sector en het bedrijfsleven aan het doen waren. Het was verder de eerste plek waar je een dead man’s switch had, en het Memento Mori-plein waar mensen konden herdenken. Heel veel van die eerste concepten en ideeën zijn in De Digitale Stad ontwikkeld.’
Hebben we nog relevante trends over het hoofd gezien?
‘Dat je ook algoritmes kunt archiveren. We hebben het nu heel veel over open data, maar we kijken veel minder naar de modellen waarin die data wordt gegoten. We beschouwen “data” als objectief. Dat is het niet, want degene die de categorieën definieert en bepaalt of iets wel of niet in een bepaalde categorie past, die definieert eigenlijk al het model. Die modellen moet je ook bevragen, vastleggen en openbaren – de moraliteit achter die beslissingen blootleggen.’
Is dat een oproep aan informatieprofessionals?
‘Ja, ik denk dat hun kritisch vermogen de komende tijd stevig op de proef gesteld gaat worden. En dat er van hen meer wordt gevraagd dan informatie ontsluiten. Ze zullen wat meer hacker moeten worden.’
Waag Society
Stichting Waag Society bestaat sinds 1994 en is een Algemeen Nut Beogende Instelling (ANBI) zonder winstoogmerk. Het afficheert zich als Institute for Art, Science and Technology en als ‘platform voor artistiek onderzoek, een katalysator van experimenten en evenementen en een broedplaats voor culturele en sociale innovatie’. Op waag.org is informatie te vinden over projecten en evenementen van Waag Society. Er is ook een etalage van digitale projecten (veelal met gebruik van open data): code.waag.org.
De Digitale Stad Herleeft
De Digitale Stad (DDS) was in 1994 een vroege poging om de mogelijkheden van het internet te onderzoeken voor lokale participatie en democratie in de gemeente Amsterdam. Het was een combinatie van een non-commerciële internetprovider (inbellen met modems in die tijd) en een gebruikersgemeenschap. Marleen Stikker (toen werkzaam bij debatcentrum De Balie) en Felipe Rodriquez (1969-2015; medeoprichter van internetprovider XS4ALL) waren de architecten van DDS. De huizen, pleinen, cafés, metrolijnen, het postkantoor (voor e-mail uiteraard) en het station dienden om het abstracte idee van cyberspace begrijpelijk te maken voor een brede gebruikersgroep. In het eerste halfjaar groeide het experiment, aanvankelijk bedoeld als een tijdelijk project in de aanloop naar de gemeenteraadsverkiezing in dat jaar, uit tot een basisvoorziening met honderdduizend gebruikers. In het Amsterdam Museum is de reconstructie van DDS uit de periode 1994-1996, een samenwerkingsproject van Amsterdam Museum, Waag Society, UvA, NCDD en Beeld en Geluid op 30 juni van dit jaar gedemonstreerd.
Meer informatie: www.waag.org/en/project/digital-city-dds, tweakers.net/nieuws/93715/de-digitale-stad-opende-deuren-twintig-jaar-geleden.html
www.informatieprofessional.nl/nieuws/2016/06/de-digitale-stad-tot-leve/index.xml
De blockchain en het Interplanetary File System
Met de digitale valuta bitcoin deed de blockchaintechnologie zijn intrede. Het idee achter bitcoin is dat als alle gebruikers inzage hebben in alle transacties, er geen centrale instantie zoals een (nationale) bank meer nodig is om het noodzakelijke vertrouwen in de valuta te creëren. Maar de blockchaintechnologie is geschikt voor meer dan alleen financiële transacties. Ze maakt slim gebruik van de genetwerkte computers op het web in combinatie met cryptografie. In feite is het een grootboek waarin waardetransacties worden bijgehouden, met dit verschil dat er vele identieke kopieën zijn van dit grootboek op evenzovele knooppunten op het web. De transacties zijn daarmee openbaar en transparant, terwijl de betrokken partijen min of meer anoniem kunnen blijven.
Het Interplanetary File System (IPFS) is een poging van onder anderen de bedenker van het world wide web, Tim Berners-Lee, om de blockchain in te zetten voor het (opnieuw) radicaal decentraliseren van het web.
In IP 7/2016 besteedden we aandacht aan de mogelijkheden van blockchaintechnologie als disrupter ook in de informatiesector.
Meer informatie: warekennis.nl/vijf-vragen-over-de-blockchain/; ipfs.io.
Frank Huysmans is redacteur van IP, bijzonder hoogleraar bibliotheekwetenschap aan de UvA en zelfstandig onderzoeker en adviseur bij WareKennis.
Deze bijdrage komt uit IP nr. 9 / 2016. Het gehele nummer kun je hier lezen.