De zeven bedrijven met de grootste economische waarde ter wereld zijn techbedrijven. Hun groeiende economische en politieke macht kan de democratische orde ontwrichten, vrezen burgers en politici. Luider en luider klinkt de roep om Google, Facebook en dergelijke giganten ter verantwoording te roepen voor de onwenselijke maatschappelijke effecten die zij teweegbrengen. Een pleidooi om de maatschappelijke integratie van technologie serieus te nemen en er overheidsbeleid voor te ontwikkelen.
Door: Frank Huysmans
Onafhankelijk
Governments of the Industrial World, you weary giants of flesh and steel, I come from Cyberspace, the new home of Mind. On behalf of the future, I ask you of the past to leave us alone. You are not welcome among us. You have no sovereignty where we gather.
– John Perry Barlow (1996), ‘A Declaration of the Independence of Cyberspace’
Een vrijdenkersplaats waar de regeringen van de fysieke wereld niets te zeggen én niets te zoeken hebben. Dit romantische beeld van cyberspace heeft generaties internetpioniers en hackers geïnspireerd. Online zweeft je geest rond in een digitale wereld, vrij van lichamelijke noden als slaap, voedsel en menselijk contact. En in die imaginaire ruimte bouw je samen met anderen, die je in de meeste gevallen niet eens kent, aan een andere, betere wereld.
De onafhankelijkheidsverklaring van The Grateful Dead-tekstdichter en internetpionier John Perry Barlow staat model voor het denken over technologie in de hippiecultuur van de Amerikaanse westkust. Daar werden – nog meer romantiek – in garages de eerste prototypes van de personal computers in elkaar gesoldeerd. Ook werd er 48 jaar geleden de eerste vaste ARPANET-verbinding gelegd, waarmee het internet werd geboren. Informatietechnologie als wegbereider voor een next level wereld vol voorspoed, vrede en geluk, die zich van de oude wereld zou ontdoen als van een slangenhuid.
Vakmanschap
Het doet pijn om de romantiek die zovelen heeft geïnspireerd om het internet te creëren en uit te bouwen bij het grofvuil te zetten. Maar het is hoog tijd. Het internet en informatietechnologie (IT) als geheel leiden niet vanzelf tot een betere wereld met meer vrijheid voor iedereen. Het denken over de maatschappelijke impact van IT moet eindelijk de sociale inbedding van die technologie serieus gaan nemen. Of eenvoudiger gezegd: we moeten niet langer vasthouden aan het idee dat technologie iets is wat ons overkomt en waarop we als maatschappij en democratie geen invloed kunnen uitoefenen.
In dit essay gaan we te rade bij de technieksociologie om een beter begrip te krijgen van hoe techniek en samenleving op elkaar inwerken. Inderdaad: IT verandert de samenleving. Maar het is de wijze waarop ze al dan niet opgenomen wordt in bestaande sociale structuren, die weer bepaalt hoe de IT zich verder ontwikkelt. Als we die wisselwerking goed begrijpen, is het verstandig indammen van het transformatiepotentieel van IT een stuk dichterbij gekomen. Want als de oude Grieken het over technè hadden, dan bedoelden ze vakmanschap: de praktische toepassing van kennis en de beheersing van het materiaal waarmee de vakman werkte.
Eerst belicht ik enkele negatieve gevolgen van de IT-revolutie. Vervolgens gaan we te rade bij de technieksociologie om de sociale integratie van IT beter te snappen. Ten slotte beschrijf ik de pogingen die overheden en NGO’s ondernemen om meer grip te krijgen op big tech, en big tech meer grip te laten krijgen op zichzelf. Dit betekent dat niet langer op technische oplossing alléén wordt vertrouwd. Het houdt in dat werknemers, intelligente wezens van vlees en bloed, met behulp van algoritmes de grenzen bewaken van wat wettelijk en moreel wel en niet kan.
Individuele profielen
In november van dit jaar stonden zeven techbedrijven aan de top van de wereldwijd waardevolste bedrijven. Apple, Alphabet (Google), Microsoft, Amazon en Facebook kregen gezelschap van de Chinese bedrijven Alibaba en Tencent (WeChat). Met het klappen van de internetzeepbel aan het begin van de eeuw nog in het geheugen zou je je kunnen afvragen wat die waarde eigenlijk voorstelt. Zijn die databoeren echt zo waardevol?
Wie weet zijn ze dat inderdaad. Nemen we alleen al de greep die bedrijven als Facebook en Alphabet hebben weten te krijgen op de wereldwijde advertentiemarkt. Sociale media maken het mogelijk om doelgroepen verder te verfijnen tot individuele klantprofielen door het registreren van hun klikgedrag. Adverteerders krijgen zo meer waar voor hun geld. Geen wonder dus dat zij hun budgetten verschuiven naar de techgiganten uit Silicon Valley. Die zijn voor marketeers de ideale combinatie van marktinformatieleverancier en marketingkanaal.
Kranten, tijdschriften en tv-zenders hebben daarmee een belangrijke inkomstenbron verloren. Zij zien zich gedwongen om te snijden in hun kosten, in het bijzonder die van hun personeel. Redacties krimpen in tot ‘rompredacties’ met enkele vaste krachten en een flexibele schil aan freelancers. Onvermijdelijk heeft dit zijn uitwerking op de kwaliteit van de nieuwsvoorziening, al was het maar omdat het collectief geheugen van nieuwsorganisaties verzwakt. Er is geen geld en tijd meer om het eigen archief – als dat nog bestaat – eens rustig door te spitten.
Niet jouw laboratorium
Erger nog is de tendens van sociale media, in het bijzonder Facebook, om de rol van nieuwskanaal voor zijn gebruikers te vervullen. Handig voor de Facebookgebruikers, want die vinden op hun persoonlijke voorkeuren toegesneden berichten in hun zogeheten News Feed. Gevolg is wel dat de leveranciers van die berichten voor hun binnenkomend verkeer sterk afhankelijk zijn geworden van dit sociale medium.
Waartoe dat kan leiden, bleek onlangs in zes kleinere landen: Servië, Slowakije, Guatemala, Bolivia, Sri Lanka en Cambodja. Facebook besloot bij wijze van experiment om de nieuwsberichten in die landen in een andere, aparte feed onder te brengen. Onmiddellijk daarna zagen nieuwsorganisaties hun inkomende verkeer met meer dan de helft inzakken.
‘Een privaat bedrijf dat aan niemand verantwoording hoeft af te leggen heeft het globale nieuws-ecosysteem overgenomen,’ schreef de hoofdredacteur van een Servische onderzoeksjournalistieke non-profit in de New York Times onder de titel ‘Hey, Mark Zuckerberg: My Democracy Isn’t Your Laboratory’. Letterlijk van de ene op de andere dag kan de economische basis onder onafhankelijke nieuwsmedia wegvallen. Wat dit betekent voor de voor het democratische proces zo belangrijke vrije en open nieuws- en informatievoorziening laat zich raden. Dan heb ik het niet alleen over nog jonge en broze democratieën.
Inlichtingen voor een prikkie
Die democratieën worden nog op andere manieren op de proef gesteld. Sinds de verschijning van het boek The Net Delusion van Evgeny Morozov (2011) en de Snowden-onthullingen in 2013 weten we welke prachtige spionagetools overheden met de sociale media in handen hebben. Morozov maakte onder verwijzing naar de film Das Leben der Anderen over spionage in de voormalige DDR aannemelijk dat digitale netwerken het werk van inlichtingendiensten vele malen eenvoudiger en goedkoper hebben gemaakt.
Meer recent is duidelijk geworden dat het opinieklimaat voor democratische verkiezingen kan worden beïnvloed met bots, gerobotiseerde nepaccounts. De Britse premier May en onze nieuwe vicepremier Ollongren hebben onlangs op gezag van hun geheime diensten verklaard dat ‘staatsactoren’ uit Rusland hierin een belangrijke rol hebben gespeeld. Voor de neutrale beschouwer is het natuurlijk van een wonderschone ironie dat het Westen de tools heeft gebouwd waarmee de Russen de democratische orde in datzelfde Westen kunnen ondergraven. Maar het moet op zijn minst te denken geven. Zoals de Turks-Amerikaanse technieksociologe Zeynep Tufekci het onlangs scherp verwoordde: ‘We offeren onze democratie op zodat mensen op advertenties kunnen klikken.’
Blikvernauwing
Het vakgebied dat Tufekci beoefent, de technieksociologie, biedt in mijn ogen goede handvatten voor het kernprobleem. Het valt niet te ontkennen dat informatietechnologische vernieuwingen de sociale/maatschappelijke context waarbinnen ze opereren ingrijpend kunnen veranderen. Maar die maatschappelijke omgeving blijkt weerbarstiger te zijn dan we geneigd zijn aan te nemen. Wat we niet (willen) zien is dat niet alleen de technologische innovatie invloed uitoefent op het sociale domein, maar dat ook het omgekeerde het geval is.
Wiebe Bijker, een Nederlandse technieksocioloog, heeft aannemelijk gemaakt dat vernieuwers doorgaans gevangen zitten in wat hij een ‘technologisch kader’ noemt, een soort blikvernauwing. Dit kader is te vergelijken met het paradigma in de wetenschapstheorie: een stilzwijgende consensus binnen een wetenschapsgebied over hoe onderzoek gedaan moet worden. Alternatieve perspectieven en benaderingen krijgen binnen zo’n consensus weinig ruimte. Ze worden soms zelfs actief tegengewerkt; denk aan de theorieën over ons planetenstelsel met de zon in het centrum die in strijd waren met de algemene, in de bijbel geboekstaafde overtuiging.
Ook techniekinnovatoren hebben vaak een beperkte manier van kijken naar het probleem dat zij willen helpen oplossen. Vaak zijn het daarom relatieve buitenstaanders die de onorthodoxe doorbraken weten te forceren. Zoals Steve Jobs die het lef had om de mobiele telefoon op een radicaal andere manier te laten werken. Vaak is het ook de vraag van de gebruikers om betere kwaliteit of andere toepassingen die de innovatie voortdrijft. Denk aan de digitale fotografie, die pas echt groot werd toen je met minilenzen in mobiele telefoons heel acceptabele foto’s en video’s bleek te kunnen maken. Heeft u thuis nog zo’n niet van een analoge spiegelreflexcamera te onderscheiden Canon of Nikon in de kast liggen? Ik ook.
Technieksociologie: drie stromingen
In de sociale wetenschap bestaan ten minste drie stromingen die je onder de noemer technieksociologie kunt scharen. De eerste is de al genoemde ‘sociale constructie van technologie’-benadering van Bijker en collega’s. Kenmerkend voor deze benadering is dat het totstandkomen van technische innovaties wordt beschreven en verklaard vanuit de sociale context van de uitvinders. Het wel of niet toegang hebben tot labs en materialen, persoonlijke vetes en jaloezie, het wel of niet toegekend krijgen van patenten en octrooien… Dit soort omstandigheden bepaalt of er überhaupt nieuwe uitvindingen worden gedaan, en door wie. Als die uitvindingen er eenmaal zijn, dan kunnen ze als zaad op de rotsen vallen. Zo ontwikkelde Philips de compact-disc-informatiedrager cd-i. Hoewel zeker veelbelovend werd die uitvinding de pas afgesneden door de cd-rom (en later de dvd-rom). Maar uitvindingen kunnen ook binnen luttele jaren de markt veroveren, zoals de mobiele telefoon aan het eind van de jaren negentig.
Of een innovatie snel en volledig wordt overgenomen of niet, is onderwerp van onderzoek in een tweede stroming: die van de ‘diffusie van innovaties’. Aartsvader was de Amerikaanse landbouwsocioloog Everett Rogers. Hij probeerde te verklaren waarom technologische innovaties in de landbouw (machines of nieuwe zaden met hogere opbrengst) maar langzaam ingang vinden in de landbouwpraktijk. Rogers ontdekte dat innovaties zich in een sociaal systeem verspreiden via een dynamiek met voorlopers en volgers. Hij onderscheidde vijf typen: een kleine groep innovators, een al wat grotere groep early adopters, dan de early majority, late majority en tot slot de laggards, die pas overstag gaan als het nieuwe het traditionele heeft overvleugeld en de laatste verouderde apparaten uit de handel gaan. Verder speelden de kenmerken van de innovatie een grote rol. Zo wordt een nieuwe vinding sneller in de praktijk opgenomen (‘geadopteerd’) als het relatieve voordeel van de innovatie ten opzichte van de bestaande middelen groot is. Een voorbeeld hiervan is Netflix, dat (1) voor een gering bedrag (2) een enorm aanbod aan series en films met (3) een paar eenvoudige kliks beschikbaar maakt.
Ten derde is er de benadering van de ‘domesticatie van technologie’. Deze bestudeert hoe technologische innovaties, zoals de pc en de tablet, ingebed raken in alledaagse, huiselijke gedragspatronen. Mensen verschillen in de mate van acceptatie van en affectie met nieuwe technologieën. De betekenissen die zij daaraan toekennen zijn sterk bepalend voor de mate waarin innovaties, hard- en software, ingang vinden in het gezin. Zo kan het spelen van computergames als asociaal gedrag worden geafficheerd (‘kom nou eens gezellig bij ons zitten’) maar kan de gamer-des-huizes ook de rest van het gezin juist bij het ontdekken van het spel betrekken als zij daarvoor openstaan.
Lessen voor mens en machine
Welke lessen kunnen we nu ontlenen aan deze drie stromingen in de technieksociologie?
Wat we er allereerst van kunnen leren, is dat de waardering en betekenis die mensen aan (informatie)technologische innovaties geven van belang is voor hoe die technologie zich verder ontwikkelt. Hoe invloedrijk techbedrijven als Facebook en Google mogen zijn, ook zij zijn elke dag bezig hun kernactiviteiten te verbeteren en nieuwe dingen op te zetten om de zeven miljard aardbewoners te verleiden vooral bij hen te blijven. En vaker dan we denken, slagen zij daar niet in. Zo is het sociale netwerk Google+ zeker niet dat geworden wat Google ervan had gehoopt.
Een andere belangrijke les is dat in elke samenleving normen en waarden grenzen stellen aan welke diensten en content acceptabel worden geacht. Mensen geven in het wel of niet gebruiken van die diensten hun grenzen aan. En mensen kunnen voor Facebook, Google en anderen ook de sleutel tot de oplossing zijn van hun acceptatieproblemen. Er is bij techbedrijven sterk de neiging om voor de problemen die de algoritmes veroorzaken weer nieuwe technische oplossingen (machine learning!) te ontwikkelen. Veelbelovender is misschien wel de benadering waarin die oplossingen van meet af aan in de interactie tussen mens en machine wordt gezocht. Waarbij de (intelligente) machine oplossingen aandraagt, maar het de Twitter- of Googlewerknemer is die de knoop doorhakt.
Afhankelijkheidsverklaring
En tot slot: wie niet horen wil, moet voelen. De jaren-negentig-utopie rond cyberspace zoals door Barlow verwoord, ontsproot destijds aan de overtuiging dat het internet naar zijn aard een technologie was die vanwege zijn globale karakter nooit aan wetten en regels gebonden zou kunnen worden. Nationale staten konden immers alleen binnen hun eigen grenzen optreden. Als de server daarbuiten stond, zou die overheid machteloos staan.
Het heeft even geduurd, maar inmiddels zien we steeds vaker dat bedrijven als Facebook, Twitter en Google door nationale staten ter verantwoording worden geroepen voor sociaal onwenselijke uitwassen op hun platforms, zoals racisme, bedreigingen en privacyschending. Hoewel regulering ook zijn gevaarlijke kanten heeft – want hoe ver strekt de macht van de staat, en beknot die het publieke debat op sociale media niet te sterk? – lijkt het aanhalen van de wettelijke en regulatieve teugels op dit moment noodzakelijk om de negatieve effecten terug te dringen.
Technology firms of the Cyberworld! You are welcome among us, as long as you accept our sovereignty when and where you gather.
Frank Huysmans is redacteur van IP, bijzonder hoogleraar bibliotheekwetenschap aan de UvA en zelfstandig onderzoeker en adviseur bij WareKennis.