Door Anne van de Dool
ChatGPT, DALL-E, Midjourney – nieuwe programma’s die gespecialiseerd zijn in het creëren van content door middel van AI volgen elkaar in rap tempo op. Techexpert Sander Duivestein volgt de ontwikkelingen op de voet en spreekt zich er regelmatig over uit, onder andere via landelijke media en als spreker op events. Van de nieuwe werkelijkheid die hij presenteert, slaan lezers en luisteraars regelmatig steil achterover. Hoe beïnvloeden deze trends de realiteit en wat staat ons nog te wachten?
Sander Duivestein houdt zich al jaren bezig met de ontwikkelingen rondom kunstmatige intelligentie. In oktober 2021 publiceerde hij samen met Menno van Doorn en Thijs Pepping, collega’s bij het VerkenningsInstituut Nieuwe Technologie (VINT) van Sogeti, het boek Echt Nep. Spelen met de realiteit in tijden van ChatGPT, deepfakes en de metaverse. Lezers ervan stappen in een achtbaan van desinformatie en mediamanipulatie – van leugenachtige hiërogliefen tot computergegenereerde influencers en de toekomst van videomanipulatie.
Nu, ruim twee jaar later, is het boek misschien wel relevanter dan ooit: er wordt volop gespeeld met de realiteit. Enkele maanden geleden werd de wereld opgeschud door de komst van ChatGPT, een AI-tool die in enkele seconden lange lappen grammaticaal juiste tekst kan produceren en antwoord kan geven op iedere vraag die je maar durft te bedenken. En steeds vaker ‘geloven’ we door computers gegenereerde afbeeldingen en video’s die alsmaar lastiger van echt te onderscheiden zijn.
Desinformatie geïncorporeerd
In Echt Nep voorspelden de auteurs veel van deze ontwikkelingen, al noemt Duivestein zichzelf liever geen trendwatcher. ‘Niemand kan in de toekomst kijken. Toch staan in het boek wel degelijk veel ontwikkelingen die nu aan de orde van de dag zijn. We beschreven hoe de scheiding tussen echt en nep door kunstmatige intelligentie steeds vager zou worden. Elke dag gaat dat weer een stukje verder. Neem bijvoorbeeld het beeld van de paus in zijn hippe witte jas en de foto van de arrestatie van Trump: we tuinden er massaal in.’
Duivestein en zijn collega’s werkten ieder jarenlang aan het boek. Al jaren geleden zagen ze de eerste voorbodes van de wereld waarin we nu leven. ‘De aanstelling van Trump als president van de Verenigde Staten in 2016 was een kantelpunt’, herinnert Duivestein zich. ‘Dit was een wereldleider die zich niet bekommerde om het onderscheid tussen waarheid en leugen. Hij beweerde dat hij een reusachtige massa toesprak tijdens zijn inauguratie en riep dat hij zaken niet had gedaan, terwijl er glashard bewijs van het tegendeel op tafel lag. Niet eerder was desinformatie zo diep in onze maatschappij geïncorporeerd geraakt.’
Losse realiteitsbubbels
Voor die tijd speelde fake news vooral een rol van betekenis op sociale media, vertelt Duivestein. ‘We begonnen ons steeds meer zorgen te maken om filterbubbels: de gedachte dat ik iets anders te zien krijg dan jij, waardoor onze realiteiten uit elkaar gaan lopen. Op Facebook, Twitter en Instagram kan iedereen zijn eigen content produceren en op die manier zijn persoonlijke evangelie verkondigen. Daarmee krijgen we te maken met een nieuw soort verzuiling. We raken deze keer niet onze gezamenlijke religie kwijt, maar onze gedeelde werkelijkheid, met allemaal losse realiteitsbubbels tot gevolg. Dat het steeds makkelijker wordt om daarbij ook zelf beelden te produceren die dat punt onderschrijven, draagt daar alleen maar aan bij.’
Kat-en-muisspel
Een wereld waarin we onze ogen niet langer kunnen geloven, is verwarrend en zelfs schadelijk. Daarom leggen steeds meer bedrijven zich toe op de queeste naar tools die kunnen bewijzen of een beeld echt of nep is. Daardoor ontstaat volgens Duivestein een heus kat-en-muisspel, waarbij de makers van nepcontent en degenen die hen willen betrappen elkaar steeds te slim af proberen te zijn. ‘Het feit dat die strijd nog niet gestreden is, maakt het extra belangrijk dat burgers zichzelf trainen in het herkennen van zulke foutieve content’, vindt hij. ‘Het wordt steeds duidelijker dat je niet klakkeloos kunt geloven wat op internet staat. Toch baseren veel burgers hun gedachten nog steeds op een enkele bron. Het is een taak voor de overheid, het onderwijs en de journalistiek om mensen nieuwe vaardigheden aan te leren waardoor we als samenleving mediawijzer worden.’
Hoge omloopsnelheid beeld
Duivestein ziet op dagelijkse basis behoorlijk wat ontwikkelingen voorbijkomen waar hij droevig van zou kunnen worden. Toch beschouwt hij zichzelf als een techoptimist. ‘Ik geloof dat we in staat zijn deze problemen te tackelen, maar ik maak me wel zorgen. We moeten hard werken om te bewerkstelligen dat de realiteit ons niet inhaalt.’
De techexpert vindt het vooral interessant om te zien hoe jongere generaties met deze ontwikkelingen omgaan. ‘Waar ik me nog afvraag of een beeld echt of nep is, zie ik bij de generatie die met internet groot is geworden dat zij die vraag weinig relevant meer vindt. Er ontstaat een soort apathie voor de werkelijkheid, een kunstmatig of gemanipuleerd beeld is evenveel waard als een echte foto. Die onverschilligheid komt mede door de razend hoge omloopsnelheid van beelden. Nog voor je goed en wel kunt stilstaan bij de vraag of een foto echt is of nep, is die alweer verdwenen, terwijl het beeld wel in je hoofd blijft hangen.’
Steeds meer geluidsmanipulatie
We hoeven wat Duivestein betreft niet ieder beeld dat we zien te wantrouwen, maar een kritische blik is wel belangrijk. ‘We kunnen niet automatisch meer geloven wat we zien. Wanneer ik lezingen geef, bespeur ik met name bij oudere generaties nog wel dat vertrouwen. Zij kunnen bijna niet geloven waar de technologie vandaag de dag toe in staat is en hoe vaak per dag ze worden bedonderd.’
Waar veel mensen bij zulke manipulatie denken aan beeld, wordt geluid ook steeds vaker onderdeel van het vervalsingsproces. ‘Er komen steeds meer tools op de markt waarmee je iemands stem feilloos kunt namaken. Laatst nog is een gezin op die manier in de luren gelegd. Ouders dachten gebeld te worden door hun dochter vanuit een wintersportgebied met het bericht dat ze was ontvoerd en dat om een miljoen euro losgeld werd gevraagd. Dat bleek totale manipulatie te zijn.’
Praktische toepassingen
Gelukkig zitten er ook minder onprettige kanten aan dergelijke geluidsmanipulaties. Zo komen er steeds meer nummers op de markt van bekende zangers als Drake en Kanye West/Ye die tracks van anderen zingen terwijl ze in werkelijkheid nooit in de studio stonden om deze op te nemen. Er kwam namelijk kunstmatige intelligentie aan te pas. ‘Dat klinkt helemaal niet onaardig’, vindt Duivestein. ‘Laatst was ik al een tijdje aan het luisteren naar een playlist toen ik ontdekte dat het om kunstmatig geproduceerde songs ging. De vraag is natuurlijk wel wat dit betekent op het gebied van auteurs- en muziekrechten. Daar is het laatste woord nog niet over gezegd.’
De veelheid aan experimenten met door AI geproduceerde content als tekst, beeld en geluid laat zien hoezeer mensen op zoek zijn naar de praktische toepassing ervan in hun dagelijks leven en in het werk dat ze verrichten. ‘Wat kan ChatGPT voor ons doen? De mogelijkheden zijn eindeloos. Met deze tools in de hand wordt een startende ICT’er een volwaardig programmeur – AI schrijft de code voor je. En zaken waar je enige creativiteit voor nodig hebt, zoals het bedenken van titels voor artikelen of slogans voor producten, kun je aan zo’n bot uitbesteden.’
Eenheidsworst voorkomen
Ook landelijke kranten zoeken naar slimme manieren om nieuwe technologieën in te zetten, ziet Duivestein. ‘Zij stellen zichzelf bijvoorbeeld de vraag of ze liever een fotograaf op pad sturen of een computergegenereerd beeld bij een artikel plaatsen, en waarom ze een journalist aan het werk zouden zetten als een bot prima content aflevert.’ Dit behoeft wel enig voorbehoud, meent hij, want of die content goed is, is nog maar de vraag. ‘ChatGPT knoeit met bronvermeldingen, en beeldgeneratoren als Midjourney produceren vaak heel clichématige foto’s. Blijkbaar hebben we nog steeds de mens nodig om echte originaliteit toe te voegen en te voorkomen dat een eenheidsworst ontstaat. Misschien creëren we op een gegeven moment wel een keurmerk waaruit blijkt dat een tekst of beeld door mensen is gemaakt en niet door een machine. Dat zag je ook bij de komst van de 3D-printer: na een periode van verwondering over wat de technologie allemaal kan, keren we toch weer terug naar handgemaakt.’
Gelijkwaardigheid in vaardigheden
Tegelijk ziet Duivestein ook mogelijkheden om AI goed werk te laten doen. ‘In de loop der tijd zijn we de grote verhalen die ons met elkaar verbonden, zoals religie, langzaam maar zeker kwijtgeraakt. Ik geloof dat kunstmatige intelligentie voor herstelverhalen kan zorgen. Neem bijvoorbeeld de deepfake van premier Rutte, gemaakt door De Correspondent, waarmee aandacht werd gevraagd voor het klimaat. AI kan helpen zulke belangrijke onderwerpen op de agenda te krijgen.’
Bovendien ontstaat door de grootschalige toegankelijkheid van deze tools meer gelijkwaardigheid in vaardigheden. Iedereen met een computer of telefoon en een internetverbinding kan met ChatGPT aan de slag gaan. ‘Men zegt vaak dat de kloof tussen de haves en de havenots steeds groter wordt, maar deze ontwikkelingen verkleinen die afstand juist.’
Nieuwe terminologie nodig
Wat gaat de toekomst ons brengen? Dat is nog ongewis, maar Duivestein vermoedt dat bots steeds slimmer zullen worden in het zelfstandig oplossen van complexe vraagstukken. ‘Nu moet je nog continu nieuwe input geven om een computer een onderzoek voor je te laten uitvoeren. In de toekomst stel je een keer een vraag en ontvouwt het proces zich vanzelf.’
De toekomst vraagt volgens Duivestein ook om nieuwe terminologie. ‘De grens tussen origineel en kopie vervaagt. Denk bijvoorbeeld aan de discussie rondom het kunstwerk dat was geselecteerd in een wedstrijd van het Mauritshuis in de zoektocht naar een nieuwe variant van het Meisje met de parel van Vermeer. Toen een van de winnende werken door AI bleek te zijn gemaakt, voelden veel mensen zich genept. Blijkbaar vinden we dat aan zo’n werk menselijke creativiteit te pas moet komen, ongeacht de schoonheid van het eindresultaat. Ik zou zeggen: laten we ons juist openstellen voor de eindproducten van al deze nieuwe technologieën.’
Al in de herfst van 2021 kwam het boek uit; het is ook vermeld in de Gelezen-rubriek in IP, maar toen nog met de ondertitel Spelen met de realiteit in tijden van AI, deepfakes en de metaverse. ‘AI’ is inmiddels op enkele van de omslagen ‘ChatGPT’ geworden.
ECHT NEP
Spelen met de realiteit in tijden van ChatGPT, deepfakes en de metaverse | Menno van Doorn, Sander Duivestein, Thijs Pepping | Bot uitgevers | paperback 9789083069692 | € 24,99 | e-book 9789083069630 | € 12,99-15,00 | 312 pagina’s
Anne van den Dool is tekstschrijver, auteur en cultureel journalist.
Deze bijdrage komt uit de papieren IP #4-2023. Het hele nummer kun je hieronder lezen of downloaden.