Deepfakes worden steeds beter en geavanceerder. Door deze videomanipulatietechnologie kunnen echte beelden als nep worden gezien en vervalste beelden als echt. Deepfakes zijn daarom het perfecte cement in een rammelend, gefragmenteerd en incompleet samenzweringsverhaal.
Door Jarno Duursma
Wie het nieuws een beetje volgt, ziet steeds vaker melding van deepfakevideo’s. Dat zijn nepvideo’s, gecreëerd met behulp van kunstmatig intelligente systemen, waarop mensen dingen doen die ze in werkelijkheid niet hebben gedaan of dingen zeggen die ze in werkelijkheid niet hebben gezegd. Het bekendste voorbeeld van deepfaketechnologie zijn de zogenaamde ‘face swapping’-video’s, waarbij het gezicht van een persoon wordt verwisseld met dat van een ander. De bewegingen van het gezicht worden daarbij een-op-een overgenomen.
Donkere kant van deepfakes
In het eerder dit jaar gepubliceerde rapport Deepfaketechnologie: The Infocalypse signaleerde ik dat deze videomanipulatietechnologie steeds geavanceerder wordt en gemakkelijker om in te zetten. Deze ontwikkeling vraagt dus om een kritische blik. Er zijn namelijk tal van manieren waarop deepfaketechnologie kan leiden tot geopolitieke spanningen, sociale onrust, reputatieschade, haatverspreiding en identiteitsfraude. Door deze intelligente videosoftware kunnen we online immers nauwelijks onze eigen ogen en oren nog geloven.
Recent was nog in het nieuws dat kwaadwilligen gezichten van pornoactrices in seksvideo’s hadden vervangen door die van bekende Nederlandse vrouwen zoals Chantal Janzen, Annechien Steenhuizen en Dionne Stax. Voor deze vrouwen bijzonder vervelend, omdat de beelden niet van echt te onderscheiden zijn en ook omdat dit soort video’s nauwelijks van het internet te verwijderen zijn.
Voordeel voor de leugenaar
Maar een onderbelicht risico van deze technologie is het ‘liar’s dividend’. Dat is het voordeel van de twijfel dat een leugenaar in dit geval bijzonder goed uitkomt. Anders gezegd: vermeende criminele daders kunnen bewijsmateriaal gewoonweg afdoen als een deepfakevideo, zelfs wanneer deze video 100 procent betrouwbaar is. Bewijslast tegen criminelen, bedrijven of overheid wordt in het tijdperk van deepfake dus steeds minder waard. Iedere video kan immers worden af geserveerd als een deepfake-exemplaar.
Sinds kort heeft dit ‘liar’s dividend’ een extra dimensie gekregen. Het blijkt namelijk een bijzonder krachtig middel te zijn om onzinnige samenzweringstheorieën geloofwaardiger te maken. Een geschenk uit de hemel voor wie deze theorieën wil verspreiden en voor wie erin wil geloven.
Samenzweringspuzzelstukjes
Recent heeft bijvoorbeeld een Republikeinse politica in de Verenigde Staten een rapport gepubliceerd met de theorie dat de dood van George Floyd geënsceneerd is om rassenspanningen op te stoken, met als doel de kwakkelende Black Lives Matter-beweging nieuw leven in te blazen. Volgens deze bizarre samenzweringstheorie zou George Floyd al in 2016 overleden zijn.
In het rapport wordt dus beweerd dat de inmiddels beruchte arrestatievideo gemanipuleerd is en dat zowel Floyd als de betrokken agent Derek Chauvin digitale deepfakesamenstellingen zijn van twee of meer echte mensen. Het rapport pretendeert in eerste instantie zelfs dat Chauvin, de agent die Floyd om het leven bracht, de bekende acteur en stand-upcomedian Benjamin Bailey is.
Maar nu komt het: wanneer een extern deskundige in het rapport vervolgens zegt dat de Chauvin in de video met 99 procent zekerheid de echte Chauvin is en niet de acteur Bailey, wordt door de politica de deepfakekaart getrokken. Volgens haar zou het vervolgens wél de acteur Bailey kunnen zijn, maar is zijn gezicht wellicht digitaal gemodificeerd om het te laten lijken op Chauvin. Deepfake fungeert daarmee dus als opvulling van de leegte tussen de verschillende samenzweringspuzzelstukjes. Lijkt er iets niet te kloppen? Dan is het vast deepfake.
Nieuwe invalshoek
Complotbedenkers grijpen het deepfakeverschijnsel dus aan om echte gebeurtenissen te classificeren als nep. Het zal de kracht van samenzweringstheorieën verder doen laten toenemen en het nog lastiger maken ertegen op te treden. Het fenomeen deepfake zorgt bij complotbedenkers immers voor de ontbrekende verklaringen waar ze in hun samenzweringstheorieën naar op zoek zijn. Deepfakes blijken het perfecte cement te zijn in een rammelend, gefragmenteerd en incompleet samenzweringsverhaal.
Dit is een nieuwe invalshoek die het potentiële gevaar van deze nieuwe technologie nog duidelijker blootlegt. Want wanneer echte beelden worden bestempeld als nep en vervalste beelden als echt kan iedereen vervolgens geloven wat hij of zij wil, met alle gevolgen van dien.
Het complete rapport ‘Deepfaketechnologie: The Infocalypse’ is hier te vinden.
Van beeldmanipulatie tot een tsunami aan nepnieuws
Beeldmanipulatie is niet voorbehouden aan ons digitale tijdperk. Er zijn vele voorbeelden in de wereldgeschiedenis waarbij achteraf bleek dat foto’s waren gemanipuleerd. Zo had het gerenommeerde maandblad National Geographic in februari 1982 een afbeelding van de piramides van Gizeh op de cover. Tot schrik van de fotograaf bleek de foto bewerkt: de piramides stonden dichter bij elkaar want ‘dat paste namelijk mooier’.
Nu vrijwel iedereen in het bezit is van een smartphone met ingebouwde goede fotocamera, inclusief alle beschikbare fotofilters, is het niet zo gek om te stellen dat de kans groter is dat je online een gemanipuleerde foto tegenkomt dan het origineel.
Is informatie echt of nep?
De term deepfake combineert de Engelse woorden deep en fake. Fake betekent nep en slaat op nepinformatie die moderne generatieve AI-software kan creëren, zoals afbeeldingen, video’s, teksten, menselijke stemmen en andere audio-opnames. De term deep vindt zijn herkomst in de zogenaamde deep learning-netwerken, die te maken hebben met de huidige kwalitatieve groeispurt van deze generatieve AI-software. Deepfake gaat uit van negatieve intenties bij het gebruik hiervan. Denk aan chantage, beïnvloeden van verkiezingen, toebrengen van reputatieschade en om de tuin leiden van biometrische herkenning.
In potentie kan deepfaketechnologie op eenvoudige wijze een tsunami aan nepnieuws opleveren en daarmee het vertrouwen in de journalistiek ondermijnen of een apathie bij de consument voor nieuwsfeiten opwekken. De eenvoudige vraag of informatie echt of nep is zal in de toekomst prangend worden. Want wanneer wij in onze hyperverbonden wereld onze ogen en oren online niet meer kunnen vertrouwen ontstaat een infocalypse: een extreme devaluatie van de betrouwbaarheid van informatie, met alle gevolgen van dien.
Drie soorten deepfakevideo’s
‘Face swapping’ is het bekendste voorbeeld van deepfaketechnologie: het gezicht van een persoon wordt verwisseld met dat van een ander. De bewegingen van het gezicht worden daarbij een-op-een overgenomen. Kunstmatig intelligente generatieve software is inmiddels zover gevorderd dat dit relatief eenvoudig is.
‘Digital puppetry’ is een variant van deepfakevideo’s waarbij een volledig kunstmatig hoofd of lijf wordt gegenereerd. Deze digitale ‘marionet’ (puppet) kan daarbij worden aangestuurd door een externe bron. Die externe bron beweegt dan bijvoorbeeld het hoofd naar rechts en de digitale marionet doet hetzelfde. Ook gezichtsuitdrukkingen, bewegingen van lippen (om gesproken zinnen te simuleren) en zelfs bewegingen van het hele lijf kunnen worden nagebootst. Deze volledig synthetische mensen zijn dus een digitaal beeld van wat anderen doen.
De zogenaamde ‘shallowfake-video’, ook wel met ‘cheapfake’ aangeduid, is een video die weliswaar bewerkt of gemanipuleerd is maar waarbij geen kunstmatig intelligent systeem heeft geholpen om het resultaat te creëren. Vaak zijn shallowfake-video’s handmatig vertraagd, geknipt of gefilterd. Het bekendste voorbeeld uit de recente geschiedenis is de shallowfake-video van de Amerikaanse voorzitter van het Huis van Afgevaardigden, Nancy Pelosi, waarbij de originele beelden zo zijn vertraagd dat het lijkt alsof zij dronken is.
Omgaan met deepfakes
In algemene zin zijn de problemen van deepfakevideo’s helder en inmiddels zijn er ook oplossingen voorgesteld. Het meest voor de hand liggend is die te zoeken in de hoek van de technologie zelf: dat kan zowel bij de registratie van feitelijke gebeurtenissen als in de detectie en filtering van nepcontent. Maar ook wetgeving en voldoende educatie moeten gepaste weerstand bieden tegen deepfakes.
Voor wie geen intelligente software tot zijn of haar beschikking heeft komt het aan op de eigen oren en ogen en op gezond verstand. Enkele tips:
- Kijk of je de video in een videobewerkingsprogramma kunt laden en bepaalde frameonderdelen specifieker kunt bekijken, op zoek naar onnatuurlijke vormen of andere toegevoegde elementen.
- Controleer of er oudere versies van de videobeelden online staan.
- Controleer de bron door deze simpelweg te bellen of mailen.
- Kijk naar oneffenheden in de video: zo vloeien mensen en achtergronden nog wel eens in elkaar over en zijn er onnatuurlijke bewegingen, afwijkende kleurvlekken of surrealistische objecten te zien. Kijk goed naar de details zoals handen, tanden, haar en oren. Deze zijn voor een computer het lastigst om na te maken. Ze zijn onnatuurlijk gevormd of vloeien teveel in elkaar over.
- Kijk naar vreemde schaduwen op gezichten of ledematen en of een gezicht een onnatuurlijke variatie heeft in kleuren. Let ook op achtergronden die (on)natuurlijk overkomen.
Voor meer tips over omgaan met gemanipuleerde video’s in het algemeen, check The Washington Post’s guide to manipulated video. In IP #4-2019 stond ook een overzicht van tips hoe een deepfake te ontmaskeren, waaronder:
- Rare gezichten: als alles er normaal uitziet, maar het gezicht wasachtig is, gaat het meestal om een deepfake.
- Flikkeren: bij slechte deepfakes flikkert het gezicht af en toe en is het originele gezicht soms even te zien.
- Lichaamsverhoudingen: vaak is de verhouding tussen lichaam en hoofd niet helemaal goed. Dat kan zijn omdat het hoofd gewoon te groot of te klein is, maar bijvoorbeeld ook doordat het hoofd van een mager persoon is geplakt op dat van een dikkere persoon.
- Korte fragmenten: juist omdat er veel kan misgaan duren deepfakes vaak maar een paar seconden.
- Geen geluid of slechte synchronisatie: vaak wordt de stem nog gewoon ingesproken.
- Oogbewegingen: vaak knipperen de hoofden in deepfakes niet of nauwelijks met hun ogen.
- Coördinatie stem/lichaam: wanneer er bijvoorbeeld armbewegingen worden gemaakt die niet in overeenstemming zijn met wat er op dat moment gezegd wordt, zou er sprake kunnen zijn van deepfakes.
Jarno Duursma is spreker, trendwatcher en auteur van vier boeken over digitale technologie, onder andere over kunstmatige intelligentie en blockchain.
Deze bijdrage komt uit IP #6/2020. Het gehele nummer kun je hier lezen.