Door Cindy Lammers
Het is een niet te stuiten opmars, een lawine van nieuwe tools ontsproten aan het menselijk brein, maar die kunstmatige tekst, beeld en nu ook film produceren. Net echt. Zo hadden we bijvoorbeeld al tekst van ChatGPT en fotorealistische beelden van DALL-E 2 en Midjourney, en daar kunnen we nu ook Gen-2 aan toevoegen: realistische video’s gemaakt op basis van de invoer van slechts enkele woorden. No camera needed!
Tegelijk riepen techprominenten in een open brief op tot een rem van zes maanden op de ‘risicovolle ontwikkeling van alle AI die krachtiger is dan GPT-4’. Op zich heel zinnig, vindt Catelijne Muller, voorzitter van ALLAI, een organisatie die het verantwoord gebruik van AI aanmoedigt. Zij pleit niet alleen voor het in de gaten houden van systemen in de toekomst, maar ook van bestaande systemen. ‘Er zijn nu al systemen die met autoritaire stem een onjuist antwoord geven op vragen die je stelt, zoals ChatGPT. Mensen nemen dit voor waar aan – “het komt van een computer, dus het zal wel goed zijn”. Daarom moeten er vangrails worden geplaatst.’
Plus (het is ook al meerdere keren in IP geschreven en geciteerd): dergelijke tools kunnen desinformatie in de hand werken. Kijk naar de foto van de paus in witte designerjas, die eind vorige maand viraal ging. ‘Balenciaga Pope’ werd een meme, maar tegelijk waren er mensen die het beeld voor echt aanzagen. Dit zou je nog kunnen afdoen als ‘hoezo dan?!’, maar voor de arrestatie van Trump gold dat minder. Eliot Higgins (oprichter van Bellingcat) was degene die de afbeeldingen op Twitter plaatste: ‘Making pictures of Trump getting arrested while waiting for Trump’s arrest’. Hij maakte er vanaf het begin geen geheim van dat deze met AI waren gefabriceerd, maar veel gebruikers op sociale media konden de deepfake niet van real onderscheiden. Laatste zal ook steeds lastiger worden. En de roep om regulering en ethisch gebruik van AI daarmee steeds luider.
Cindy Lammers is hoofdredacteur van IP.
Deze bijdrage komt uit het digitale magazine IP #3-2023. Klik op de onderstaande button om het hele nummer te lezen.
