Chatbots zoals ChatGPT, Mistral en Microsoft Copilot geven regelmatig desinformatie terug als antwoord op een vraag. Dat blijkt uit onderzoek van journalistiek platform Pointer (KRO-NCRV). De Nederlandstalige chatbots zijn geïnfecteerd door het Russische Pravda-netwerk, dat massaal desinformatie verspreidt.
Het Pravda-netwerk bestaat uit honderden websites waarop geautomatiseerd op grote schaal pro-Russische propaganda wordt gepubliceerd. Vorig jaar werden 3,6 miljoen berichten gepubliceerd op deze sites. Hoewel de websites zelf nauwelijks bezoekers trekken vanwege hun gebrekkige kwaliteit, worden ze regelmatig geciteerd door zoekmachines en AI-chatbots.
Dat netwerk is veel groter dan eerder werd gedacht, blijkt uit het onderzoek van Pointer. De Europese factcheck-organisatie EDMO onthulde dat Pravda in maart 2024 actief was in 39 landen. Inmiddels bestaat het netwerk uit ruim vierhonderd websites in 68 landen, waaronder Nederland. Ook bleek uit het onderzoek van Pointer dat ze maar liefst 1.500 keer worden geciteerd op Wikipedia.
Onderzoek acht chatbots
Pointer onderzocht acht chatbots om te kijken of Russische desinformatie in de antwoorden voorkomt op vragen over de oorlog tussen Rusland en Oekraïne. Ook keken ze of de desinformatie terechtkwam in zoekresultaten van Google en op Wikipedia.
De onderzochte desinformatie is gebaseerd op artikelen uit het Pravda-netwerk. De desinformatie die de KRO-NCRV journalisten tegenkwamen komt niet alléén uit dat netwerk. Na prompts van Pointer beweren zes van de acht onderzochte chatbots onterecht dat Rusland een NAVO-piloot heeft omgebracht. En vier bots beweren, ook onterecht, dat de Oekraïense geheime dienst betrokken is bij drugshandel.
De chatbot Claude komt het beste uit de test: geen enkele keer wordt desinformatie, zoals van Pravda, herhaald. Mistral gaat liefst acht keer de mist in. Opvallend is dat Grok, het platform van Elon Musk, vaak weigert om Russische desinformatie te verspreiden. Copilot, de tool van Microsoft die automatisch in veel bedrijfslaptops zit, is na Mistral de slechtst presterende chatbot in de test: vijf keer wordt desinformatie via deze chatbot ongefilterd doorgegeven.
‘Strenge wetgeving’
Europarlementariër Kim van Sparrentak onderhandelde mee over de nieuwe Europese AI-wetgeving. Ze zegt dat ze in haar werk dagelijks tegen deze desinformatie ageert: ‘Wij hebben er hard op lopen drukken dat er strenge wetgeving komt op dit gebied. In de AI-wet moet een verbod op het verspreiden van desinformatie opgenomen worden.’
De definitieve wettekst laat nog op zich wachten, mede onder druk van de techbedrijven.