Interdisciplinair onderzoek van de Erasmus Universiteit in samenwerking met OpenWeb laat een nieuwe manier zien om giftige online content te begrijpen en te modereren.
Het onderzoeksteam begon met het definiëren van het begrip ‘giftige content’, Hoewel het een veelgebruikte term is in debatten over moderatie en beleid, blijft de definitie ervan vaag. De studie stelt een duidelijker kader voor. Daarin wordt aangetoond dat giftigheid het best kan worden begrepen als een schending van conversatienormen in plaats van als een enkele, allesomvattende categorie. Dit maakt het gemakkelijker om verschillende soorten schadelijke content van elkaar te onderscheiden en te beslissen hoe elke soort moet worden aangepakt.
Twee normovertredingen
De onderzoekers onderscheiden twee belangrijke soorten normovertredingen. De eerste is epistemisch giftige content. Dit schendt normen rond waarheid en verantwoord delen van informatie. Het omvat valse, misleidende of complottheorieën. De tweede normovertreding is civiel giftige content. Dat schendt normen van respectvolle interactie. Bijvoorbeeld haatzaaiende uitlatingen, doxxing, persoonlijke aanvallen, seksueel expliciete opmerkingen en bedreigingen.
Dit onderscheid is belangrijk voor moderatie. Civiel giftige content moet vaak snel worden verwijderd om gebruikers te beschermen. Epistemisch giftige content kan echter worden aangepakt met maatregelen zoals contextuele informatie, wrijving, tegenspraak of labels in plaats van verwijdering.
OpenWeb
Het onderzoek stond onder leiding van dr. Aviv Barnoy van de Erasmus Universiteit en werd gepubliceerd in Social Epistemology. Er werd samengewerkt met OpenWeb, een platform voor community-engagement dat op zoek is naar betere tools om gezonde online discussies te ondersteunen.
De publicatie van het onderzoek staat hier.