Argumentchecking AI tegen fake news en desinformatie

De ISOC Nederland Make Media Great Working Group (MMGA) heeft de krachten gebundeld met twee UvA-onderzoekers van het KRINO-team voor de ontwikkeling van een AI-aangedreven argumentchecking tool. De samenwerking moet de gezamenlijke missie versterken om de toenemende hoeveelheid aan desinformatie en fake news te stoppen.

Factchecking is tegenwoordig een belangrijke journalistieke handeling, maar omvat niet alle aspecten van het debunken van misinformatie en fake news; het verifiëren van de argumenten zelf lijkt een noodzakelijk en fundamenteel onderdeel van het proces van informatiekwaliteitscontrole, zo stellen de partijen. Dat is de kloof die KRINO wil overbruggen; een AI-tool om argumenten in geschreven natuurlijke taal te evalueren. KRINO-teamleden Federica Russo en Jean Wagemans, beiden onderzoekers aan de Universiteit van Amsterdam, kijken naar nieuwe manieren om mensen in staat te stellen kritisch te denken. Daarvoor hebben ze een ‘kritisch denken’-raamwerk gecreëerd, dat het MMGA-team heeft omgevormd tot ‘een praktisch hulpmiddel voor mensen buiten de academische wereld om misbruik van retorica te herkennen; retorica die in de media wordt uitgebuit en die dikwijls leidt tot verkeerde informatie, bijvoorbeeld in de vorm van onbetwiste politieke toespraken’.

Information pollution shield

Uiteindelijk zal het information pollution shield dat MMGA en het KRINO-team aan het ontwikkelen zijn ‘mensen een systematische, filosofische bewaking bieden, die vooral nuttig kan zijn voor hun online nieuwsconsumptie en oriëntatie bij de verkiezingen, maar eveneens voor alle informatieve aspecten van het moderne leven’. De urgentie van het werken aan deze zaken is dat de verspreiding van desinformatie en fake news de wereld steeds meer verdeelt en elke dag meer impact heeft op de maatschappij. De Amerikaanse verkiezingen hebben de dreiging van de informatiekwestie al aangetoond, en de Nederlandse verkiezingen zijn in volle gang. Er moet nu actie worden ondernomen, vinden MMGA en het KRINO-team. Daarom hebben beide partijen besloten tot samenwerking om een sterkere en veerkrachtiger gemeenschap te helpen vormen en zo de trend naar een infocalypse om te buigen.

Momenteel richten ze zich volledig op het ontwikkelen van een gebruiksvriendelijk trainingstraject voor MMGA-annotators, ISOC-leden en het bredere online publiek om hun online weerbaarheid tegen ‘informatievervuiling’ en retoriektrucs tijdens de Nederlandse verkiezingen van 17 maart 2021 te vergroten.


Over KRINO

KRINO is een transparante, verklaarbare tool voor kunstmatige intelligentie – ofwel explainable AI (XAI) – die de gebruiker helpt bij het evalueren van argumenten. Deze kunnen in verschillende contexten voorkomen; van politieke manifestaties en toespraken tot aanbevelingen van artsen en socialemediaposts. In tegenstelling tot veel AI-gebaseerde tools is KRINO geen compleet geautomatiseerde tool die de resultaten dicteert op basis van algoritmes; het doel is als menselijke hulp te dienen. De focus van KRINO ligt op het ontwikkelen van een human first AI-tool, inclusief de ethische implicaties die steeds relevanter worden. Een deel van die doelstelling wordt gerealiseerd door het creëren van een verklaarbare tool, ‘niet een blackbox zoals veel AI-tools die momenteel worden geproduceerd’, aldus KRINO. 

KRINO is in volle ontwikkeling en zal grotendeels gebaseerd zijn op de leercurve die het KRINO-team zal doorlopen door samen te werken met de MMGA- en ISOC-gemeenschap.

Over ISOC NL MMGA WG

Internet Society Nederland (ISOC) en Make Media Great Again (MMGA) hebben eerder dit jaar hun krachten gebundeld als de ISOC NL MMGA Working Group (MMGA). Samen met andere divisies van Internet Society wereldwijd (de zogenaamde chapters) zet MMGA als een van de eerste prioriteiten een Global (mis)Information Observatory (GIO) op. De werkgroep beoogt samenwerking met impactvolle media en wetenschappers, maar ook met de MMGA-gemeenschap bestaande uit kritisch denkende burgers en experts die ‘MMGA-annotators’ worden genoemd. MMGA-annotaties zijn bruikbare suggesties in de vorm van gelabelde notities die direct worden toegeschreven aan woorden, zinnen of paragrafen. Ze zijn bruikbaar voor de nieuwsredacteur, vermijden een debat op basis van persoonlijke voorkeuren en leiden, indien correct, direct tot een aanpassing binnen de artikelen. 

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *