Nieuwswebsites gebruiken vaak algoritmes, waardoor mensen nieuws krijgen dat hun bestaande overtuigingen bevestigt. Voor een goed functionerende democratie is het juist belangrijk dat mensen kennismaken met verschillende standpunten. Grote AI-taalmodellen geholpen door menselijke experts kunnen hierbij helpen, concludeert computationeel taalkundige Myrthe Reuver naar aanleiding van haar onderzoek A Puzzle of Perspectives.
Reuvers onderzoek richt zich op methodes uit Natural Language Processing (NLP), waarbij AI wordt ingezet om taal te analyseren. Reuver: ‘Zo werd onder meer gekeken naar standpuntdetectie. Daarbij bepaalt een AI-model of een tekst argumenten vóór of tegen een bepaald onderwerp bevat, zoals strengere abortuswetgeving of Amerikaanse wapenwetten. De resultaten laten zien dat grote taalmodellen soms goed in staat zijn zulke standpunten te herkennen, maar dat ze moeite hebben met nuance, complexiteit en samenhang binnen bepaalde debat onderwerpen.’
Samenwerking AI en mens
Samenwerking tussen AI en sociale wetenschappers leidt tot betere resultaten, concludeert Reuver in haar onderzoek aan de Vrije Universiteit (VU). ‘Het bleek dat voor de detectie van seksisme in tekst, een samenwerking tussen expert en een groot taalmodel het beste werkte en beter werkte dan alleen de expert. Dit vonden we ook toen we een dataset wilden ontwerpen over klimaat-standpunten. Theorieën uit de sociale wetenschap hielpen heel erg om de nuances van het debat uit te leggen aan een AI model.’
Het onderzoek maakt gebruik van grootschalige experimenten met AI-modellen, die draaien op supercomputers via de Nederlandse infrastructuur van SURF. Deze lokale rekenkracht is volgens Reuver essentieel, zeker in het licht van het huidige debat over de afhankelijkheid van Big Tech voor AI-toepassingen.
Democratie
Reuvers onderzoek sluit aan bij maatschappelijke discussies over de filterbubbel en polarisatie in het publieke debat en ook bij discussies over verantwoord gebruik van AI en grote taalmodellen. Reuver: ‘Mijn onderzoek geeft de grenzen aan van AI-modellen voor het detecteren van verschillende standpunten. Tegelijkertijd toont het aan dat grotetaalmodellen juist een positieve bijdrage kunnen leveren aan het publieke debat en de democratie.’