Onderzoeker Savvina Daniil (Vrije Universiteit, VU) is op 7 september gepromoveerd op haar proefschrift. Zij deed onderzoek naar vooroordelen in recommenders, ofwel algoritmes waarmee bibliotheken boeken aanraden. De KB heeft dit onderzoek gefinancierd.
Veel bibliotheken gebruiken al lang algoritmes voor leestips. De afgelopen jaren komen daar ook AI-assistenten bij. Die leestips moeten passen bij de lezer, maar ook verrassend en betrouwbaar zijn. Bias in algoritmes kan een probleem zijn. Bij het opzetten van het algoritme worden onbewuste vooroordelen van de makers meegenomen en uitvergroot.
Als trainingsdata bijvoorbeeld alleen mannelijke schrijvers bevat, raadt een algoritme ook geen vrouwelijke auteurs aan. Bibliotheken willen natuurlijk dat hun aanbevelingen de waarden van de bibliotheek bevorderen. Hiervoor is het belangrijk dat je eventuele bias herkent en zoveel mogelijk oplost, volgens Daniil.
Aanbevelingssytemen
Daniil werkte de afgelopen vier jaar vanuit het Centrum Wiskunde & Informatica (CWI) aan het project Responsible Recommenders in the Public Library Sector. Dit project gaat over aanbevelingssystemen in openbare bibliotheken. Ze onderzocht hoe bibliotheken waarden als inclusiviteit en pluriformiteit kunnen omzetten naar specifieke, machinaal leesbare criteria en meetwaarden. Hierdoor kunnen systemen op een verantwoordelijke manier ontwikkeld en ingezet worden.
Op site van de VU staat het complete proefschrift.