Welke criteria gebruiken menselijke beoordelaars bij Bing?

Intern document verraadt hoe het personeel van zoekmachine Bing wensen van gebruikers en sites moet beoordelen.

Het weblog Search Engine Land heeft de hand weten te leggen op een uitgelekt document van Bing waarin de criteria staan die de menselijke beoordelaars van webpagina’s gebruiken. Een woordvoerder van Bing heeft bevestigd dat het document, HRS Judging Guidelines genaamd, echt is. HRS staat voor Human Relevance System, de naam van het programma van menselijke beoordelaars binnen Bing.

Bing beoordeelt websites om te voldoen aan de wensen van bezoekers. Hoe beter de bezoeker bediend wordt, des te groter de kans dat hij de volgende keer weer Bing gebruikt. Bing benadrukt in de interne instructie dat de beoordelaars moeten uitgaan van de bedoeling van de gebruiker, de zogeheten searcher intent. De zoeker kan drie hoofddoelen hebben: informatie zoeken, navigeren op een site of de wens om een transactie te sluiten (bijvoorbeeld een formulier invullen). Per intentie moeten de beoordelaars bepalen in welke mate een webpagina aan die behoefte voldoet. Daarvoor moeten ze gebruik maken van een zogeheten beoordelingsmatrix. Deze matrix kent de classificaties ‘sterk’, ‘gemiddeld’, ‘zwak’ en ‘heel zwak’ om te bepalen in hoeverre een pagina aan de wensen van de zoeker voldoet. Er zijn ook nog twee extra criteria: ‘schadelijk’ voor pornosites en ‘niet beoordeelbaar’ voor ontoegankelijke sites.

De beoordelaars moeten zich ook over de sterkte van de intentie van de zoeker uitspreken. Daarvoor hebben ze de criteria ‘perfect’, ‘excellent’, ‘goed’ en ‘slecht’. In een verdere uitleg van de richtlijnen zegt Bing dat het zoekresultaat barnesandnoble.com (de site van de boekwinkelketen) naar aanleiding van de zoekopdracht ‘buy books’ excellent is. Bing gaat ervan uit dat dit zoekresultaat meer dan vijftig procent van de gebruikers tevreden stelt.

In de richtlijnen staan ook aanwijzingen over het belang van actualiteit bij de beoordeling van zoekopdrachten. Als de zoekopdracht ‘de jeugd van obama’ is, is actualiteit minder belangrijk dan bij de query ‘obama’s komende speech’.

Deze bijdrage komt uit IP nr. 10 / 2012. Het gehele nummer kun je hier lezen