De rijksoverheid zet bij veel besluiten algoritmes in. Deze kunnen nuttig zijn – sommige taken van de overheid kunnen bijvoorbeeld automatisch en sneller worden uitgevoerd. Het is echter niet zonder risico’s. Zowel het Rathenau Instituut als de Algemene Rekenkamer onderzochten het gebruik van algoritmes.
Ethische vraagstukken en goed informeren
Het Rathenau Instituut onderzoekt (in opdracht van het ministerie van BZK) in het rapport Algoritmes afwegen het gebruik van profilerende algoritmes door uitvoeringsorganisaties. Deze algoritmes proberen het gedrag van mensen te voorspellen door hen in te delen in groepen. Om te voorkomen dat dit leidt tot beoordeling op basis van vooroordelen pleit Rathenau voor de inzet van adviseurs om kennis van en het gevoel voor ethische vraagstukken bij de rijksoverheid te vergroten. Bij het goed informeren van burgers over het gebruik van algoritmes kunnen burgerpanels worden ingezet.
Negen algoritmes beoordeeld; zes voldoen niet
In het rapport Algoritmes getoetst onderzoekt en beoordeelt de Algemene Rekenkamer de inzet van negen algoritmes bij evenzovele uitvoeringsorganisaties. Hierbij gebruikt de Rekenkamer het zelf ontwikkelde toetsingskader. Drie van de negen algoritmes voldoen aan alle basisvereisten, bij de zes andere bestaan uiteenlopende risico’s, concludeert de Rekenkamer. Staatssecretaris Digitalisering Van Huffelen laat in een reactie op het rapport weten met de betrokken organisaties aan het werk te gaan om de tekortkomingen aan te pakken en tot ‘verbeterde dienstverlening en beleidsuitvoering’ te komen.