Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn op dit moment de belangrijkste algoritmerisico’s. Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland, die de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP) onlangs heeft gepubliceerd.
Voor meer grip op algoritmes en artificiële intelligentie (AI) moeten overheid en bedrijfsleven nog grote stappen maken. Twee uitdagingen komen op dit moment samen. Ten eerste de snelheid waarmee AI-innovaties de samenleving binnendringen, zoals slimme chatbots. Deze innovaties bieden nieuwe kansen, maar ook nieuwe risico’s. Ten tweede staat Nederland voor de opgave om inzicht te krijgen in het gebruik van hoogrisico-algoritmes: algoritmes die grote impact hebben op het leven van mensen. In afwachting van Europese wetgeving zijn nu al concrete acties van de overheid en het bedrijfsleven wenselijk.
Focus op hoogrisicosystemen
Om grip te krijgen op algoritmes en AI is overkoepelend zicht op het gebruik door de overheid en door (publieke en private) maatschappelijke organisaties cruciaal. De AP is daarom positief over het algoritmeregister voor overheidsorganisaties, maar waarschuwt ook: baken het af, en prioriteer hierbij de algoritmes met een hoog risico om het behapbaar te houden. Verder adviseert ze om alvast aan te sluiten bij de (verwachte) classificatie van hoogrisicosystemen onder aankomende Europese wetgeving die nu in onderhandeling is. Ook roept de AP het kabinet op om overheidsorganisaties één jaar te geven om het algoritmeregister verplicht te vullen met alle hoogrisicoalgoritmes.
Voor- én nadelen in kaart brengen
Verder waarschuwt de AP voor de inzet van de meest recente AI-innovaties. Nieuwe AI-toepassingen staan volop in de aandacht en het is verleidelijk om hiermee te experimenteren. Bijvoorbeeld bij het beoordelen van sollicitanten, het opsporen van fraude, het beoordelen van klanten als die iets willen kopen of een lening willen aangaan, of het beoordelen van patiënten. Dat kan echter alleen op een veilige manier als de risico’s adequaat worden beheerst. Zolang dat niet het geval is, doen organisaties er verstandig aan terughoudend te zijn. Breng voorafgaand aan de inzet, naast de voordelen, ook goed de risico’s in kaart, aldus de AP.
Eerste totaaloverzicht
De Rapportage Algoritmerisico’s Nederland is een eerste totaaloverzicht van ontwikkelingen, risico’s en uitdagingen, bijeengebracht vanuit het overkoepelende risicoperspectief. De AP gaat vanaf nu elk halfjaar een Rapportage Algoritmerisico’s Nederland publiceren om daarmee een beeld te geven van recente ontwikkelingen, actuele risico’s en bijbehorende uitdagingen.