Bij het verantwoord inzetten van AI en algoritmes is de uitlegbaarheid van AI-systemen van belang. Daarom is het nodig om daar vanaf de start van de realisatie van deze systemen rekening mee te houden, ofwel: ‘explainable AI by design’. Hogeschool Utrecht ontwikkelde samen met Floryn, Researchable en de Volksbank een checklist die hier een praktisch handvat voor biedt.
Er zijn diverse voorbeelden te noemen waarbij AI niet verantwoord is ingezet. Denk aan de toeslagenaffaire en het Systeem Risico Indicatie (SyRI), een systeem waarmee de overheid persoonsgegevens kan koppelen en analyseren om fraude op te sporen. Dit systeem is niet transparant en inzichtelijk, en het kan leiden tot verkeerde conclusies. Mede door deze voorbeelden zijn we ons steeds meer bewust dat we AI verantwoord moeten inzetten. Ook de komende EU AI Verordening zorgt voor dat groeiende bewustzijn.
Verantwoorde AI
Een van de belangrijke pijlers van het verantwoord inzetten van AI is uitlegbaarheid van AI: dat de werking en de uitkomsten van een AI-systeem kunnen worden verklaard en uitgelegd aan belanghebbenden, zoals burgers, consumenten, toezichthouders en professionals in organisaties. Daarnaast is uitlegbaarheid een belangrijk hulpmiddel om te achterhalen of het AI-systeem wel fair is, niet discrimineert en niet vooringenomen is.
Maar hoe implementeer je uitlegbare AI? Het uitlegbaar maken vereist dat AI-systemen daarop worden ingericht. Dit betekent dat in alle fasen van de realisatie van zo’n systeem maatregelen worden genomen om een passende uitleg te kunnen geven, ofwel: explainable AI by design.
Checklist dowloaden
Hogeschool Utrecht heeft samen met Floryn, Researchable en de Volksbank een checklist gemaakt die een praktisch handvat biedt voor het realiseren van uitlegbare AI, bestemd voor iedereen die een rol heeft in het realiseren van AI-systemen. De tool draagt eraan bij dat in alle fasen van de realisatie van een AI-systeem de juiste maatregelen kunnen worden genomen om uiteindelijk belanghebbenden een passende uitleg te kunnen geven van dat systeem. De checklist is in de eerste plaats ontwikkeld voor de financiële sector, maar hij is ook bruikbaar in andere sectoren waar de impact van AI substantieel is en vertrouwen een belangrijke rol speelt, zoals de publieke sector en de gezondheidszorg.
De checklist is beschreven in een whitepaper die hier te bekijken/downloaden is.