Het Centrum Wiskunde & Informatica (CWI) heeft een methode ontwikkeld die nauwkeurig gevoelige gegevens filtert uit de enorme hoeveelheden data van het Humanitarian Data Exchange (HDX)-platform van de Verenigde Naties. Deze data zijn onmisbaar voor hulpverlening, maar kunnen ook gevaarlijk zijn als gevoelige informatie in verkeerde handen valt.
Het openbare dataplatform van de VN bevat ruim 19.300 datasets, geüpload vanaf 254 crisisgebieden van over de hele wereld. Lokale overheden delen er hun data, variërend van conflicten en oorlogen tot overstromingen en andere natuurrampen. Op basis van deze informatie faciliteert de VN de coördinatie van lokale humanitaire hulp.
De datasets bevatten uiteenlopende gegevens, bijvoorbeeld over personen, gebouwen en locaties. ‘Organisaties zetten deze op het dataplatform zonder zich te realiseren dat bepaalde data schadelijk kunnen zijn als ze in verkeerde handen vallen’, zegt onderzoeker Madelon Hulsebos. Ze is verbonden aan de Database Architectures-groep van CWI. ‘Denk bijvoorbeeld aan de coördinaten van ziekenhuizen in oorlogsgebieden, die daardoor een doelwit kunnen worden. Dit soort data moet er dus worden uitgefilterd.’
Contextueel gevoelige data
Eerder onderzoek van Hulsebos toonde aan dat kunstmatige intelligentie patronen kan zien in een grote verscheidenheid aan gestructureerde datasets. Op basis van dit inzicht wendde ze AI aan om een oplossing te ontwikkelen voor het HDX-project.
Hulsebos en AI-masterstudent Liang Telkamp ontwikkelden twee mechanismen die data op gevoeligheid analyseren. Ze introduceerden daarin een nieuw concept: contextueel gevoelige data. ‘Gevoelige data zijn meer dan alleen persoonsgegevens. Bepalend is of de informatie in verkeerde handen schade kan veroorzaken’, vertelt Hulsebos. ‘Ook kan gevoeligheid tijdgebonden zijn: misschien waren bepaalde gegevens vijf jaar geleden niet gevoelig, maar in deze tijd wel. Of plaatsgebonden: de coördinaten van een ziekenhuis in Nederland zijn minder gevoelig dan die van een ziekenhuis in Gaza. De context van een dataset is dus heel belangrijk.’
Regels over omgang met data
Voor een van de AI-mechanismen gebruikten de onderzoekers tekstdocumenten van de VN waarin regels staan over de omgang met data; welke gegevens mogen niet worden gepubliceerd en welke wel? AI koppelde de datasets aan de juiste regels. Vervolgens lieten de onderzoekers diverse large language models (LLM’s), bijvoorbeeld GPT-4 maar ook opensourcemodellen als Qwen, de betreffende regels lezen en op basis daarvan bepalen of de set gevoelige data bevatte.
Hulsebos: ‘We zagen dat ons LLM-gedreven mechanisme vele malen beter werkt dan een tool van Google die de VN gebruikte. Zo detecteerde Google DLP 63 procent van de gevoelige persoonsgegevens, terwijl ons systeem tot 94 procent kwam.’
Mechanismen worden geïntegreerd
Inmiddels heeft de VN besloten om de mechanismen in zijn dataplatform te integreren. Eerder deze maand heeft Hulsebos een presentatie hierover gegeven tijdens een VN-bijeenkomst in Barcelona.
‘Het mooie van deze mechanismen is dat ze ook buiten de VN toepasbaar zijn’, zegt ze. ‘Bijvoorbeeld op cloudplatforms waar enorme hoeveelheden data worden gedeeld, van bedrijfsgevoelige financiële gegevens tot overheidsdata. Veel publieke dataportals leveren input voor de training van AI-modellen. Ook daar wil je geen gevoelige informatie aantreffen.’
> De thesis die Telkamp schreef over het project is hier te lezen.
Deze bijdrage komt uit het digitale magazine IP #7-2025. Klik op de onderstaande button om het hele nummer te lezen.
