Meisjes en jongens gebruiken kunstmatige intelligentie (AI) ongeveer even vaak, maar AI behandelt hen niet hetzelfde. Dat blijkt uit nieuw internationaal onderzoek van Plan International. Volgens de onderzoeksresultaten kunnen AI-systemen bestaande genderongelijkheden versterken, terwijl wet- en regelgeving daar nog onvoldoende juridische bescherming tegen biedt. Ook Nederland kent volgens de onderzoekers belangrijke hiaten in de bescherming van adolescente meisjes.
Het onderzoek met de titel ‘Same question, different answers: the gendered impacts of AI on young people’ combineert een enquête onder jongeren uit vier continenten, een analyse van een representatieve dataset onder 3.513 adolescenten uit Spanje, tests met ChatGPT en een juridische vergelijking van wet- en regelgeving in de Europese Unie, Nederland, Frankrijk, Duitsland, Spanje, het Verenigd Koninkrijk, de Verenigde Staten en Kenia.
Meisjes ervaren negatieve gevolgen
Jongeren gebruiken AI inmiddels massaal. Meer dan acht op de tien jongeren hebben ervaring met AI-tools en zetten het vooral in voor schoolwerk, informatievoorziening, carrièreoriëntatie, sociale interactie en emotionele ondersteuning. 59 procent van de meisjes en 56 procent van de jongens geeft aan AI weleens voor emotionele steun te gebruiken.
Tegelijkertijd ervaren meisjes vaker negatieve gevolgen. Zij voelen zich minder veilig, maken zich meer zorgen over AI-risico’s en rapporteren vaker problemen rond lichaamsbeeld en uiterlijk. Ook geven meisjes vaker aan dat AI-gegenereerde beelden en opmerkingen een negatief effect hebben op hoe zij naar zichzelf kijken.
Volgens het onderzoek creëert AI-genderongelijkheid niet zelf, maar kan het bestaande ongelijkheden wel versterken via de informatie, adviezen en kansen die systemen aanbieden.
Nederland blijft achter
Nederland leunt voor AI-regelgeving grotendeels op Europese wetgeving, waaronder de AI Act en de Digital Services Act (DSA). Hoewel deze Europese kaders een uitgebreid juridisch kader heeft voor AI en digitale platforms, betekent dit volgens het onderzoek niet automatisch dat adolescente meisjes hierdoor beschermd zijn.
Volgens het onderzoek blijft Nederland achter bij andere Europese landen die in de vergelijking zijn meegenomen. Op het gebied van afdwingbaarheid, dat meet in hoeverre bindende regels daadwerkelijk leiden tot afdwingbare bescherming tegen genderspecifieke en intersectionele risico’s, scoort Nederland gemiddeld 2,4 op een schaal van 1 tot 5.
‘Jongeren gebruiken AI steeds vaker voor advies, informatie en zelfs emotionele steun. Maar we mogen niet verwachten dat zij zelf kunnen beoordelen wat veilig, eerlijk of betrouwbaar is. AI-systemen zijn geen psychologen, juristen of AI-experts’, zegt Joyce Brummelman, International Advocacy Advisor bij Plan International. ‘De verantwoordelijkheid om jongeren te beschermen ligt bij overheden en technologiebedrijven. En op dit moment lopen de regels achter op de werkelijkheid.’
Plan International roept overheden, onderwijsinstellingen en technologiebedrijven op om AI-beleid beter af te stemmen op de rechten en veiligheid van kinderen en jongeren, met speciale aandacht voor intersectionaliteit.