Het Europees Parlement heeft ingestemd met een verbod op uitkleedapps, waarin met AI naaktbeelden worden gemaakt. Het verbod moet nog voor de zomer ingaan.
Het wordt dan in de hele EU verboden om AI te gebruiken om seksuele of naakte afbeeldingen, videobeelden of audio te maken van bestaande personen. Ook het aanbieden van zulke apps wordt verboden.
Met een uitkleedapp kunnen gebruikers een foto uploaden van een persoon waarna de app een naakte versie genereert. Zo kunnen er zonder toestemming naaktbeelden worden gemaakt, soms ook van minderjarigen. Het gaat hier om een vorm van seksueel misbruik. Het is in Nederland verboden om zulke beelden te maken zonder toestemming.
Kritiek op uitkleedfunctie Grok
De apps zijn nu makkelijk te gebruiken. Zo was er de afgelopen maanden veel kritiek op Grok, de AI-chatbot van Elon Musks bedrijf X. De privacytoezichthouder van Ierland, waar het Europese hoofdkwartier van X staat, begon eind februari een onderzoek naar de ‘uitkleedfunctie’ op de app.
Offlimits, het expertisecentrum Online misbruik, kreeg vorig jaar honderden meldingen over seksueel beeldmateriaal dat met AI is bewerkt. De organisatie begon hier een kort geding tegen Grok.