Expertisecentrum online misbruik Offlimits en Fonds Slachtofferhulp spannen een kort geding aan tegen chatbot Grok van Elon Musk. Het gaat specifiek om de functie van Grok waarmee mensen kunnen worden uitgekleed. Ze eisen dat de chatbot direct stopt met het zonder toestemming genereren en verspreiden van dergelijke seksueel expliciete beelden.
Volgens Offlimits en Fonds Slachtofferhulp is er een grote groep slachtoffers van Grok en blijft dat aantal groeien. Er is direct actie nodig om nieuwe slachtoffers te voorkomen. Volgens de advocaten is de uitkleedtool van Grok in strijd met het recht op privacy, de AVG, de Europese wet Digital Services Act, het Wetboek van Strafrecht en het portretrecht.
Gebruikers van Grok kunnen vragen stellen aan de chatbot, maar ook nepnaaktbeelden en pornobeelden laten maken van foto’s die online staan. Ook hebben gebruikers om afbeeldingen van schaars geklede minderjarigen gevraagd.
De nepnaaktbeelden worden vaak gebruikt om mensen onder druk te zetten of te intimideren, zegt directeur-bestuurder Robbert Hoving van Offlimits tegen de NOS. ‘Bovendien zorgt de laagdrempeligheid van dit soort tools ervoor dat het maken en verspreiden hiervan op grote schaal mogelijk is.’
Meerdere onderzoeken tegen Grok
Tegen de chatbot Grok lopen meerdere onderzoeken in Europa. De Europese Commissie laat zelf onderzoek uitvoeren, de Franse en Britse toezichthouders bekijken de kwestie ook. Grok is onderdeel van het bedrijf xAI van techmiljardair Elon Musk.
De zaak tegen Grok (en socialmediaplatform X, waaraan de chatbot gekoppeld is) dient donderdag 12 maart bij de rechtbank in Amsterdam.
Discriminerende content
Het AD onthulde donderdag dat een nieuwe versie van de losse app Grok (4.2) ook kan worden misbruikt voor het produceren van discriminerende content. Zo laat de app het brengen van een Hitlergroet in de Tweede Kamer zien. Verder blijken er nepvideo’s te worden gegeneerd met bloedige aanslagen in Nederland.