Stichting Offlimits wil dat AI-chatbot Grok niet langer zonder toestemming mensen uitkleedt. Samen met Fonds Slachtofferhulp spande het een kort geding aan tegen Grok en eigenaar X. Dat diende donderdag in de rechtbank van Amsterdam. De advocaten van X zeiden dat mensen ‘helaas altijd gebruiksregels kunnen omzeilen’.
Advocaten van Fonds Slachtofferhulp en Offlimits zeiden dat zij woensdag nog steeds eenvoudig foto’s konden bewerken. Ze lieten in de rechtbank foto’s zien die ze zelf hadden geüpload en aangepast. Grok meldde direct maatregelen te nemen bij meldingen over beelden van misbruik. De opdrachten die de eisers hadden ingevoerd, zouden inmiddels volgens de advocaten een foutmelding opleveren.
Verbod en dwangsom
Daarom zijn een verbod en de dwangsom van 100.000 euro voor elke dag dat de naaktbeelden nog met Grok kunnen worden gemaakt ‘helemaal niet nodig’. ‘Grok deelt hetzelfde doel als de eisers en wil voorkomen dat gebruikers misbruik kunnen maken van zijn technologie. Maar het volledig elimineren van elk misbruik is niet haalbaar. Er zullen altijd gebruikers zijn die beveiligingsmaatregelen omzeilen.’
Offlimits en Fonds Slachtofferhulp vonden dat Grok daarmee de zaken omdraait. ‘Het is niet een probleem dat Grok en xAI overkomt. Het is hun eigen bedrijfsmodel om het mogelijk te maken en het is hun eigen keuze om dat niet te veranderen. Voor de rijkste man ter wereld (Elon Musk, red.) is dit een grapje, voor de rest van de wereld is het een nachtmerrie’, stelden de advocaten.
Ze vinden dat de maatregelen van Grok de problemen ook niet oplossen. ‘Dat mensen kunnen worden uitgekleed, kan niet worden betwist. Dat is mogelijk omdat Grok niet vraagt naar toestemming en niet checkt hoe oud iemand is.’
Onderzoeken naar Grok
De privacytoezichthouder van Ierland, waar het Europese hoofdkwartier van X staat, begon eind februari een onderzoek naar de ‘uitkleedfunctie’ van Grok. Ook de Europese Commissie en andere landen hebben een onderzoek aangekondigd, of legden de chatbot beperkingen of een blokkade op.
De rechtbank doet op 26 maart uitspraak.
Bron: ANP.