Drie Franse ministers hebben een klacht ingediend bij justitie over Grok. De chatbot van Elon Musk heeft op X ‘seksuele en seksistische’ inhoud gegenereerd die ‘overduidelijk illegaal’ was, volgens de ministers. Het gaat om deepfakes zonder toestemming van de afgebeelde persoon en kindermisbruikmateriaal.
De ministers zeiden dat ze de inhoud ook hebben gemeld bij de Franse mediatoezichthouder Arcom, om te controleren of de inhoud de Digital Services Act (DSA) van de EU overtreedt. De afgelopen dagen creëerde Grok beelden van schaars geklede minderjarigen, als reactie op verzoeken van gebruikers.
Volgens persbureau Reuters werden er binnen tien minuten ruim honderd pogingen van gebruikers gedaan om met Grok afbeeldingen aan te passen zodat de afgebeelde mensen schaars gekleed gingen. In een vijfde van de gevallen zou het AI-model het verzoek volledig hebben uitgevoerd.
Grok meldt zelf op X (het platform van Musk) dat dergelijke afbeeldingen in strijd zijn met het beleid van de chatbot, dat de seksualisering van kinderen verbiedt. De aanstootgevende beelden zouden inmiddels zijn verwijderd. ‘We hebben tekortkomingen in de beveiliging geïdentificeerd en zijn deze met spoed aan het verhelpen.’
De Grok-chatbot gaat vaker de fout in, zoals vorig jaar. Toen werd er ingegrepen nadat Grok verschillende antisemitische opmerkingen had gemaakt en Adolf Hitler had opgehemeld.
Bron: ANP/AFP/Tweakers