Wie een foto die door AI is gemaakt of aangepast via WhatsApp doorstuurt, zorgt er per abuis voor dat het onzichtbare watermerk uit de foto verdwijnt. Detectietools als SynthID van Google kunnen daardoor niet meer achterhalen of een foto met AI is gemaakt of niet. Dat blijkt uit onderzoek van BNR Nieuwsradio.
In de Europese Unie zijn AI-ontwikkelaars sinds 2 augustus verplicht om content die door hun AI-modellen gegenereerd wordt te labelen met een onzichtbaar watermerk. De bedoeling is dat het watermerk vervolgens gedetecteerd kan worden met detectiesystemen. Maar het populaire en meest gebruikte SynthID van Google lijkt niet goed te werken, ontdekte BNR.
Ondertussen vereist de Europese techwetgeving wel dat aanbieders ervoor moeten zorgen dat hun ’technische oplossingen effectief, interoperabel, robuust en betrouwbaar zijn, voor zover dit technisch haalbaar is’.
Niet zichtbaar
AI-ontwikkelaars die SynthID gebruiken zijn onder andere Google zelf, OpenAI en Nvidia. Afbeeldingen die met hun AI-modellen worden gegenereerd, worden voorzien van aanpassingen die met het menselijk oog niet zichtbaar zijn. SynthID moet ze wel kunnen detecteren. Want AI-afbeeldingen die via WhatsApp verstuurd worden, verliezen hun onzichtbare watermerk en zijn niet meer te herkennen als AI-afbeeldingen.
Dat SynthID niet meer kan zien of er een watermerk in de foto zit, heeft waarschijnlijk te maken met het feit dat WhatsApp foto’s comprimeert. De app maakt het digitale formaat van foto’s kleiner om opslagruimte te besparen. Maar daarbij lijken de pixels waarmee SynthID het AI-watermerk kan herkennen dus aangetast te worden.
Wie hetzelfde probeert met WhatsApp-tegenhanger Signal loopt niet tegen problemen aan.