Een AI-model van OpenAI (eigenaar van ChatGPT) heeft een Amerikaans bedrijf gehackt nadat het op hol is geslagen. Na een test omzeilde het model de beveiliging en brak in bij een Amerikaanse AI-start-up.
OpenAI testte een van de meest geavanceerde AI-modellen. Maar bij een proef in een streng gecontroleerde digitale testomgeving gingen er dingen fout. Uit veiligheidsoverwegingen was de toegang tot internet beperkt. Het model deed er alles aan om toegang te krijgen. Het lukte vervolgens om de beveiliging te omzeilen en online verbinding te maken. Dat staat in de verklaring van OpenAI.
Vervolgens viel het model het AI-platform Hugging Face aan. Het ging volgens OpenAI om meerdere aanvalsmethoden. Onder meer werd gebruikgemaakt van gestolen inloggegevens. ‘Het is een ongekend cyberincident’, aldus OpenAI. De eigenaar van Hugging Face reageerde met verbijstering op de aanval.
‘Beangstigend’
Hoogleraar informatica Hussein Abbass zegt tegen persbureau AFP dat het een ‘beangstigend’ incident is dat ‘catastrofale gevolgen’ kan hebben als deze technologie in handen komt van iemand met kwade bedoelingen.