OpenAI is heeft een nieuwe versie van ChatGPT uitgebracht speciaal voor tieners. De tienerversie heeft strengere beveiligingen na zware kritiek, omdat de chatbot sommige gebruikers tot zelfmoord zou hebben gedreven.
De versie wordt automatisch ingeschakeld als iemand zich registreert als 13- tot 17-jarige. Ook gebeurt dit als gebruikspatronen erop wijzen dat het waarschijnlijk om een minderjarige gaat.
Volgens OpenAI herinnert de versie vaker om pauze te nemen en zijn er ‘stille uren’ waarin de dienst wordt geblokkeerd. Ook mag ChatGPT niet suggereren dat hij een eigen bewustzijn bezit. Ouders kunnen ook een waarschuwing krijgen als wordt gesproken over zaken als zelfbeschadiging of suïcide.
Druk van toezichthouders
Toezichthouders hebben druk uitgeoefend op OpenAI. Het bedrijf wordt ook geconfronteerd met verschillende rechtszaken, waaronder die van de ouders van de 16-jarige Adam Raine. De tiener pleegde zelfmoord, naar verluidt met methoden die door ChatGPT werden geadviseerd.