Ceo’s van bigtechbedrijven pleiten ervoor om de ontwikkeling van kunstmatige intelligentie (AI) te vertragen. Gebeurt dat niet, dan wordt het te ingewikkeld om de veiligheid van de mensheid te garanderen.
Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, kwam afgelopen week met een essay over het gevaar van te snelle ontwikkeling van AI. OpenAI-topman Sam Altman (OpenAI/ChatGPT), Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) scharen zich achter de oproep van Amodei.
‘Voortbestaan mensheid op het spel’
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. ‘De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico’s willen aanpakken.’
Altman zei zaterdag tegen Fortune voorlopig te zullen afzien van de geplande beursgang en eerst aan de veiligheidsproblemen te willen werken. Eerder zeiden toponderzoekers van Anthropic al dat zelfs het voortbestaan van de hele mensheid op het spel staat.
AI-modellen hacken bedrijven
Recent bleken AI-modellen van Meta, Anthropic en OpenAI tijdens tests voor cybersecurity andere bedrijven te hebben gehackt. De incidenten kwamen door configuratiefouten, waardoor de modellen van Anthropic per ongeluk toegang kregen tot het internet. Na deze gebeurtenissen werd de roep om op de pauzeknop te drukken luider.
Kritiek op oproep
Er klinkt ook kritiek op de oproep om de ontwikkeling van AI af te remmen. Critici vragen zich af waarom de bazen van de techconcerns nu plotseling een draai maken, terwijl ze vooral bezig zijn met commerciële groei. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is niet duidelijk of China de snelle groei van AI ook wil vertragen.