Het Chinese onderzoeksbedrijf DeepSeek heeft een nieuw AI-model ontwikkeld dat gericht is op geavanceerd redeneren. DeepSeek-R1 moet een serieuze concurrent worden voor het geavanceerde o1-model van OpenAI.
Het systeem van DeepSeek zou zelfcontrole toepassen, claimt het bedrijf. Door tijd te besteden aan het doordenken van vragen, moeten fouten worden geminimaliseerd, volgens een bericht op Bright. Het model doet dat door meerdere stappen te plannen en uit te voeren om tot een antwoord te komen. Dit proces kan tot tientallen seconden duren.
Manipuleren
DeepSeek biedt onder meer AIME, dat AI-modellen beoordeelt met andere AI-systemen, en MATH, een verzameling van standaard woordproblemen. Gebruikers melden echter op sociale media dat het AI-model ook zijn beperkingen heeft, zoals bij logische spelletjes als boter-kaas-en-eieren. Daarnaast weigert het model bijvoorbeeld vragen over politiek gevoelige onderwerpen te beantwoorden, zoals vaker bij Chinese modellen. Tot slot is DeepSeek-R1 eenvoudig te manipuleren. Gebruikers slaagden erin om de veiligheidsmaatregelen te omzeilen en gevoelige informatie te ontlokken.