LangWatch, een nieuw in Amsterdam gevestigd bedrijf, gaat de kwaliteit van generatieve AI-tools controleren. De start-up bouwt een veiligheidsplatform, analyseert AI-oplossingen en helpt bedrijven hun producten te lanceren en te verbeteren.
Eerder kreeg het Nederlandse bedrijf al een financiële injectie van investeerder Antler, onlangs investeerde ook Rabobank Innovatie. Daarmee kan LangWatch verder groeien. De start-up wil ‘veelbesproken gevallen’ voorkomen als vloekende chatbots en gebruikers die AI manipuleren om een auto voor een dollar te kopen.
Aarzeling
‘Er is dringend meer controle nodig om misbruik van nieuwe AI-oplossingen en schade aan de merkreputatie te voorkomen’, zegt ceo Manouk Draisma (op de foto rechts naast medeoprichter Rogerio Chaves). ‘Veel bedrijven bevinden zich in een experimenterende fase rondom AI, maar de sprong naar volledige productie wordt met aarzeling tegemoet gezien. De anticipatie op het navigeren van hallucinaties, veiligheidsproblemen en potentiële merkschade bij het blootstellen van hun AI-oplossingen aan een breder publiek houdt hen tegen om het ware potentieel van generatieve AI te ontdekken.’