AI helpt niet alleen software ontwerpen, maar maakt ook steeds vaker onderdeel uit van de softwaresystemen die informatie interpreteren en beslissingen nemen. De dubbelfunctie brengt risico’s mee die vragen om een nieuwe manier van software ontwerpen. ‘Menselijk toezicht moet niet achteraf worden toegevoegd’, waarschuwt Stefano Bromuri, hoogleraar Software engineering en AI. Vrijdag 6 november 2026 spreekt hij zijn oratie uit aan de Open Universiteit.
AI heeft softwareontwikkeling drastisch veranderd. AI-copiloten en -agenten ondersteunen ontwikkelaars tijdens vrijwel de hele levenscyclus van software: van haalbaarheidsonderzoek en het formuleren van vereisten tot ontwerpvoorstellen maken, programmeren, testen en onderhouden.
Tegelijkertijd bevat software steeds vaker ook zelf AI. Deze systemen interpreteren informatie, leren van gegevens, doen aanbevelingen, plannen acties of werken samen met andere systemen. Hun gedrag wordt daardoor niet meer uitsluitend bepaald door de broncode, maar ook door data, leerprocessen, onderlinge interacties en de omgeving waarin ze functioneren.
Met de leerstoel Software engineering en AI verbindt Stefano Bromuri deze twee richtingen, die voor een interessante wisselwerking zorgen. ‘De AI-tool die helpt een softwaresysteem te ontwerpen, wordt zelf onderdeel van dat systeem.’ Bromuri vergelijkt het met een pen die over zichzelf schrijft. De titel van zijn oratie is dan ook ‘Software Engineering and AI: How to make a pen write about itself’.
Menselijke controle
Bromuri: ‘De centrale vraag in mijn onderzoek is hoe we softwaresystemen ontwerpen die redeneren, leren en zichzelf verbeteren, maar wel binnen duidelijke grenzen en onder toezicht van de mens. Daarbij kijken we naar vragen als: waar moeten we intelligentie plaatsen binnen de softwarearchitectuur? Welke informatie mag een AI-component waarnemen en welke niet? Hoe moeten verschillende AI-agenten samenwerken? Hoe kunnen we beslissingen controleren en wie is verantwoordelijk wanneer er iets misgaat?’
Bromuri is met name geïnteresseerd in representatieleren: de manier waarop een AI-systeem informatie intern ordent. Hij wil software engineering en AI ontwikkelen tot een samenhangend vakgebied. ‘Het doel is om systemen te ontwerpen die redeneren, leren en zichzelf verbeteren, terwijl ze begrijpelijk en goed controleerbaar blijven voor de mensen die ermee werken.’
Stefano Bromuri
Stefano Bromuri (1982, Cesena, Italië) is sinds 2025 hoogleraar Software Engineering en Artificial Intelligence bij de faculteit Bètawetenschappen. Hij begon in 2016 als universitair docent Data Analytics en werd in 2022 universitair hoofddocent. Bromuri studeerde computer engineering en ICT engineering aan de Universiteit van Bologna en promoveerde in 2009 aan Royal Holloway, University of London. Naast zijn werk bij de Open Universiteit werkt hij bij DHL Express aan toepassingen van AI en machine learning.