Door Jurriaan Krielaart
Over het geheel genomen is ChatGPT ‘een ongelooflijke prestatie’ en heeft de tool al zijn nut bewezen in vele contexten. ‘We moeten ons echter ook bewust zijn van de beperkingen en ethische overwegingen van deze technologie als we haar blijven gebruiken en ontwikkelen’, stelt Jurriaan Krielaart.
ChatGPT is een revolutionaire technologie die de aandacht heeft getrokken van velen in de technologische industrie en daarbuiten. Het door kunstmatige intelligentie aangedreven taalmodel dat op menselijke wijze tekstreacties op vragen kan genereren, kan een nuttig hulpmiddel zijn in verschillende contexten, maar zoals bij elke nieuwe technologie zijn er beperkingen en ethische overwegingen om rekening mee te houden.
Onbetrouwbare bron
Een van de grootste beperkingen van ChatGPT is de neiging om onnauwkeurige informatie te geven op een zelfverzekerde toon. Dit kan gevaarlijk zijn omdat het moeilijk kan zijn onderscheid te maken tussen juiste en onjuiste antwoorden, waardoor het een onbetrouwbare bron wordt. Daarnaast roept ChatGPT vragen op over intellectueel eigendom, aangezien het is getraind op een gigantische hoeveelheid tekst afkomstig van het internet en het niet in staat is om specifieke elementen van een tekst toe te schrijven aan de oorspronkelijke auteurs. Hierdoor ontstaat een nieuw vraagstuk over de schending van het auteursrecht en het gebruik van andermans werk zonder het de juiste credits te geven.
Een andere beperking van ChatGPT is dat het een black box is – het is onmogelijk te weten waarom een bepaald antwoord is gegeven, en de code van het model zelf is niet open source. Dit gebrek aan transparantie kan een probleem zijn voor wie wil begrijpen hoe het model zijn beslissingen neemt. Het maakt het ook moeilijk voor onderzoekers en ontwikkelaars om de ‘innerlijke’ werking van het model te begrijpen en het te verbeteren.
Veelbelovende toepassingen
Ondanks deze beperkingen ziet de toekomst van ChatGPT en andere large language models (LLM’s) er veelbelovend uit. Toekomstige iteraties zullen de nu al indrukwekkende mogelijkheden van de huidige modellen blijven verbeteren. LLM’s zullen nog groter worden, met nog meer parameters, waardoor nog nauwkeuriger en menselijker tekst kan worden gegenereerd. Ze zullen ook verder worden gespecialiseerd in verschillende domeinen, waardoor ze relevanter worden in specifieke contexten. Te denken valt aan gebieden als medisch onderzoek, juridisch onderzoek en journalistiek.
Wat toepassingen in bedrijven en organisaties betreft zullen er veel mogelijkheden zijn voor LLM’s. Ze kunnen worden gebruikt binnen vakgebieden waar grote hoeveelheden tekst moeten worden geproduceerd, zoals copywriting en contracting. Ze kunnen ook worden geïntegreerd in communicatiemiddelen van ondernemingen, zoals e-mail en chatbots, zodat berichten snel kunnen worden opgesteld of lange teksten kunnen worden samengevat. Daarnaast kunnen LLM’s worden gebruikt als opleidings- en onderwijstoepassingen om nieuwe werknemers snel wegwijs te maken in nieuwe onderwerpen en concepten. Dit kan nuttig zijn in bijvoorbeeld de klantenservice, waar werknemers snel moeten reageren op een breed scala aan vragen van klanten.
Sectoren ontwrichten
Wel is het belangrijk dat we ons realiseren dat naarmate LLM’s zich verder ontwikkelen en geavanceerder worden, zij een groot aantal sectoren kunnen ontwrichten. Zeker ook in beter betaalde vakgebieden, zoals rechten, media en politiek. Wat het recht betreft zouden LLM’s kunnen worden gebruikt om advocaten te helpen bij het opstellen van juridische brieven, wat zou kunnen leiden tot meer efficiëntie en kostenbesparingen voor advocatenkantoren, maar ook tot banenverlies. In de mediasector kunnen LLM’s helpen bij het genereren van algemene nieuwsberichten en artikelen, wat kan resulteren in verlies van werk voor journalisten en schrijvers. In de politiek zouden LLM’s kunnen worden gebruikt bij het opstellen van toespraken en beleidsdocumenten, wat zou kunnen leiden tot banenverlies voor politieke speechschrijvers en beleidsmedewerkers.
Tegelijk zou deze ontwikkeling ook kunnen zorgen voor minder creativiteit en originaliteit in deze vakgebieden. Om deze risico’s te beperken moeten organisaties wellicht investeren in omscholingsprogramma’s voor werknemers wierbanen door de opkomst van LLM’s in gevaar komen. Daarnaast moeten organisaties onderzoeken hoe deze technologie kan worden gebruikt op een manier die de samenleving als geheel ten goede komt.
Veilig, ethisch en verantwoord
Hoewel het gebruik van LLM’s veel voordelen kan opleveren, is het van cruciaal belang ervoor te zorgen dat het veilig, ethisch en verantwoord gebeurt. Dit vereist effectief bestuur en regelgeving om ervoor te zorgen dat de technologie wordt ingezet ten behoeve van iedereen en niet slechts ten behoeve van een selecte groep. Regeringen en andere organisaties kunnen bijvoorbeeld beleid voeren om ervoor te zorgen dat het gebruik van LLM’s niet leidt tot banenverlies, met name daar waar de technologie menselijke werknemers kan vervangen. Daarnaast moeten organisaties er in hun beleid rekening mee houden dat LLM’s niet worden ingezet om bepaalde groepen te discrimineren, zoals mensen in slechter betaalde banen.
Governance en regelgeving
Over het geheel genomen is ChatGPT een ongelooflijke prestatie en heeft de tool al zijn nut bewezen in vele contexten. Het is echter belangrijk dat we ons bewust zijn van de beperkingen en ethische overwegingen wanneer we deze technologie blijven gebruiken en ontwikkelen. Met de juiste governance en regelgeving ziet de toekomst van ChatGPT en LLM’s er in het algemeen veelbelovend uit. Naarmate de technologie zich verder ontwikkelt, zullen we waarschijnlijk steeds meer toepassingen voor deze modellen in diverse sectoren zien, wat tot een breed scala aan voordelen voor de samenleving als geheel zal leiden. Tegelijk moeten we voorzichtig te werk gaan en de nodige stappen nemen om ervoor te zorgen dat de technologie op verantwoorde en ethische wijze wordt gebruikt.
Jurriaan Krielaart is regional vice president Netherlands bij Dataiku.
Deze bijdrage komt uit de papieren IP #4-2023. Het hele nummer kun je hieronder lezen of downloaden.