Door Anne van den Dool en Cindy Lammers
De komst van ChatGPT in november vorig jaar heeft veel losgemaakt – niet alleen aan reacties (voors/tegens), maar ook aan concurrentie (Bard van Google, Bing van MS). Ook voor de informatieprofessional heeft een dergelijke nieuwe technologie gevolgen. Denk aan het zoeken, vinden en beoordelen van informatie. Welke kansen en/of bedreigingen zijn er om rekening mee te houden?
‘Ik pleit voor volle aandacht op informatiegeletterdheid voordat we ons blindstaren op het technologiedomein’
Martijn Aslander, technologiefilosoof en oprichter van de Digitale Fitheid-beweging
‘De afgelopen tien jaar hebben veel van mijn vakbroeders en -zusters op podia, in columns en in boeken verteld over de naderende impact van exponentiele technologieën. Er werd ontkennend, verbaasd of geërgerd gereageerd – en men ging over tot de orde van de dag. De afgelopen maanden was het ineens zover. De publieke versie van ChatGPT kwam beschikbaar. Ophef alom!
Velen, scholieren voorop, zagen hun kans schoon. De wereld van de informatieprofessional zal nooit meer hetzelfde zijn. De spelregels van veel zaken die we als vaststaand beschouwden, staan onder druk en moeten veranderen. Eenoog in het land der blinden zal moeten dealen met een massa aan mensen met zicht. Waar ligt de kans voor het vak van de informatieprofessional? In wijsheid en duiding. Zodat de massa aan informatieamateurs leert begrijpen waar ze naar kijken en hoe dat te hanteren.
De uitdaging ligt in een nieuw verhaal en een nieuwe taal. Voorlopig ben ik al blij als de gemiddelde schermwerker leert wat metadata zijn en waar ze hun eigen informatie kunnen opslaan en terugvinden. Ik pleit voor volle aandacht op informatiegeletterdheid voordat we ons blindstaren op het technologiedomein. Zodat we daarna met reuzen- of quantumsprongen een nieuwe informatie-era gezamenlijk kunnen betreden. Met de informatieprofessionals als jedi’s voorop.’
‘De tooling verandert, maar informatievaardigheden zijn belangrijker dan ooit’
Peter Becker, docent aan de opleiding Data Science & Artificial Intelligence aan de Haagse Hogeschool
‘Terwijl collega Jos van Helvoort (zie ook pag. 26, red.) en ik bezig waren met de afronding van onze onderwijsmethode voor informatievaardigheden bij hbo-studenten, was daar ineens ChatGPT. Jos en ik hadden net genoeg tijd om de kunsten en gebreken van ChatGPT in onze tekst te verwerken. De vraag is natuurlijk hoelang die tekst actueel blijft. Gelukkig gaat het om een digitale methode en kunnen we de tekst makkelijk actualiseren. Inmiddels ben ik in aanraking gekomen met AI-tools als Elicit, Connected Papers en Perplexity die op indrukwekkende wijze ondersteuning bieden bij het vinden van (wetenschappelijke) informatie.
Zo veroorzaakt de komst van tools als ChatGPT een combinatie van gevoelens: opwinding over wat er kan, zorgen over de nadelen en nieuwsgierigheid naar de werking en toekomstige mogelijkheden. Wat dat laatste betreft: de groepsapp van ons docententeam bij de opleiding ontplofte bijna van alle berichten over de mogelijkheden van ChatGPT en vergelijkbare AI-tools. Het corrigeren van programmeercode, het feedback geven op het werk van studenten en het genereren van nepdata voor opdrachten zijn een paar voorbeelden. Zoals een collega het uitdrukte: “Mijn leven is een stuk makkelijker geworden!”
Prompt engineering
Als lid van de examencommissie werd ik natuurlijk ook geconfronteerd met de zorgen over plagiaat in het werk van studenten. Gelukkig werd de discussie snel naar een hoger niveau getild en ging het over de vraag wat we studenten moeten aanleren als ze de beschikking hebben over AI-tools. Verschillende collega’s hebben mooie ideeën over onderwijs waarin studenten worden uitgedaagd om deze tools effectief en verantwoord in te zetten. Daar hoort een nieuwe skill bij, namelijk prompt engineering: het formuleren van goede opdrachten zodat je relevante en betrouwbare resultaten krijgt. Samen met de kritische blik naar de resultaten zijn dat noodzakelijke skills. En dat is toch heel vergelijkbaar met de “traditionele” informatievaardigheden. De tooling verandert, maar informatievaardigheden zijn belangrijker dan ooit.’
‘De IP’er kan helpen bij het kritisch nadenken over welke informatie betrouwbaar en bruikbaar is – aan de input- en de outputkant’
Frank van Geffen, proces mining lead bij de Rabobank en voorzitter van de KNVI-interessegroep Open the blackbox
‘Tools als ChatGPT hebben een enorme potentie tot nieuwe vormen van creativiteit en wellicht nog een grotere potentie tot misleidende informatie of tunnelvisie. De voordelen zijn dat er sneller en makkelijker kan worden beschikt over de juiste informatie voor een “bekend” beslissingsvraagstuk – immers, dat is waarop deze tools zijn/worden getraind. Houd hierbij wel rekening met het feit dat we informatie in generieke zin gebruiken om onzekerheid (voor een keuze) te reduceren, en dat de mate van onzekerheid die we willen accepteren per individu verschilt.
Echter, stel ChatGPT een vraag over een heel recente gebeurtenis of een mogelijke gebeurtenis in de toekomst, en hetantwoord zal zonder verdere context zijn dat “de input die de technologie gebruikt is gebaseerd op data tot en met 2021”. Als we haar vervolgens enige context meegeven – dat kan een van onze eigen aannames zijn (die meteen al last hebben van onze eigen bias), dan komt er een antwoord terug dat meer past bij wat we zouden verwachten. Maar past dit antwoord ook bij iemand anders in een heel andere context? Waarschijnlijk niet!
Transparantie ‘onder de motorkap’
De informatieprofessional kan helpen bij het kritisch nadenken over welke informatie betrouwbaar en bruikbaar is. Dit kan in eerste instantie aan twee kanten:
- Aan de inputkant van dergelijke technologieën, dus welke data en informatie worden gebruikt om de tool te trainen en verder te laten leren.
- Aan de outputkant bij het beoordelen van wat de tool aan antwoorden geeft en welke informatiewaarde we hieraan kunnen ontlenen.
Vanuit de blackboxgedachte zou een derde focus gericht moeten zijn op de gebruikte algoritmes en deeplearningnetwerken waarmee dergelijke technieken worden getraind. Meer begrip hiervan zorgt voor een klein beetje meer transparantie van wat er ‘onder de motorkap’ precies gebeurt.
Het gevaar hierbij is namelijk dat als data zonder context worden aangeboden, ze op allerlei potentieel verkeerde en/of misleidende manieren kunnen worden geïnterpreteerd. Oftewel de tools worden verkeerd getraind. Informatieprofessionals zijn zich bewust van deze “interpretatiefouten” en zouden daarom moeten kunnen beoordelen of een gegeven antwoord wel bruikbaar is om een beslissing op te baseren. Ook het zorgvuldig gebruiken van deze tools in een zakelijke context genereert weer een leerlus terug naar de tools (self learning algoritmes). De IP’er kan hierin voorbeeldgedrag laten zien in hoe een dergelijke tool kan worden “opgevoed” om effectief samen te werken in een zakelijke context.’
‘Bibliotheken kunnen bijdragen aan de ontwikkeling van AI in het algemeen en aan ChatGPT in het bijzonder’
Martijn Kleppe, directieteamlid van de Koninklijke Bibliotheek (KB), portefeuille Onderzoeken & Ontdekken
‘Ik plaats ChatGPT graag in een breder kader. Zo heb ik de mogelijkheden van kunstmatige intelligentie en bibliotheken wel eens onderscheiden naar vier perspectieven. Allereest kun je AI-technieken inzetten om je interne processen te verbeteren; denk aan het sneller beschrijven van publicaties omdat de computer een boek ook leest en bijvoorbeeld suggesties doet voor trefwoorden. Daarnaast zie je steeds meer AI in diensten voor eindgebruikers, zoals aanbevelers voor boeken als de Leestipper van Bookarang. Je kunt er vergif op innemen dat tools als ChatGPT voor beide perspectieven gaan worden gebruikt, en dus zullen we ons als informatieprofessionals moeten verhouden tot de mogelijkheden en uitdagingen van dat soort technologieën. Dit is echter niets nieuws. We krijgen continu nieuwe technieken tot onze beschikking en moeten daar op een verantwoorde manier mee leren omgaan zodat ze ons helpen onze doelen te bereiken.
Daarom vind ik het spannender om te bekijken hoe we een techniek als ChatGPT kunnen meenemen in de twee andere perspectieven. Naast ‘toegang bieden tot informatie’ geven bibliotheken ook de mogelijkheid om je te blijven ontwikkelen en met anderen het gesprek aan te gaan over maatschappelijke ontwikkelingen. Een mooi voorbeeld daarvan is de AI Parade, een manifestatie die in tien maanden langs achttien bibliotheken door het hele land reist en waar tentoonstellingen, debatten en workshops worden georganiseerd over kunstmatige intelligentie. Reken er maar op dat ChatGPT daarin wordt opgenomen.
Onvermijdelijke pijnlijke fouten
Mijn vierde perspectief is een kant die niet al te vaak wordt belicht en dat is wat bibliotheken kunnen bijdragen aan de ontwikkeling van AI. Elke AI-technologie werkt relatief goed als ze getraind is met enorme hoeveelheden data. In het geval van ChatGPT gaat dat om een gigantische berg tekst. We weten alleen niet welke teksten OpenAI daarvoor heeft gebruikt, en daar wringt de schoen. Want los van de verbluffende resultaten zien we ook de onvermijdelijke pijnlijke fouten voorbijkomen: de vooroordelen die altijd in teksten zitten. Niet gek, want deze vooroordelen zitten natuurlijk ook in de teksten die zijn gebruikt om het algoritme van ChatGPT te trainen. Hier kunnen bibliotheken een geweldige en unieke rol spelen!
Het vermoeden bestaat dat ChatGPT al zijn data zelf, al dan niet toegestaan, bij elkaar heeft gescraped. Bibliotheken en erfgoedinstellingen zijn dé organisaties die weten welke teksten ze hebben, waar deze vandaan komen en wat ermee kan en mag worden gedaan. Het is aan ons informatieprofessionals om te bekijken hoe we deze teksten steeds beter beschikbaar kunnen stellen om dit soort nieuwe technologieën verder te ontwikkelen op een ethisch, juridisch en met name maatschappelijk verantwoorde manier. Niet door de teksten zomaar weg te geven, maar door met de juiste informatie te komen over de achtergrond van de teksten én over wat wel en niet mag op zowel auteursrechtelijk als ethisch vlak.’
‘AI-literacy van informatiespecialisten is cruciaal om de wetenschappelijke integriteit te bewaken’
Marie-Louise Goudeau, educatiespecialist bij de Universiteitsbibliotheek Utrecht
‘In de bovenstaande introductie van een sciencefictionthriller, geschreven door ChatGPT, wordt Jasmijn in de Universiteitsbibliotheek Utrecht verwelkomd door AI die al je vragen kan beantwoorden. Helaas lijken er wel boeken maar geen informatiespecialisten voor te komen in deze thriller … ChatGPT en vergelijkbare tools komen op een andere manier tot een dergelijk geschreven stuk dan hoe mensen te werk gaan. Deze tools hebben geen mening en kunnen lastig het verschil zien tussen feit, desinformatie en fictie. Daarnaast heeft het huidige model moeite om juiste, bestaande referenties te geven. Laten informatiespecialisten bij de universiteitsbibliotheek dit nu juist wel goed kunnen! Hun expertise, informatievaardigheden en kennis over wat AI wel en niet kan, oftewel AI-literacy, zijn cruciaal om de wetenschappelijke integriteit te bewaken. Training en ondersteuning die informatiespecialisten nu geven over bijvoorbeeld het zoeken in een database, zullen plaatsmaken voor training en ondersteuning om met de juiste prompt (wetenschappelijke) informatie te vinden en te creëren met AI.
AI-wijze community
Voor een AI-wijze community vormen AI-tools goede assistenten om efficiënter wetenschappelijke output in de vorm van publicaties, data en code te produceren. Tegelijkertijd kunnen informatiespecialisten met behulp van AI wetenschappers ondersteunen met het FAIR (findable, accessibele, interoperable en reproducable) maken van hun output. ChatGPT is goed in het schrijven van code en kan snel teksten doornemen om de juiste metadata toe te voegen aan een publicatie of dataset. FAIR materialen zijn machine readable, waardoor het makkelijker wordt voor AI om deze te gebruiken en bijvoorbeeld data te visualiseren met augmented reality.
Eigenlijk vat het antwoord van ChatGPT hierboven het mooi samen. Dankzij AI kan Jasmijn in de bibliotheek elk antwoord vinden, maar toch moet ze alert zijn dat AI soms niet het juiste antwoord geeft. Is er dan ook iets sinisters aan de hand? Laten we hopen dat Jasmijn onze held, de informatiespecialist, tegen het lijf loopt.’
‘Wat doen AI-tools met kritisch denken, zelfreflectie, metacognitie, gedrag en houding van de student?’
Harrie van der Meer, coördinator trainingen informatievaardigheid en digital skills aan de Hogeschool van Amsterdam
‘AI-tools bieden absoluut mogelijkheden als assistenten in het zoekproces. Zo kan ChatGPT helpen bij het formuleren van onderzoeksvragen, het bedenken van zoektermen, het beantwoorden van vragen of het samenvatten, beoordelen en vereenvoudigen van content. Met al dit moois zou je bijna over het hoofd zien dat er ook risico’s zijn die we nog niet allemaal even goed kunnen overzien. De belangrijkste op dit moment zijn onbetrouwbaarheid, het niet kunnen verifiëren van content door het ontbreken van bronnen – want het is een taalmodel – en het gebrek aan transparantie over brondata en moderatiefilters.
Vooral de mogelijke gevolgen voor de mindset van de student zijn een aandachtspunt: wat doen AI-tools met kritisch denken, zelfreflectie, metacognitie, gedrag en houding? Nu bevat ChatGPT nog veel fouten, maar wat als het straks beter en beter wordt, verifiëren we dan nog? Maken we ons nog druk over referenties? Als we door moderatiefilters bepaalde informatie niet tot ons krijgen, merken we dat dan nog?
Kernwaarden onderzoek en wetenschap
In de discussies rondom AI zit gelukkig een heel spectrum tussen doemdenken en overmatig enthousiasme of fatalisme (“het is nu eenmaal zo”). Artificiële intelligentie kan het ons in veel opzichten makkelijker maken, maar laten we in het onderwijs niet voorbijgaan aan de kernwaarden van onderzoek en wetenschap, waaronder methodologische concepten als verifieerbaarheid en transparantie. Daarbij worden informatie- en digitale vaardigheden in mijn optiek alleen nog maar belangrijker. Er zal extra aandacht moeten worden besteed aan bijvoorbeeld de omgang met AI-tools, de totstandkoming van informatie, de waarde van bronnen en data en de risico’s op dwaling door het consumeren van niet-geverifieerde informatiebrokken. De informatiespecialist kan daar een heel belangrijke rol in spelen.’
Meer lezen/kijken?
> Is ChatGPT bruikbaar voor het erfgoedveld? Vorige maand vond de bijeenkomst ‘ChatGPT of nie’ plaats in de Bibliotheek UvA/HvA, waar veertig erfgoedprofessionals, van ontwikkelaars en archivarissen tot wetenschappers, deze vraag onderzochten. Meer hierover lees je op: netwerkdigitaalerfgoed.nl/nieuws/chatgpt-nog-lang-niet-perfect-maar-met-potentie-voor-het-erfgoedveld/
> Vorige maand heeft de SHB-UKB-werkgroep Information Literacy een workshop georganiseerd over ChatGPT en informatievaardigheid, waarbij toepassingen en risico’s de revue passeerden. Een terugblik hierop vind je op: shb-online.nl/onderwijs/information-literacy/evenementen/terugblik-op-evenementen/
Over ChatGPT
ChatGPT is een AI-aangedreven chatbotmodel van OpenAI, dat ook het taalmodel GPT-3 (binnenkort opgevolgd door GPT-4) en text-to-image-model DALL-E 2 heeft ontwikkeld. ChatGPT, dat in november vorig jaar werd gelanceerd, is getraind met een groot corpus van tekst van het internet tot halverwege 2021. De tool kan allerlei soorten vragen beantwoorden en taken uitvoeren, zoals het schrijven en samenvatten van teksten. Intussen zijn er ook concurrenten op de markt gekomen, al dan niet met succes en de nodige haken en ogen: bijvoorbeeld Bard (Google) en Bing (Microsoft), maar ook een bedrijf als Alibaba is ermee bezig.
Kansen en bedreigingen voor IP’ers volgens ChatGPT zelf
Frank van Geffen stelde de vraag over ‘de kansen en bedreigingen van tools als ChatGPT voor informatieprofessionals’ ook aan ChatGPT zelf. Het antwoord luidt:
‘Tools zoals ChatGPT kunnen zowel kansen als bedreigingen bieden voor informatieprofessionals, afhankelijk van hoe ze worden gebruikt en ingezet. Hier zijn enkele mogelijke voorbeelden.
Kansen:
- Verbeterde zoekmogelijkheden: ChatGPT en vergelijkbare tools kunnen informatieprofessionals helpen bij het vinden van informatie in grote hoeveelheden data en documenten. Deze tools kunnen taalbegrip en het vermogen om vragen te beantwoorden op basis van context en inhoud van documenten verbeteren.
- Verhoogde efficiëntie: door de mogelijkheid van ChatGPT om snel informatie te vinden, kunnen informatieprofessionals meer tijd besteden aan het analyseren van de informatie en het leveren van hoogwaardige diensten aan hun klanten.
- Verhoogde toegankelijkheid van informatie: ChatGPT en andere geautomatiseerde hulpmiddelen kunnen informatie toegankelijker maken voor mensen met beperkte leesvaardigheden, doordat ze in staat zijn om in natuurlijke taal te communiceren.
Bedreigingen:
- Verminderde werkgelegenheid: ChatGPT en andere automatiseringstechnologieën kunnen de vraag naar menselijke informatieprofessionals verminderen, aangezien de behoefte aan menselijke interactie in sommige situaties afneemt.
- Verlies van menselijke vaardigheden: als gevolg van het gebruik van geautomatiseerde hulpmiddelen zoals ChatGPT kunnen informatieprofessionals vaardigheden verliezen zoals zoekvaardigheden, kennis van gegevensstructuren en begrip van documentatie, die cruciaal zijn voor het leveren van hoogwaardige diensten.
- Verlies van privacy: aangezien ChatGPT en vergelijkbare hulpmiddelen informatie verzamelen en analyseren, kan er een potentieel verlies van privacy zijn voor gebruikers van deze hulpmiddelen, wat een bedreiging kan vormen voor informatieprofessionals die met gevoelige informatie werken.
Kortom, terwijl ChatGPT en andere geautomatiseerde hulpmiddelen kunnen helpen bij het verbeteren van de efficiëntie en toegankelijkheid van informatie, is het belangrijk dat informatieprofessionals deze tools op de juiste manier integreren in hun werkprocessen en zich bewust zijn van de mogelijke bedreigingen die gepaard gaan met hun gebruik.’
Anne van den Dool is tekstschrijver, auteur en cultureel journalist, Cindy Lammers is hoofdredacteur van IP.
Deze bijdrage komt uit de papieren IP #2-2023. Het hele nummer kun je hieronder lezen of downloaden.