De nieuwe chatbot van Meta AI, BlenderBot3, is in de Verenigde Staten toegankelijk gemaakt voor het grote publiek, zodat de ontwikkelaars feedback kunnen verzamelen. Belediging en desinformatie liggen op de loer.
BlenderBot3 moet daadwerkelijk aanvoelen als een menselijke gesprekspartner, en het kunstmatig intelligente systeem komt aan zijn kennis door het te trainen met gigantische hoeveelheden gespreksvoorbeelden van het internet. De bot formuleert opvallend knappe zinnen, al voelt een babbeltje nog altijd niet erg natuurlijk aan, aldus de Volkskrant in een artikel.
Bovendien is de kans op foutieve informatie aanwezig. Meerdere media deden een test met Meta’s nieuwste chataanwinst. In gesprek met een journalist van The Wall Street Journal bijvoorbeeld hield de bot vol dat Donald Trump nog steeds president van de Verenigde Staten is en dat hij dit zou blijven, ‘zelfs als zijn tweede termijn eindigt in 2024’. Om eraan toe te voegen dat Facebook ‘veel nepnieuws bevat vandaag de dag’. En over Mark Zuckerberg zei de bot tegen een datawetenschapper van BuzzFeed: ‘Hij is een goede zakenman, maar zijn manier van zakendoen is niet altijd ethisch. Het is grappig dat hij zo veel geld heeft en nog steeds dezelfde kleren draagt!’
Learning algoritmes
Chatbots die bijleren door met mensen te chatten of door informatie van internet te halen, staan erom bekend dat ze een duistere kant ontwikkelen, schrijft de Volkskrant. ‘Berucht is Tay, een bot van Microsoft, die in 2016 zijn gespreksvaardigheden moest ontwikkelen op Twitter en binnen de kortste keren de taal uitsloeg van een racistische complotdenker. Nadat de bot onder meer had beweerd dat de Holocaust nooit had plaatsgevonden, haalde Microsoft hem binnen een dag offline.’
Meta AI heeft beperkingen opgelegd die moeten voorkomen dat BlenderBot zich vergelijkbaar gaat gedragen, bijvoorbeeld door learning algoritmes toe te voegen die onderscheid maken tussen nuttige en schadelijke feedback. Intussen heeft Meta ook een disclaimer toegevoegd, want wie aan een gesprek begint, moet aanvinken te accepteren dat BlenderBot ‘waarschijnlijk onjuiste of beledigende opmerkingen’ zal maken. Voorkomen dat chatbots haat en desinformatie verspreiden blijft dan ook een van de grote uitdagingen voor ontwikkelaars.