Wikipedia heeft vorige maand officieel het gebruik van AI voor het (her)schrijven van encyclopedische artikelen verboden. Een stemming onder de vrijwillige redacteuren zorgde voor het verbod, melden Britse media.
In een recente beleidswijziging heeft Wikipedia verklaard dat het gebruik van grote taalmodellen (of LLM’s) ‘vaak in strijd is’ met haar kernprincipes en niet zal worden toegestaan. Er zijn twee uitzonderingen op het nieuwe verbod: AI mag nog steeds worden gebruikt voor vertalingen en voor kleine tekstuele aanpassingen. ‘Redacteuren mogen LLM’s gebruiken om eenvoudige tekstuele aanpassingen aan hun eigen teksten voor te stellen. Sommige daarvan kunnen ze na menselijke controle overnemen, op voorwaarde dat de LLM geen eigen inhoud toevoegt.’
Hallucinaties
De belangrijkste reden achter de ban zijn de AI-hallucinaties. Dat zijn fouten waarbij AI-systemen overtuigend klinkende maar onjuiste informatie genereren. Wikipedia-redacteuren signaleerden al eerder dat AI-teksten verzonnen bronnen of desinformatie presenteren.
Vorig jaar zei Wikipedia-oprichter Jimmy Wales dat AI weliswaar bij sommige aspecten van Wikipedia zou kunnen helpen, maar dat het in ieder geval voorlopig niet zou worden gebruikt om artikelen op te stellen.