De Theorie van het Dode Internet voorspelt dat het internet uiteindelijk alleen nog maar bestaat uit AI-gegenereerde teksten. Met de opkomst van AI-bots is die dreiging reëel.
In een gesprek over digitale noodpakketten vertelde een vriend dat hij eens per maand Wikipedia downloadt. Gewoon, de hele website. Alle kennis van de grootste gratis online encyclopedie ter wereld in een handzaam zip-bestandje van zo’n 30 GB. Hij doet dat omdat je nooit weet wat er met het internet gaat gebeuren. Straks legt een oorlog je verbinding plat, of besluit een kwaadaardige overheid je toegang te beperken. Of nog erger: Wikipedia, volgens sommigen het laatste bastion van gedeelde waarheid, gaat dood, net als de rest van het internet. Verpest door AI.
Dit is grofweg het angstaanjagende, haast dystopische scenario dat de Theorie van het Dode Internet (Dead Internet Theory) voorspelt. Die stelt dat het internet op een gegeven moment alleen nog bestaat uit bots die met bots interacties hebben. Alle content, websites, socialmedia-accounts, video’s, foto’s en apps: allemaal AI-gegenereerde troep (ook wel AI-slop genoemd).
Eerste signalen
De eerste signalen zijn volgens sommigen al zichtbaar, bijvoorbeeld in hoe googelen voorgoed is veranderd. Waar vroeger de kans groot was dat bovenaan de zoekresultaten het beste antwoord op je vraag te vinden was, krijg je nu een gelikt AI-tekstje. Die is automatisch door Googles taalmodel bedacht, op basis van zijn trainingsdata, die bestaat uit alle miljarden websites op het internet – die ook steeds vaker volledig door AI bedacht zijn. Onderzoekers van het Imperial College London becijferden vorig jaar dat zo’n 35 procent van alle nieuwe websites door AI wordt gegenereerd, waarvan ongeveer de helft volledig. Voor de lancering van ChatGPT was dat bijna nul.
Wordt de soep zo heet gegeten? Volgens Rik van Noord, docent en onderzoeker Informatiekunde aan de Rijksuniversiteit Groningen, is het wel degelijk iets om ons zorgen over te maken, zeker met de opkomst van AI-agents. Deze autonome bots kunnen zelf allerlei acties op het internet uitvoeren. “Eerder zat er nog een soort menselijke rem op, omdat het nog altijd mensen waren die taalmodellen aan het werk zetten. Agents kun je gewoon aan het werk zetten door ze specifieke instructies te geven, zoals: je bent een Reddit-gebruiker, schrijf en post maar vijftig berichten per uur. Dat is echt een nieuwe laag in dit probleem.”
Doelwit
Wikipedia is een voor de hand liggend doelwit voor AI-agents met kwaad in de zin, want wijzigingen door gebruikers staan in principe meteen live. Pas later worden ze door een ervaren Wikipedia-gebruiker gecheckt, al gebeurt dat doorgaans binnen enkele minuten, vertelt de Nederlandstalige Wikimedia-moderator Daniuu. Alle wijzigingen belanden in een feed die door onder meer nota bene AI-gebaseerde software wordt gerangschikt op hoe groot de kans is dat het om ‘vandalisme’ gaat – een wijziging in een artikel over Gaza wordt sneller gecheckt dan eentje over de eikenprocessierups, bijvoorbeeld.
Wikipedia-vandalisme is niet nieuw, vertelt Daniuu. Daarom wil hij liever niet met z’n echte naam op NEMO Kennislink; er zijn gevallen geweest dat hij online werd lastiggevallen door gebruikers wiens edits door hem waren teruggedraaid. “Vaak gaat het over mensen, doorgaans uit extreemrechste hoek, die bepaalde zaken willen wegpoetsen uit een artikel waar ze niet zo positief aan bod komen”, vertelt hij.
Wikipedia moderators zijn vrijwilligers. Zijn die wel opgewassen tegen een stortvloed aan edits door AI-agents? Dat is een uitdaging, vertelt Daniuu. In sommige veelgebruikte talen wordt vuur met vuur bestreden: de Engelstalige Wikipedia heeft een zogeheten cluebot. Dat is wederom een AI-gebaseerde bot die scant op vandalisme en ook meteen zaken kan terugdraaien. Ook de Spaanstalige Wikipedia gebruikt een dergelijk systeem. “Die bots zijn zodanig getraind dat ze alleen dingen terugdraaien waarvan het héél zeker is dat het vandalisme is, om het vrije karakter te houden.” Is dat ook iets voor de Nederlandse Wikipedia? “Daar zijn we mee bezig, maar ik denk dat degene die daaraan begon nooit de tijd heeft gehad om dat door te ontwikkelen. Het blijven vrijwilligers met drukke levens”, aldus Daniuu.
Wapenwedloop
Wikipedia-artikelen schrijven met LLM’s (Large Language Models) is volgens het beleid van de website strikt verboden. Daar ontwikkel je als moderator een soort detector voor, zegt Daniuu. “Wikipedia-tekst schrijven is echt een skill, ook beginnende vrijwilligers hebben daar moeite mee. Je moet neutraal en goed leesbaar schrijven, en goed kiezen wat er wel en niet bij moet. We blijven een encyclopedie, dus het moet encyclopedische relevantie hebben, zoals we dat noemen. Je moet het echt in de vingers krijgen.”
Daarnaast vinden ook Wikipedia-moderators steeds vaker hun weg naar AI-detectoren: online tools die naar eigen zeggen met nagenoeg 100 procent precisie kunnen herkennen of iets door een LLM is geschreven. Vuur met vuur bestrijden dus. Maar: hoe beter taalmodellen worden, hoe moeilijker het is om AI-tekst ertussenuit te vissen. Van Noord: “Het is een soort wapenwedloop. AI detecteren werkt nu nog best wel goed. Maar als de tools beter worden, wordt de taal van AI-bots minder makkelijk te herkennen.”
“Er wordt op dit moment heel uitgebreid een discussie gevoerd binnen de Wikipedia-gemeenschap over hoe we moeten omgaan met generatieve AI”, vertelt Daniuu. “We weten nog niet goed waar de balans ligt; de standpunten lopen uiteen van gen-AI voor alles, tot mensen die het als de duivel zien, die buiten gehouden moet worden.”
Waardevol
Overigens is het ook voor ontwikkelaars van grote taalmodellen verstandig om Wikipedia te beschermen: de encyclopedie is een belangrijke bron van trainingsdata. Wikipedia sloot vorig jaar zelfs, in een zeldzame commerciële move, eenlucratieve deal met onder meer Google – binnen de Wikipedia-gemeenschap een zeer gevoelig onderwerp, laat Daniuu weten. Wanneer taalmodellen zichzelf trainen op data die op zichzelf al AI-gegenereerd is, loop je het risico op zogeheten model collapse: een beetje als de draak die z’n eigen staart inslikt.
Volgens Van Noord is menselijke data het allerbelangrijkst voor de kwaliteit van taalmodellen, waardoor een volledig door mensen bijgehouden Wikipedia enorm waardevol is. Toch is het volgens hem voor taalmodellen voorlopig geen probleem dat er steeds meer ‘synthetische data’ tussen zit. “Er bestaan heel goede datasets waarvan we zeker weten dat ze geschreven zijn voor 2023, dus voordat ChatGPT een ding werd. AI-bedrijven investeren zelf ook in menselijke experts die worden betaald om teksten voor ze te schrijven waarop hun AI is te trainen, dat leiden we af uit vacatures.”
Voorlopig lijkt het internet nog springlevend dus – althans, belangrijke bolwerken als Wikipedia. Er zijn ook redenen om aan te nemen dat het niet zo snel zal gaan met het sterven van het internet. “Het voordeel is dat niemand wil dat het internet doodgaat”, zegt Van Noord. “Niemand zegt: dat lijkt me nou een fijne toekomst.”