Wat leert AI ons over onze eigen intelligentie, over onze blinde vlekken en over de inrichting van onze samenleving? AI-expert Virginia Dignum schreef er een boek over.
De hooggespannen verwachtingen, de miljardeninvesteringen, de aangewakkerde angst voor ‘superintelligentie’ en de ‘race om de AI-strijd te winnen’: het smeekte volgens Virginia Dignum om een samenhangende analyse. Tijdens een sabbatical in Harvard deed de hoogleraar Computer Science van de Universiteit van Umeå (Zweden) een stap terug om daar eens goed over na te denken. Deze week, krap twee jaar later, verschijnt haar boek ‘The AI Paradox. How to Make Sense of a Complex Future’. Kennislink las het en sprak met de auteur over onmisbare menselijke intelligentie, een onverstandige AI-race en vliegtuigen die geen eieren leggen.
In nieuwsmedia zien we voortdurend verhalen over AI-tools die mensen gaan vervangen. In uw boek onderstreept u juist de onvervangbare aard van menselijke intelligentie. Leg dat eens uit.
“Het geloof dat AI alles gaat overnemen is voor een groot deel marketing. Die hype wordt aangewakkerd door de gigantische investeringen in de Big Tech. Volgens een rapport van het MIT stranden de meeste investeringen in AI buiten de Big Tech bij het prototype, of de pilotprojecten.”
“We bouwen apparaten die ons dingen sneller laten doen, zoals berekeningen door een rekenmachine, of een auto om snel te bewegen. De auto rijdt inderdaad sneller dan ik kan lopen en de rekenmachine berekent de wortel van twee veel sneller dan ik, maar onze intelligentie draait niet alleen om ‘problem solving’. Het gaat om het bredere plaatje.”
Virginia Dignum, hoogleraar Computer Science van de Universiteit van Umeå.
Mattias Pettersson voor Umeå universitet“Veel van wat we doen en hoe we AI bouwen wordt bepaald door hoe we in het westen naar de wereld kijken. In onze westerse beschaving domineert het idee van Descartes: ‘ik denk, dus ik ben’. Dat is de lens waardoor wij naar de wereld kijken. Redeneringen vormen daarin de kern. In andere delen van de wereld, bijvoorbeeld volgens de Ubuntu-ideeën in Afrika, geldt: ik ben omdat wij zijn. De kern van ons bestaan is niet het denken, maar sociaal zijn.”
AI ontbeert sociale intelligentie. Waarin schiet het daardoor tekort?
“Geen enkele chatbot werkt zonder een heleboel mensen die de dingen draaiende houden. Bijvoorbeeld mensen in Bangladesh en Kenia, die continu kijken naar de gekkigheden van de taalmodellen, die niet aanvaardbaar zijn in ons wereldbeeld. Of neem de zelfrijdende auto’s van Waymo in Californië, die constant in de gaten blijken te worden gehouden door mensen in de Filippijnen. Volgens de marketing rijden die auto’s helemaal alleen, maar elders zitten mensen daar hard voor te werken.”
“Het grootste probleem van AI is dat het niet in dezelfde werkelijkheid werkt als die waarin wij leven. Qua techniek is AI een verzameling van statistische berekeningen, dus het kijkt naar waarschijnlijkheden, niet naar waarheden. Dat is iets wat we steeds vergeten als we met tools zoals ChatGPT omgaan. Als een chatbot hallucineert, zijn we vrij goed in staat te begrijpen dat er iets niet klopt. Ook aan beelden die niet kloppen kunnen we zonder training snel zien dat er iets geks aan de hand is. AI kan dat helemaal niet. De wereld van AI is de data die wij geven, maar de link tussen die data en de echte werkelijkheid bestaat niet voor AI.”
Waarom noemt u datificatie in uw boek een van de grootste risico’s in de ontwikkeling van AI?
“Data zijn geen natuurlijk fenomeen. Wij maken die data, net zoals we een rekenmachine maken, of een kop koffie. Wij bepalen wat we willen weten en daar maken we data over, deels met behulp van sensoren. Als je op een kantoor werkt, zal je veel sensoren hebben voor temperatuur, voor licht, maar waarschijnlijk niet voor geur. De data die we gebruiken vormen een nagemaakte werkelijkheid.”
Big Tech maken de regels die hen zelf van pas komen, en dat willen ze zo houden
“Data over menselijke besluiten gaan ook altijd alleen over het resultaat. We weten bijvoorbeeld dat er zoveel kopjes koffie op het station van Utrecht zijn gedronken vandaag, maar wat heeft mensen gebracht tot die keuze? Data geven een onvolledig snapshot van de realiteit, van de situatie op dat moment. Ze zeggen niets over hoe het daarvoor was, waar het naartoe gaat, waarom je daar bent. Met allerlei trucs en technieken proberen we dat te achterhalen, maar we worden steeds meer geleid door een namaakrealiteit.”
U legt in uw boek uit dat regelgeving in de auto-industrie juist goed is geweest voor innovaties. Waarom is regelgeving bij AI zo controversieel?
“De macht van Big Tech in de digitale technieken en AI is ongekend groot. Dat hebben we nooit meegemaakt bij andere technologieën. De verhouding tussen Google, Meta, Amazon en de regeringen is heel scheef. Het andere punt is dat sinds het begin van het internet het idee ongemerkt erin geslopen is dat alles moet kunnen in de virtuele wereld. We moeten zo weinig mogelijk barrières opwerpen in de manier waarop computers met elkaar verbonden worden, in wat kan en wat niet kan in de cyberspace.”
“Dat alles leidt tot een heel vreemde omgeving voor innovatie. Zeker kleine bedrijven en start-ups zijn veel meer gediend bij een omgeving waarin ze weten waar ze staan. Stel dat ze investeren in het bouwen van een auto. Als ze zorgen dat wat ze bouwen binnen de regels past, dan weten ze dat ze een grotere kans hebben dat het ding geaccepteerd, betrouwbaar en bruikbaar is. Deze onzekerheid voor anderen komt ten goede aan de positie van Big Tech. Het is niet zo dat ze ongereguleerd zijn, zij máken de regels die hen zelf van pas komen en dat willen ze zo houden.”
Op het moment dat je een broodrooster koopt, weet je dat het product aan een heleboel regels moet voldoen. Bij AI is dat nu nog niet het geval.
pixel-shot.com, via freepik.comWat zijn de gevolgen?
“Als je naar de HEMA gaat en je koopt een broodrooster, dan weet je voor 99 procent zeker dat het ding werkt en geen kortsluiting veroorzaakt als je de stekker in het stopcontact doet. Bij AI koop je iets, maar je moet het helemaal zelf checken. Als het fout gaat, helaas pindakaas. Er is veel onzekerheid voor ons zelf, voor allerlei overheidsinstanties en bedrijven die gebruikmaken van AI-tools die door anderen worden gebouwd. In plaats van te zeggen, geef ons broodroosters die aan deze regels voldoen, zeggen ze: geef maar wat, we zijn allang blij dat we een broodrooster krijgen. En nu zorgen we dat er overal in het land mensen zijn die de broodroosters checken.”
Waarom schrijft u dat we AI-ontwikkeling beter niet als een wapenwedloop kunnen zien?
“Het idee is dat er een moment is waarop we bepalen wie ‘wint’. Maar wie vandaag ‘voor’ lijkt te liggen, ligt morgen weer achter. Dat is een. Het andere probleem is het idee dat we allemaal zo snel mogelijk in dezelfde richting moeten gaan. Dat werkt tegen de mogelijkheid om alternatieven te bedenken. Theoretisch en technisch gezien zijn er momenteel veel alternatieven die niet benoemd worden. Door zonder te denken de leider te volgen, lijken we op lemmingen die massaal van een klif af springen.”
AI-intelligentie is heel beperkt, het beslaat een subset van menselijke intelligentie
“De belangen rondom op statistiek gebaseerde technieken zijn nu heel groot. Alles draait om zoveel mogelijk computerkracht en zoveel mogelijk data creëren om de ‘volgende grote stap’ te maken. Omdat de investeringen zo groot zijn en je die niet meer wilt verliezen, moet je blijven geloven dat we meer data nodig hebben, meer datacenters, meer computing power. Maar ik gebruikte ooit computers die zo groot waren als mijn appartement en die dingen konden minder dan mijn huidige telefoon. De datacenters die we nu bouwen zijn over twintig jaar de kolossen van toen. Het idee dat je een groot datacentrum moet bouwen om te overleven, is zeker niet door God ingegeven, maar door Big Tech. Helaas geloven onze regeringen daar erg in.”
Waarom vergelijkt u superintelligentie in uw boek met ‘vliegtuigen die plotseling eieren gaan leggen’?
“Het is steeds duidelijker dat LLMs niet veel meer gaan presteren dan wat ze nu doen, dus ze moeten ons laten geloven dat the next big thing om de hoek ligt. Maar AI-intelligentie is heel beperkt, het beslaat een subset van menselijke intelligentie. Die menselijke intelligentie is zo divers, zo rijk en zoveel tegelijk. Als we ons alleen richten op het probleemoplossend vermogen van menselijke intelligentie – dat wat AI kan doen – dan verwacht ik niet dat het plotseling automatisch ook heel goed wordt in emotionele intelligentie, ruimtelijke intelligentie, of wat dan ook.”
“Als het gaat om dingen die intelligenter zijn dan mensen, moeten we vooral kijken naar collectieve intelligentie. Samen zijn we intelligenter dan elk van ons. Als we daarop inzetten, denk ik dat we verder komen dan als we ons enkel richten op een type machine.”