Begrijpt AI echt wat jij bedoelt?

AI-chatbots die onze vakanties plannen, in een handomdraai teksten schrijven en antwoord hebben op al onze vragen: het wordt steeds normaler. Maar is AI echt zo slim, of lijkt dat maar zo? Hierover zijn de meningen in AI-land verdeeld.

Large Language Models

Om te snappen hoe AI-chatbots nadenken moeten we kijken naar hoe ze zijn ontstaan. Al in de jaren 60 probeerden computerwetenschappers precies te begrijpen hoe menselijke taal werkt. Ze ontwikkelden complexe grammaticaregels die onze taal beschrijven op een manier die een computer kan volgen. Zo bouwden ze pratende robots zoals IBM Watson en computers die teksten vertalen. Na decennia aan onderzoek veranderde alles toen de wereld vanaf 2018 kennis maakte met de eerste Large Language Models (LLMs), zoals GPT-2 van OpenAI en BERT van Google.

Voor veel AI-onderzoekers en taalwetenschappers waren deze LLMs een grote verrassing, omdat ze fundamenteel anders werken dan eerdere taalrobots. Ze hebben geen ingebouwde grammaticaregels, en maken nauwelijks gebruik van inzichten uit de taalwetenschap. Waarom werken ze dan toch zo goed?

Het antwoord zit in de L van 'Large': tegenwoordig draait alles om schaal. AI-onderzoekers ontdekten dat een model zelf leert hoe taal werkt als we het héél veel geschreven tekst laten zien, en vragen om die na te maken. Het model heeft dan geen grammaticaregels meer nodig, maar herkent de patronen in tekst en praat ons na, net als een papegaai. Na de ontdekking van deze truc was de volgende stap simpelweg meer rekenkracht. We laten het model alle tekst op het hele internet zien zodat het ons steeds beter kan napraten. Zo wordt het vanzelf 'slimmer'. Het onderzoek naar de structuur van taal belandde grotendeels in de ijskast.

Nu hebben we LLMs die in staat zijn om onze digitale infrastructuur te hacken, ze verslaan de slimste wizzkids in wiskundewedstrijden en upgraden zichzelf door hun eigen code te herschrijven. AI-onderzoekers noemen dit de bittere les: computersystemen die gebaseerd zijn op ingewikkelde door mensen bedachte regels werken wel, maar worden vroeg of laat ingehaald door 'papegaaimodellen' die simpelweg heel veel data verwerken en namaken. Slim design verliest het uiteindelijk altijd van brute rekenkracht.

Papegaaimodellen

Toch hebben deze papegaaimodellen ook fundamentele nadelen. Ze bedenken bijna nooit iets nieuws, maar herformuleren en combineren wat ze hebben gezien. Slechte input zorgt dus voor slechte output. Zo kan een LLM net zo overtuigend complottheorieën uit social media posts herhalen als conclusies uit wetenschappelijke artikelen, zonder dat wij als gebruikers het verschil zien of de bron kunnen checken. Bovendien zijn deze papegaaimodellen inefficiënt. Een LLM wordt getraind op meer dan 10 biljoen (10* 10^12) woorden en een enkele vraag aan een LLM kost soms tot wel 29 Wattuur aan stroom. Dat is honderd keer meer dan een vraag aan een zoekmachine zoals Google en meer dan het menselijk brein in een uur verbruikt.

Ten slotte is er nog heel veel dat AI-modellen niet kunnen, maar wij mensen wel. Mensen maken hun eigen doelen, plannen vooruit en improviseren om problemen op te lossen die ze nog nooit eerder zagen. Als je op vakantie bent en je auto heeft pech, bel je niet eerst honderd mensen op die hetzelfde meemaakten. Je bedenkt zelf ter plekke een oplossing. Dat soort flexibel redeneren in nieuwe situaties is voor de huidige AI-modellen nog grotendeels onbereikbaar.

Echte intelligentie?

In 2023 en 2024 presenteerden de Big-Techbedrijven doelen als 'Artificial General Intelligence' en 'Artificial Superintelligence'. Dit zijn plannen voor de modellen van de toekomst die de encyclopedische kennis en rekenkracht van een LLM combineren met menselijke vaardigheden zoals plannen, efficient leren en omgaan met onbekende situaties. Het is de vraag of we dat doel bereiken door simpelweg nóg grotere papegaaimodellen te bouwen. Volgens critici zoals AI-pionier Yann LeCun mist AI nu nog het begrip van de fysieke wereld en de capaciteit om na te denken, en kan dat niet geleerd worden door ons alleen maar steeds beter na te praten.

AI-onderzoekers werken aan allerlei nieuwe systemen die beter in staat zijn om zelf te redeneren. Zo worden in 'Neuro-Symbolic AI' LLMs en andere AI-modellen gecombineerd met strikte logische regels die we kunnen controleren. Een andere aanpak is 'Program Synthesis': een AI-model wordt niet direct om het antwoord gevraagd, maar schrijft een computerprogramma dat het probleem oplost en test dit stap voor stap.

De realiteit is dat AI-modellen die écht zelfstandig nadenken misschien nog ver weg zijn. Wat we nu hebben zijn indrukwekkende, maar beperkte systemen. Slim genoeg om onze mails te schrijven. Nog niet slim genoeg om ons echt te begrijpen.