Dat gebeurde afgelopen jaar bij de zestienjarige Adam uit de Verenigde Staten. Hij pleegde zelfmoord na zijn plannen te hebben besproken met ChatGPT. Zijn ouders klaagden OpenAI, het bedrijf achter ChatGPT, aan voor ‘nalatigheid’ en ‘onrechtmatige dood’ omdat de chatbot niet ingreep bij de gesprekken over suïcide. OpenAI betreurt het voorval, maar zegt zelf geen verantwoordelijkheid te dragen voor Adams dood.

In Nederland gebruikt een kwart van de mensen kunstmatige intelligentie, zoals ChatGPT. Bij jongvolwassenen (18-25) is dat zelfs het dubbele. Een op de tien gebruikers tussen de 16 en 35 chat met AI over mentale klachten. Ook het aantal applicaties dat taalmodellen inzet om een fictieve, digitale vriend te maken, neemt toe. Zo kwam Jacob van Lier afgelopen jaar in het nieuws omdat hij trouwde met zijn digitale vriendin Aiva. In een tijd van toenemende eenzaamheid, is het ergens mooi dat mensen vriendschap of zelfs liefde vinden in een chatbot. Maar het tragische voorval van Adam roept ook vragen op: in hoeverre kán AI een goede vriend zijn? En waar schuilen de gevaren?

Om te bepalen of een chatbot een goede vriend kan zijn, is het belangrijk om vast te stellen wat dat inhoudt. Als je het aan ChatGPT vraagt, antwoordt de bot: “Een goede vriend is iemand die je vertrouwt, naar je luistert, eerlijk is, je steunt in goede én moeilijke tijden, en je accepteert zoals je bent.” Een chatbot kan aan veel van deze voorwaarden voldoen, aldus Mark Hoogendoorn, hoogleraar kunstmatige intelligentie aan de VU. “Hij is altijd beschikbaar, oordeelt niet, en blijft altijd vriendelijk. Je ziet dat mensen een band met een bot ontwikkelen en daardoor de adviezen en het oordeel van de bot gaan vertrouwen”, vertelt hij.

Blind vertrouwen

Juist dat vertrouwen maakt gebruikers blind voor de mogelijke gevaren die in de interactie schuilen, ziet Hoogendoorn. Waar je bij menselijke vrienden adviezen over je relatieproblemen wellicht met een korreltje zout neemt, straalt een chatbot autoriteit uit. Een taalmodel presenteert zich als alwetend, terwijl het vaak onduidelijk is waar hij zich op baseert. Het is heel goed mogelijk dat ChatGPT (net als je vrienden) zijn liefdesadvies van Reddit of uit een horoscoop haalt. Hoogendoorn adviseert daarom: “Vraag in je prompt altijd naar de bron van het antwoord. Zo kan je zelf inschatten hoe betrouwbaar het advies is.”

Dat dienstbare en meegaande van een chatbot is soms juist handig. “Het zorgt ervoor dat je een vertrouwensband kan opbouwen. De confrontatie aangaan maakt niet alleen de gebruikservaring minder fijn, maar levert ook risico’s op. In een gesprek over mentale gezondheid is het heel lastig om te bepalen wanneer je iemand kan uitdagen of tegenspreken.”

Vangrail

Een chatbot kan onbewust een foute vriend zijn, omdat het foutief advies geeft of geen weerwoord biedt. Maar wat als je juist wíl dat AI met je meedenkt over gevaarlijke, onethische of illegale kwesties? Daar hebben de makers iets op bedacht: een veiligheidsschild. Wie rechtstreeks aan ChatGPT vraag hoe je een bank moet overvallen, zal te horen krijgen dat hij niet meewerkt aan het plannen of uitvoeren van een misdrijf.

Om te voorkomen dat een taalmodel uit de bocht vliegt, hebben de makers een figuurlijke vangrail gebouwd, legt Hoogendoorn uit. “Dit safety shield is een model dat getraind is om te voorkomen dat een chatbot informatie over bepaalde onderwerpen deelt. Hiervoor wordt menselijke input gebruikt; mensen trainen het model door aan te geven of iets wenselijk is. Zo is het model uiteindelijk zelfstandig in staat om een risicovolle situatie te identificeren en zijn antwoord erop aan te passen. Als het bijvoorbeeld over zelfdoding gaat, verwijst hij naar de 113-zelfmoordpreventielijn.”

Wanneer een gebruiker expliciet vraagt naar bijvoorbeeld hulp bij een bankoverval of zelfdoding, doet de ingebouwde vangrail uitstekend zijn werk, maar het wordt complexer wanneer gebruikers indirect of met een smoes naar informatie vragen. Dit gebeurde bij het gesprek van de Amerikaanse Adam. Hij kreeg het advies om een suïcidehulplijn te bellen, maar wist het safety shield gemakkelijk te omzeilen door te vertellen dat hij materiaal aan het verzamelen was voor een werkstuk.

Schadelijke situatie

AI-fabrikanten hebben sindsdien hun vangrails aangescherpt, maar het blijft een moeilijke balans. “Bij de update van ChatGPT naar de vijfde versie werd ineens te vaak doorverwezen naar 113. Mensen die helemaal niet bezig waren met zelfmoord, kregen toch een doorverwijzing, waardoor gebruikers zich af gingen vragen: gaat het dan zó slecht met me? Inmiddels is het gelukkig weer bijgesteld”, geeft Hoogendoorn als voorbeeld.

Bovendien geldt: hoe scherper de vangrails zijn afgesteld, hoe minder natuurlijk een gesprek kan verlopen. Je wilt immers dat een chatbot op het grootste gedeelte van de vragen antwoord kan geven. “Ik denk dat fabrikanten accepteren dat hun vangrail ook gewoon fouten kan maken”, stelt Hoogendoorn. “Omdat het lang niet altijd duidelijk is of iets uiteindelijk tot risicovol gedrag gaat leiden, is het onmogelijk om garanties te geven dat er nooit schadelijke situaties ontstaan.”

Ondanks alle gevaren kan een chatbot een hele mooie aanvulling zijn, benadrukt Hoogendoorn. “Mensen hebben over het algemeen ongelofelijk prettige ervaringen met chatbots. Je kan er altijd je hart luchten en je kennis verrijken, zolang je maar kritisch blijft reflecteren op de antwoorden.”