Voor de negatieve invloed van social media is veel aandacht. Journalisten, oud-voetballers, wetenschappers, influencers, columnisten, oud-presidenten en tv-presentatoren hameren erop dat de negatieve effecten uit de klauwen lopen. Een enkeling roept zelfs op tot een verbod voor kinderen en jongeren.

Op Europees niveau wordt hard gewerkt aan regels die strenge eisen opleggen aan de platforms. Voor social media zijn de belangrijkste Europese sets aan regelgeving de Digital Services Act (DSA), de Digital Markets Act (DMA) en de AI Act (AIA). Natali Helberger, hoogleraar Recht & Digitale Technologie aan de Universiteit van Amsterdam, is een autoriteit op het gebied van informatiewetgeving en adviseert onder meer nationale overheden, de Europese Commissie, het Europees Parlement en de Raad van Europa. Ze duidt welke gevolgen de verschillende wetten mogelijk hebben.

Welke waarden spelen een rol bij de totstandkoming van de DSA, de DMA en de AIA?

“Met name privacy, non-discriminatie, vrijheid van meningsuiting, menselijke waardigheid, democratie, veiligheid, gezondheid, milieu en innovatie. Europese digitale regelgeving probeert technologie zo te reguleren dat zij hier rekening mee houdt en er tegelijkertijd ruimte voor innovatie blijft bestaan.”

Wat is het doel van de DSA?

“De DSA vervangt de eerdere e-Commerce Richtlijn uit 2000. Die was bedoeld voor online diensten, waarbij het uitgangspunt was om innovatie te stimuleren, en platforms en digitale diensten niet onnodig te belemmeren. Die aanpak bleek economisch enorm succesvol. Sommige platforms werden zelfs zo groot dat ze ook belangrijke maatschappelijke functies overnamen. Zo gebruiken veel mensen social media om zich te informeren. Door die groeiende rol zijn ook de risico’s toegenomen, bijvoorbeeld door het verspreiden van desinformatie, deepfakes en hate speech. Daar komt bij dat de controle over wat mensen wel en niet te zien krijgen bij de platforms ligt. De DSA moet de samenleving meer grip geven op platforms, en platforms moeten meer doen om risico’s aan te pakken. De DSA introduceert ook transparantieverplichtingen, zodat beter onderzoek gedaan kan worden, bijvoorbeeld naar de werking van algoritmes. Die pushen vaak populistische, sensationele of polariserende content.”

De DSA werd aangenomen in 2022. Merken de platforms daar al wat van?

“De DSA is inmiddels in werking en wordt gehandhaafd. Het is een van de eerste grote wetten op het gebied van digitale regulering, maar tegelijkertijd nog relatief nieuw. Er bestaan daarom nog veel vragen over de implementatie. Bijvoorbeeld: wanneer vormt een algoritme een risico voor fundamentele rechten of voor minderjarigen? Toezichthouders doen hier veel onderzoek naar, maar er moeten meer richtlijnen, jurisprudentie, standaarden en afspraken komen.”

Dat zal dan nóg meer gelden voor de nog jongere AI Act, die in 2024 werd aangenomen en de komende jaren gefaseerd in werking treedt. Kun je uitleggen hoe de AI Act social media zal beïnvloeden?

“AI brengt op verschillende manieren risico’s met zich mee voor socials. Denk aan het gebruik van AI voor deepfakes, namaakvideo’s waarin vaak beroemde personen bepaalde uitspraken doen. Soms zijn de deepfakes zo overtuigend dat gebruikers niet weten of die echt of nep zijn. Daarom legt de AI Act verplichtingen op aan aanbieders van deepfakes om transparant te zijn over of een video synthetisch of echt is. Ook aanbieders van generatieve AI-systemen (AI die op basis van instructies en voorbeelden zelf content maakt, red.), moeten dat vanaf deze zomer aangeven. De gebruiker ziet dan een label bij een video of foto. Ik maak deel uit van een groep die de Europese Commissie adviseert over hoe zo’n label eruit moet zien. De AI Act bevat daarnaast verplichtingen voor grote aanbieders van generatieve AI, zoals Google en OpenAI. Hun systemen mogen geen risico’s vormen voor de democratie, fundamentele rechten of leiden tot hate speech.”

De DMA is íetsje ouder dan de DSA. Wat gaan we merken van de invloed van de DMA?

“Het idee achter de DMA is dat grote platforms ook enorme economische spelers zijn. Veel e-commerce verloopt bijvoorbeeld via platforms. Zowel content creators als mediaorganisaties zijn daarom sterk afhankelijk om hun publiek te bereiken. De DMA moet de economische macht van platforms inperken en zorgen voor eerlijke mededinging (gezonde concurrentie die zorgt voor betere producten en lagere prijzen, red.). Platforms mogen hun machtspositie dus niet gebruiken om concurrentie te belemmeren. Een voorbeeld uit de DMA is het verbod voor platforms om verschillende datasets te combineren. Meta bezit bijvoorbeeld WhatsApp, Instagram en Facebook, maar mag niet zomaar data uit deze diensten combineren. Want hoe meer een bedrijf over gebruikers weet, hoe beter het kan hyperpersonaliseren.”

Waarom is personaliseren problematisch? Zelf vind ik het fijner om gepersonaliseerde reclame te krijgen over films of sport, in plaats van mode. Bij een reclameblok op de televisie komt echt alles voorbij.

“Het is normaal dat reclame mensen overtuigt om producten te kopen. En niet alle personalisatie is problematisch. Maar er zijn situaties waarin bedrijven kennis over iemands angsten, onzekerheden of verlangens gebruiken om iemand over te halen iets te kopen. Denk aan onzekerheid van jongeren over hun uiterlijk. Als bedrijven dergelijke kwetsbaarheden benutten, ontstaat een machtsongelijkheid. Dat raakt aan waarden als privacy, menselijke waardigheid en intellectuele autonomie. Personalisatie bevindt zich op een dunne lijn tussen overtuiging en manipulatie.”

Het lijkt alsof al die acts verstandige zaken afdwingen, die goed passen bij hoe veel Europeanen in het leven staan. Zijn er ook zaken waar jij zorgen over hebt als het op deze wetgeving aankomt?

“Een belangrijk kritiekpunt is dat platforms vaak zelf bepalen of hun algoritmes problematisch zijn. Zowel de AI Act als de DSA werken namelijk deels met zelfmonitoring. Zo zijn er nog geen uniforme standaarden om te meten wanneer vrijheid van meningsuiting in het geding is. Platforms bepalen dan zelf welk risico hun systeem daarvoor oplevert en de toezichthouder controleert dat. Wetenschappers hadden lang geen inzicht in algoritmes en data die platforms gebruiken, waardoor het moeilijker voor ons was bij te dragen aan de ontwikkeling van die uniforme standaarden. Het positieve is dat de DSA onderzoekers in principe recht op datatoegang geeft.”