We zitten midden in een AI-hype. Kunstmatige intelligentie wordt kritiekloos omarmd door bedrijven, burgers en overheden. Miljoenen Nederlanders gebruiken generatieve AI, zoals ChatGPT. Waar liggen de risico’s?

Roel Dobbe: Mijn grootste vrees is dat AI als wapen wordt ingezet, bijvoorbeeld om het democratische proces te beïnvloeden of om mensenrechtenactivisten te onderdrukken. Autoritaire staten gebruiken AI om ongewenste digitale uitingen te blokkeren en om dissidenten op te sporen. Mensenrechtenorganisaties zien zich hierdoor genoodzaakt om ook generatieve AI-tools te gebruiken. Maar dat brengt weer allerlei risico’s met zich mee voor cyberveiligheid en privacy, zeker als ze moeten terugvallen op gratis beschikbare tools. Het is een ongelijke strijd.

In de Verenigde Staten zie je dat AI als wapen wordt gebruikt om ons langer afhankelijk te houden van fossiele brandstoffen. Trump was nooit zo geïnteresseerd in AI, tot hij erachter kwam hoeveel datacentra ervoor gebouwd moeten worden en hoeveel energie die verbruiken – in elk geval zolang de huidige bigger is better-benadering van AI dominant is. Dankzij de AI-hype kan Trump zijn beloften aan de olie- en gasindustrie, die bijna een half miljard dollar heeft bijgedragen aan zijn verkiezingscampagne, nu inlossen. Met rampzalige gevolgen voor het klimaat.

Kim van Sparrentak: Ons kritisch en zelflerend vermogen rondom AI is belachelijk klein. Daar ligt mijn grootste zorg. We kunnen totaal niet omgaan met deze technologie. We denken veel te gauw dat AI dingen beter doet dan mensen. Bij het Toeslagenschandaal hebben we al gezien waar dat toe leidt, maar desondanks kom ik heel veel mensen tegen – ook bij overheden – van wie ik denk: jij bent best wel slim, maar je valt toch kritiekloos voor AI-hype. Het werkt goed en het is efficiënt, zeggen ze dan; waar maak je je druk om? Terwijl we al zoveel voorbeelden hebben van hoe het mis kan gaan en er ook al prima voorstellen liggen om dat tegen te gaan.

Roel: Ik zie als docent hoe snel studenten de mist in gaan met AI. Zo kwam ik in een scriptie die ik moest beoordelen mijn eigen naam tegen als coauteur van een artikel. De andere auteur zou een collega zijn. Maar met die collega heb ik nooit iets gepubliceerd. Het was een door AI gefabriceerde literatuurverwijzing. Je ziet hier dat iemand die mijn vak heeft gevolgd en dus echt een kritisch perspectief op AI heeft meekregen, toch niet in staat is om er zorgvuldig mee om te gaan.

Zijn er ook ontwikkelingen waar jullie hoop aan ontlenen?

Roel: Zeker. Wikipedia heeft dit voorjaar besloten om geen op AI gebaseerde inhoud meer toe te laten, omdat AI slordig omspringt met bronnen en soms regelrecht hallucineert. Daarmee toont Wikipedia corrigerend vermogen. Dat is hard nodig bij de omgang met AI. Ik zou vaker willen zien dat we stoppen met AI-toepassingen als we schade zien ontstaan.

Kim: Als je wilt zien wat AI doet met een encyclopedie, surf dan eens naar Grokipedia, van Elon Musk. De lemma’s daar zijn ellenlang, onzinnig en onleesbaar. Ik heb wel eens gesproken met aanhangers van Forum voor Democratie. Grokipedia geeft eenzelfde soort vibe. 

Maar je kunt met AI ook goede dingen doen. Ik werd vrolijk van een werkbezoek aan het Erasmus MC, bij mij in Rotterdam. Dankzij AI kunnen de oncologen daar veel eerder en veel sneller bepaalde kankercellen ontdekken. Het is jammer dat de miljarden die geïnvesteerd worden in AI niet allemaal naar dit soort toepassingen gaan. We zouden veel leed kunnen voorkomen. En waarschijnlijk besparen we ook veel kosten als we medische problemen eerder ontdekken.

Moeten we niet bang zijn dat de oncologen zelf de vaardigheid verliezen om kwaadaardige tumorcellen te herkennen?

Kim: Juist in dit geval maak ik me minder zorgen over het verlies aan menselijke vaardigheden door de inzet van AI. De artsen die met AI aan de slag gaan krijgen een uitgebreide training, zo werd me verteld in het Erasmus MC. Daarbij wordt benadrukt dat zij altijd eindverantwoordelijk zijn. Ze mogen zich nooit blindstaren op AI. Dat vond ik geruststellend. Natuurlijk gaat het hier om hoogopgeleide specialisten die dag en nacht bezig zijn met leven en dood. Ik durf niet te zeggen dat AI overal in de medische sector zorgvuldig wordt toegepast. 

Roel: Het voorbeeld van Kim laat zien hoe belangrijk het is om institutionele mechanismen te hebben voor het borgen van kwaliteit en veiligheid, plus een cultuur waarin mensen zich verantwoordelijk voelen. Dat zijn formele en informele randvoorwaarden voor een zorgvuldig gebruik van AI.

Zelf ben ik betrokken bij een onderzoek naar AI-taalmodellen in de gezondheidssector. Nederlandse ziekenhuizen bouwen steeds meer medische tools op basis van de modellen van OpenAI, een Amerikaanse AI-gigant. Die toepassingen worden eerst helemaal doorgeakkerd om te zien of de kwaliteit van de tools kan worden gewaarborgd. Maar vervolgens geeft OpenAI de onderliggende AI-modellen een update, waardoor een ziekenhuis al zijn tools opnieuw moet gaan controleren. Dat kost veel tijd en geld. Dit soort problemen krijg je wanneer je als ontwikkelaar van AI-tools geen grip hebt op de onderliggende, in dit geval Amerikaanse infrastructuur. 

Het is dus ook een kwestie van digitale autonomie. In de medische sector wordt steeds vaker de vraag opgeworpen of we hier in Nederland niet onze eigen modellen moeten gaan bouwen, al dan niet samen met Europese partners. Dan hebben de makers van AI-tools een leverancier die reageert op klachten en verzoeken. OpenAI doet dat niet.

Hier ligt ook een kans om taalmodellen te trainen op relevante data. De medische wereld experimenteert nu met tools voor het transcriberen van gesprekken tussen dokter en patiënt en voor het samenvatten van patiëntendossiers. Als je daarvoor modellen zoals die van OpenAI gebruikt, die op een brede dataset zijn getraind, dan loop je het risico op fouten doordat woorden in een niet-medische context een andere betekenis hebben dan in het ziekenhuis, met alle gevolgen van dien voor de patiëntveiligheid. “Grotere modellen zijn beter”, dat idee wordt sterk gepusht, maar het klopt niet. Ze bieden meer functionaliteiten, maar minder kwaliteit.

Roel, je was vorig jaar een van de initiatiefnemers van de open brief Zorgvuldig & Zorgzaam Digitaal, die werd gesteund door een brede coalitie van wetenschappers, ambtenaren, ondernemers en burgers. Zie je er iets van terug in het coalitieakkoord?

Roel: De informateur heeft de brief indertijd doorgestuurd naar de formerende partijen, maar wij zien onze benadering, die uitgaat van mens, natuur en democratie, niet terug in het coalitieakkoord. Daarin herken je wel de plannen van ondernemers en investeerders die een Amerikaanse logica volgen. Het kabinet-Jetten ziet digitalisering en AI vooral als een motor voor economische groei. Niet voor niets is de coördinerend staatssecretaris ondergebracht bij het ministerie van Economische Zaken. Onze brief heeft wel de maatschappelijke discussie aangewakkerd, denk ik. 

Het initiatief zal nu vanuit de Kamer moeten komen. Die heeft in maart unaniem een motie van Don Ceder (ChristenUnie) en Barbara Kathmann (PRO) aangenomen waarin gevraagd wordt om een meerjarige digitaliseringsagenda, op basis van eerder geformuleerd beleid en Kamermoties. Dat besluit kunnen Kamerleden – en andere bewindslieden dan die van Economische Zaken – aangrijpen om beleid en investeringen veel steviger te stoelen op rechtsstaat, democratie, brede welvaart en klimaat.

Laat ze vooral ook onderwijzers, zorgpersoneel, patiëntenfederaties enzovoorts aan tafel uitnodigen, om de concrete impact van digitalisering te bespreken, plus de verwachtingen rond AI. Gaan we uit van een puur commercieel model, of kunnen we de behoeften en de middelen van verschillende sectoren poolen om, daar waar het echt waarde toevoegt, van AI een soort nutsvoorziening te maken, met modellen zoals GPT-NL die onder democratisch beheer staan? Hoeveel rekenkracht hebben we dan écht nodig? Kunnen we met de bestaande datacentra toe? Zo niet, kunnen we dan de krachten bundelen in Europa?

Roel: Zo’n federatieve constructie, daar passen ook andere economische modellen bij, zoals steward ownership. Zie bijvoorbeeld NextCloud, een Europees samenwerkingsverband dat een alternatief biedt voor Microsoft Teams en Google Workspace. De open standaarden worden beheerd door een stichting. De ondernemers en investeerders binnen NextCloud kunnen wel geld verdienen, maar er geldt een limiet voor hun winst. Ik wil meer van dit soort initiatieven zien. Zo creëren we een bloeiend tech-ecosysteem waarin het mkb volop kan meedraaien en democratische controle over zaken als kwaliteit en veiligheid nadrukkelijker geborgd is. Omdat alle software interoperabel is, kunnen klanten eenvoudig van aanbieder switchen. Dit lijkt me een mooi streven voor Progressief Nederland.

Kim: Ik ben pro!

Verklaart het beeld van een AI-race waarom de Europese Commissie heeft voorgesteld om de Europese AI Act af te zwakken?

Kim: Dat was vooral een knieval voor Trump, de opperlobbyist van de techbroligarchie. Daarnaast wordt in Duitsland de onvrede over de bureaucratie in dat land op Europese wetten zoals de AI Act geprojecteerd – ten onrechte. Aan de twee belangrijkste afzwakkingsvoorstellen van de Commissie hebben we als Europees Parlement geen steun gegeven. De onderhandelingen zijn nu afgerond, na een absurde vertragingsmanoeuvre van de Duitse bondskanselier Merz en Commissievoorzitter Von der Leyen om de Duitse industrie ter wille te zijn. Een aantal bedrijven wilde coûte que coûte voorkomen dat producten waar AI in zit, van medische producten tot speelgoed, onder de verplichting zouden vallen om de risico’s van AI te toetsen – denk aan vooroordelen of manipulatie. Uiteindelijk zijn alleen machines uitgezonderd van de AI Act, maar met een heel pak aan voorwaarden en waarborgen, waardoor we toch met een gerust hart industriële machines met AI erin kunnen blijven gebruiken. 

Bovendien is het me gelukt om een verbod op ‘uitkleed-apps’ toe te voegen aan de wet. Daar ben ik heel trots op.

Roel: Je hoort de tegenstanders van AI-regulering steeds zeggen dat regelgeving innovatie in de weg staat. Dat is een misvatting. Regelgeving is juist cruciaal voor kwaliteit en veiligheid. Kijk naar de luchtvaart, kijk naar medische technologie.

Zijn jullie bezorgd over de impact van AI op de democratie?

Kim: Het democratisch debat wordt geteisterd door desinformatie. Op zich is desinformatie van alle tijden, maar deze is nu veel makkelijker te verspreiden via apparaten die we de hele dag bij ons hebben en waar we ook nog eens lichtelijk verslaafd aan zijn. En dankzij algoritmes en AI kunnen misleidende boodschappen ook nog eens makkelijker toegesneden worden op de beoogde doelgroep. Eigenlijk hebben we allemaal een manipulatiemachine op zak. 

Dus ja, ik maak me zorgen over onze democratie. Te meer omdat steeds meer mensen denken dat je besluiten beter kunt overlaten aan AI dan aan mensen. In Albanië hebben ze nota bene een chatbot tot minister benoemd. Democratie draait juist om menselijk contact, om begrip en onbegrip, om feiten én emoties. Je moet er samen uitkomen.

Roel: Die ontmenselijking vloeit voort uit ideologieën die populair zijn in de techwereld, zoals het transhumanisme en het longtermisme. Zo iemand als Michiel Bakker, coauteur van het Nationaal AI Deltaplan dat veel invloed heeft gehad op het coalitieakkoord, zegt: mensen zijn biologische computers, en ik zie geen enkele reden waarom niet-biologische computers niet in staat zouden zijn om alles te doen wat mensen doen. Dan heb je het dus ook over sociale relaties aangaan, debat voeren met elkaar, democratie bedrijven. En daar worden door naïeve wetenschappers inderdaad allerlei AI-modellen voor bedacht.

Over naïviteit gesproken: een van de laatste niet-gecorrumpeerde Amerikaanse politici, Bernie Sanders, publiceerde dit voorjaar een video waarin hij in gesprek ging met de chatbot Claude van Anthropic, over de privacyrisico’s van AI. Daarmee liep hij in een val, want Claude is zo getraind dat ie vertelt wat een gebruiker wil horen. Als je iemand anders voor die chatbot zet, komen er waarschijnlijk andere antwoorden uit. En geen van die antwoorden is geverifieerd. 

Het dieperliggende probleem is dat Sanders een technologie legitimeert van een bedrijf dat zegt zich te bekommeren om de impact van AI op de rechtsstaat, maar tegelijkertijd die rechtsstaat op allerlei plekken aan z’n laars lapt, ook in de toeleveringsketen. 

De hele AI-industrie is op uitbuiting gebaseerd. Uitbuiting van journalisten, wetenschappers en kunstenaars, wier werk zonder toestemming wordt gebruikt om de AI-modellen mee te trainen. Uitbuiting van mensen in lagelonenlanden, die data moeten zuiveren van akelige inhoud. Uitbuiting van de aarde, door het overmatige gebruik van grondstoffen, energie en water voor de opslag en verwerking van data.

Kim: Anthropic zegt tegen de regering-Trump: je mag onze technologie niet tegen Amerikaanse burgers gebruiken. Zover reikt de rechtsstatelijkheid. 

Roel: Precies. Als het gaat om burgers van andere landen, dan geldt: We are patriots.

Kim: En die anderen zijn dus niet alleen Iraniërs. Dat zijn ook wij.

Hoe pakt AI uit op de werkvloer? We zien dat sommige werknemers hun baan verliezen en dat het werk voor anderen stressvoller wordt.

Kim: Inderdaad. Dat bewijst hoe belangrijk de democratisering van de economie is, waar we als progressieve beweging al lang voor ijveren. Meer zeggenschap voor werknemers. Meedelen in de winsten van bedrijven. Het is echt zonde dat we dat niet hebben kunnen verwezenlijken voordat AI werd losgelaten op de werkvloer.

De introductie van AI bij personeelsmanagement wordt vaak gepresenteerd als een simpele update. Dat je computer voortaan bijhoudt hoe snel je je e-mails typt en of je wel lang genoeg achter je beeldscherm blijft zitten, dat is gewoon voortschrijdende technologie, zegt men dan. Daar hoeft de ondernemingsraad niet mee te bemoeien. Maar stel je voor dat dit soort gegevens ineens zouden worden bijgehouden door iemand die naast je bureau staat. Daar zou enorme heisa over ontstaan.

Sommige werkprocessen gaan inderdaad sneller dankzij AI. Dan is er minder menselijke arbeid nodig. We zouden dus eigenlijk moeten bespreken hoe we daar allemaal van kunnen profiteren. Allemaal een dagje minder werken, zou ik dan zeggen. Een vierdaagse werkweek met behoud van loon, want de productie blijft gelijk.

Maar helaas zitten we in de eindfase van het hyperkapitalisme. AI gaat een paar mensen heel erg rijk maken, terwijl veel anderen saai werk moeten doen waar ze misschien ook nog wel minder voor betaald krijgen. Het schrijven van prompts voor AI, het ondersteunen van robots, in plaats van zelf dingen bedenken en maken. Je hoort al steeds meer mensen klagen over hersenmist omdat ze moeten werken met technologie die ze niet begrijpen, of over overbelasting omdat ze voortdurend moeten checken wat hun AI-agenten allemaal uitvoeren en niet eens pauze kunnen nemen.

Een fundamentele discussie over de verdeling van macht binnen bedrijven, over de rechten van werkenden, die is harder nodig dan ooit. Maar misschien zijn we al te laat.

Roel: Ik betwijfel of AI menselijke arbeid gaat uitsparen. Er zijn steeds meer onderzoeken die laten zien dat de output er niet beter van wordt. Menselijke checks blijven nodig, terwijl het vermogen en de bereidheid van mensen om zelf te denken juist afneemt. Automation bias, waarbij mensen niet langer hun eigen oordeel volgen maar blindelings vertrouwen op AI, ondermijnt de kwaliteit van wat we produceren.

Ik zou dus uitkijken met een discussie over hoe we de winsten van AI gaan verdelen. Voor je het weet legitimeer je allerlei praktijken die arbeid ontmenselijken en de kwaliteit van allerlei belangrijke processen verslechteren.

Digitale autonomie, in Nederland of in Europa, gaan we dat nog meemaken?

Kim: In elk geval wordt de discussie over loskomen van Big Tech nu volop gevoerd. Ik kom niemand tegen die zegt: ach, wat maakt het nu uit of we DigiD door de Amerikanen laten beheren of niet. Iedereen beseft wel dat onze afhankelijkheid van de VS grote risico’s met zich meebrengt. 

Tegelijk is er veel angst om daadwerkelijk stappen te zetten. In het Europarlement zijn de christendemocraten bang om Trump voor het hoofd te stoten, omdat dat misschien repercussies heeft voor het Europese bedrijfsleven. Het wordt dus erg spannend. De lobby is keihard gaande. Heel Brussel hangt vol met affiches waarop Amazon uitlegt waarom het cruciaal is voor het Europese bedrijfsleven. 

Er is nu discussie over een puntensysteem voor digitale soevereiniteit, dat bijvoorbeeld bij overheidsbestedingen kan worden gebruikt. De maximumscore is tien punten. Als je een Europees bedrijf bent, levert dat één punt op. Dat betekent dus dat een Amerikaanse techbedrijf alsnog negen punten kan halen en als beste uit de bus kan komen. Zo komen we nergens. Het is sovereignty washing.

Roel: In deze kwestie ben ik de optimist. Als Nederlandse en Europese spelers kennis delen en de krachten bundelen, zoals bij NextCloud gebeurt, kunnen sommige alternatieven voor Big Tech snel doorbreken. Daarbij is het inderdaad belangrijk dat overheden een groter deel van het eigen budget investeren in deze alternatieven en de juiste wetgeving aannemen. 

Op andere terreinen, zoals het uitbouwen van niet-commerciële platforms die samen een alternatief bieden voor Facebook of TikTok, is de transitie echt een zaak van lange adem. Als bestuurslid van PublicSpaces, een netwerk van publieke organisaties die al acht jaar samen werken aan een internet gebaseerd op publieke waarden, weet ik dat maar al te goed. Een bottom-up benadering, met ruimte voor experimenten, is cruciaal om tot ethische alternatieven te komen. Die alternatieve platforms, onder publiek en maatschappelijk beheer, zouden al samenwerkend in een federatief model een soort nutsvoorziening kunnen gaan vormen.

Kim: Als we de Amerikaanse en Chinese socialemediaplatforms dwingen om hun algoritmes minder verslavend te maken, krijgen ethische Europese alternatieven al meer kans. Eindeloos scrollen, ongevraagde notificaties – ik was de eerste Europese politicus die deze praktijken aan de kaak stelde. Het heeft ertoe geleid dat de Europese Commissie eind dit jaar een Digital Fairness Act gaat voorstellen, die het verslavend ontwerp van platforms aan banden moet leggen.

Ik zou ook graag zien dat de EU investeert in het federatieve model van samenwerkende en interoperabele platforms dat Roel bepleit. En in lokale journalistiek, want die heeft het moeilijk nu veel advertentiegeld niet langer naar kranten maar naar sociale media gaat. De journalisten van lokale media zouden een rol kunnen spelen bij het opleiden van mensen tot moderator van een federatief platform, met steun van de overheid. 

Helaas vallen dit soort voorstellen tegen desinformatie dood in de debatten die ik met mijn medeparlementariërs voer over het Commissievoorstel voor een Democracy Shield, dat toch al weinig om het lijf heeft. Ik denk dan: probéér het op z’n minst.

Roel: Hier zie je het belang van een grondrecht op eerlijke en betrouwbare informatie, waarvoor Daan Roovers zich in navolging van de Duitse filosoof Habermas sterk maakt. Een overheid die sociale grondrechten erkent, moet ook investeren in de instituties die deze rechten verwezenlijken, zoals onafhankelijke journalistieke media.