ChatGPT is eigendom van het bedrijf OpenAI. Vergelijkbare systemen zijn Claude van Anthropic, Meta AI van Meta (voorheen Facebook), Gemini van Google, Copilot van Microsoft en DeepSeek dat eigendom is van een bedrijf uit China. Dit zijn stuk voor stuk zelflerende systemen die met grote datasets worden gevoed en daar steeds nauwkeuriger en contextgevoeliger mee leren omgaan. Kenners spreken van Large Language Models: taalmodellen die, werkend volgens het principe van waarschijnlijkheid, het best mogelijke antwoord op je vragen geven. Dat gaat vaak goed, maar wat het meest waarschijnlijk lijkt hoeft nog niet waar te zien. 

Voorlopig lijken de grote technologiebedrijven vooral geïnteresseerd in het eerste. Vanuit het perspectief van brede welvaart bezien, zou het echter beter zijn als AI-systemen de arbeid ondersteunen in plaats van vervangen. Op dit moment vergroot AI de machts- en vermogensongelijkheid in de samenleving, drukt het de lonen en vloeit de rijkdom meer naar boven, naar de bezitters van AI, dan naar beneden.

Ook de psychologische dimensie van AI verdient aandacht. AI legt je constant in de watten en zal je nooit tegenspreken. Je wordt voortdurend verleid steeds meer van AI te vragen. Dat spekt de winst van Big Tech en dreigt mensen onnadenkend en goedgelovig te maken.

Behalve economische macht bezitten bedrijven als Apple, Amazon, Tesla, Nvidia, Meta, Alphabet en OpenAI politieke macht. Dankzij de controle over data, rekenkracht en infrastructuur zijn ze een steeds belangrijker rol in de politieke besluitvorming gaan spelen. Karen Hao gaat zelfs zover deze bedrijven als ‘koloniale machten’ te beschouwen, die naar de absolute heerschappij over hun domein streven.

Dat heeft geopolitieke consequenties. De mondiale machtsverhoudingen rond AI worden momenteel gedomineerd door de Verenigde Staten en China. Europa loopt daardoor het risico een afhankelijke positie in te nemen. Technologische soevereiniteit en strategische autonomie zijn dan ook urgente vraagstukken.

Morele bagger

Tot slot heeft de komst van AI sociale en juridische consequenties. AI is een emotieloos, zuiver rationeel redenerend systeem. De kwaliteit ervan hangt af van de data waarop het getraind wordt. Die data worden afhandig gemaakt van mensen die in ruil daarvoor voorlopig gratis van AI gebruik mogen maken en vaak lijdzaam moeten toezien hoe het systeem hen wegconcurreert met behulp van de kennis en data die zij geleverd hebben.

Wie is er nu aansprakelijk voor deze systemen als het misgaat? In zijn roman Culpability onderzoekt Bruce Hollinger deze kwestie aan de hand van een familie die op weg naar hun vakantiebestemming in een zelfrijdende auto een dodelijk ongeluk veroorzaakt. Zelfs als blijkt dat het zelfrijdende systeem gefaald heeft en het bedrijf dat deze software maakt juridisch verantwoordelijk is voor het auto-ongeluk, laat dat onverlet dat er mensen in de auto zaten. Ook al zijn de leden van het gezin niet juridisch verantwoordelijk, ze vinden het vreselijk wat er gebeurd is.

AI kent geen emoties en heeft geen schuldgevoel. Het boek lezend besef je dat AI hier vaak om wordt geprezen: eindelijk een intelligent handelend systeem dat geen menselijke fouten kent. Maar Hollinger maakt duidelijk dat dit ook de grote makke van het systeem is. Ja, mensen maken fouten; hun emoties zitten hen vaak in de weg. Maar het omgekeerde is niet minder waar: juist omdat AI geen emoties kent, is het blind voor wat het aanricht.

De werken van Hao en van Bender & Honna laten bovendien zien dat de zogenoemde ‘intelligentie’ van AI constant door mensen moet worden bijgestuurd om seksisme, discriminatie en racisme te voorkomen. Die uitingen zitten in de datasets waarmee deze systemen gevoed worden en moeten er achteraf worden uitgefilterd. Dat onzichtbare en vuile werk wordt voor een schamel loon opgeknapt door duizenden arbeiders in landen als Columbia, Venezuela, Kenia of India, waar vaak bittere armoede heerst en men het met de arbeidsomstandigheden niet zo nauw neemt. Zonder het werk van deze mensen zou de morele bagger die via de datasets het systeem binnenkomt er aan de buitenkant net zo hard uitkomen.

Juich- en doemverhalen

Terwijl Hao en Bender & Honna vooral op de schadelijke gevolgen van AI hier en nu wijzen en de juich- of doemverhalen over het effect van AI in de verre toekomst nauwelijks serieus nemen en meer als een reclamestunt beschouwen, laat Parmy Olson in detail zien hoe OpenAI onder druk van de commercie van een open en transparante onderneming veranderde in een bedrijf dat geen pottenkijkers duldt, zijn bevindingen geheim houdt en wetenschappers op afstand houdt. De ethische commissie binnen het bedrijf werd opgedoekt. Het winstoogmerk kreeg het primaat over de veiligheid en kwaliteit van het product.

Samenvattend is AI in potentie een geweldige tool, met name voor een goedverdienende witte man. Maar het is zeer de vraag of deze vondst de mensheid als collectief ten goede komt. Wat de auteurs duidelijk maken is dat AI op dit moment nauw verweven is met maatschappelijke verhoudingen die de tegenstellingen binnen en tussen staten verharden, het klimaat niet beter maken en het streven naar brede welvaart ondermijnen.

Wat deze boeken doen is nauwkeurig naar de mensenwereld achter de magie kijken: naar de ideeën, instituties en incentives die deze technologie voortdrijven en de koers ervan bepalen. Als je dat ziet verdwijnt de magie. Bender & Hanna hebben gelijk. Ga niet mee met al die grote juich- en doemverhalen maar kijk nauwkeurig naar wat AI hier en nu doet. De inzichten die je daaraan ontleent helpen ons “to create the future we want”.