Ik behoor tot de snel slinkende groep Nederlanders die nog nooit ChatGPT heeft gebruikt. Denken en communiceren wil ik niet uitbesteden aan een stochastische papegaai, die woorden aan elkaar plakt op basis van kansberekening. Ik troost me met de voorspelling van een Amerikaanse hoogleraar computerwetenschap dat mensen die boeken lezen en zélf schrijven van waarde zullen blijken tegen de tijd dat alle anderen hun brein gefrituurd hebben in AI-drab.

Mijn weerzin tegen AI wordt goed verwoord door de kritische techdenkers die ons waarschuwen – ook in dit Helling-dossier – om niet in het frame van een AI-race te stappen. Want dan worden alle spelregels voor AI een blok aan het been.

Het gebruik van onbemenste vlieg- en voertuigen – voor verkenning, aanval en verdediging, maar ook voor bevoorrading en evacuatie – spaart levens van Oekraïense soldaten. Aan de kant van de agressor valt inmiddels driekwart van de doden en gewonden door dronegeweld.

AI speelt een steeds grotere rol in de drone-oorlog. Door AI ondersteunde software geeft commandanten een actueel overzicht van het slagveld. AI helpt dronepiloten om doelwitten te selecteren. Dankzij AI worden drones ongevoelig voor de stoorzenders van de vijand: zij vinden zelf hun weg naar het mikpunt. Drones vliegen nu ook in zwermen, waarbij zij onderling afstemmen welke drone zich op het doelwit stort – ook weer dankzij AI.

Ook de Russische drones worden slimmer en sneller. Dat dwingt Oekraïne om te blijven innoveren. Daarbij zullen drones almaar zelfstandiger opereren, met steeds minder menselijke controle – alleen al omdat Oekraïne dronepiloten tekort komt.

Moeten we ons er nu bij neerleggen dat anything goes bij de inzet van AI op het slagveld? Nee, maar de Oekraïners zijn de laatsten die we mogen verwijten dat ze AI in de strijd gooien. Verraden door Trump en alleen op afstand gesteund door Europese bondgenoten, zetten zij alles op alles om hun recht op zelfbeschikking te verdedigen. Hun vindingrijkheid en sneuvelbereidheid bepalen niet alleen of Oekraïne blijft voortbestaan, maar ook of democratie en recht kunnen overleven in een wereld vol agressieve autocraten.

Stempelmachine

“De toekomst van oorlog is autonoom”, voorspelt de Oekraïense defensieminister Mykhailo Fedorov. Maar vooralsnog staat de regering van Oekraïne de krijgsmacht niet toe om volledig autonome drones in te zetten, behalve voor testdoeleinden. In VN-verband erkennen Kyivs diplomaten de risico’s van dit soort drones, alleen al voor de eigen troepen en de burgerbevolking. Wanneer de VN spreken over het aan banden leggen van autonome wapens en van AI op het krijgstoneel, ligt Oekraïne niet dwars. 

Israël doet dat wel. Tijdens zijn genocidale oorlog tegen Gaza gebruikte het Israëlische leger een AI-systeem, Lavender, dat duizenden doelwitten kon identificeren en lokaliseren. Bij het doden van één vermeend Hamas-lid nam het systeem tientallen burgerslachtoffers voor lief. Een van de militairen die Lavender gebruikte, zei daarover: “Ik besteedde aan elk doelwit 20 seconden, en dat deed ik elke dag tientallen keren. Als mens had ik geen enkele toegevoegde waarde, behalve als stempelmachine. Het bespaarde me veel tijd.”

Het afvuren van dodelijke wapens zonder betekenisvolle menselijke controle is een schending van het internationaal humanitair recht, zo wordt breed erkend. Daarom mag bijvoorbeeld het Defensiefonds van de Europese Unie niet worden aangewend voor de ontwikkeling van volledig autonome dodelijke wapens. Pakweg 130 landen hebben zich uitgesproken voor een mondiaal verdrag dat de inzet van autonome wapens aan nadere regels bindt. Maar naast Israël liggen ook de VS en Rusland dwars binnen de VN. Vooralsnog lijken niet-bindende richtsnoeren het hoogst haalbare voor de statengemeenschap.

Zulke richtsnoeren zijn niet per se krachteloos. Want niet alleen mensenrechtenactivisten en juristen maken zich zorgen over killer robots en AI-systemen zoals Lavender. Ook veel militairen die met AI werken, snakken naar maatstaven voor rechtmatig gebruik. Ze willen niet het risico lopen dat ze ooit ter verantwoording worden geroepen vanwege dodelijke missers van een AI-systeem dat voor zijn gebruikers een black box is – onnavolgbaar in zijn beslissingen.

Datzelfde geldt voor de ontwikkelaars van AI-modellen. “Stel je voor dat een drone een schoolbus vernietigt, en de enige verklaring die we voor die fout kunnen geven, is dat een AI-systeem hem daarheen heeft gestuurd”, zo verwoordt de New York Times hun nachtmerrie. Juist in de VS, waar de civiele rechtszaken over door chatbots veroorzaakte schade zich opstapelen, zou het verzet tegen ongebreidelde AI-oorlogsvoering wel eens kunnen groeien.

Daarmee zijn de dilemma’s nog niet de wereld uit. Wat te doen met een tegenstander zoals Rusland, die lak heeft aan recht en ethiek? Bij Helsing, een Duitse dronefabrikant die zich expliciet ten doel stelt om de democratie te verdedigen, zijn ze daarover duidelijk: “Democratieën moeten niet streven naar volledig autonome wapensystemen. Er moet altijd een mens bij betrokken blijven. Dat betekent soms dat de besluitvorming enigszins wordt vertraagd. Dat moet je compenseren met superieure technologie. Misschien een hogere hit rate, misschien snellere algoritmen.”

Superieure technologie blijft alleen superieur als je sneller innoveert dan je tegenstander. Dus toch een AI-race…

Kies de juiste race

Zijn de critici van de AI-race nu af? Nee. Zonder spelregels, zonder vertraging en bezinning, dreigt AI veel kapot te maken. “AI-gebruik verhindert aantoonbaar het leren van studenten en tast het vermogen tot kritisch denken aan”, zo waarschuwen 1700 academici. Dat ligt niet anders voor scholieren, of voor volwassenen. 

AI-chatbots praten ons naar de mond en geven zelden tegengas. Daardoor worden we asocialer, zo blijkt uit onderzoek.

Chatbots willen onze aandacht vasthouden, net als sociale media, maar dagen ons niet uit. De moeite die het kost om informatie te ordenen en te toetsen, een samenhangend betoog te schrijven, een onderbouwde mening te formuleren, je te verplaatsen in een gesprekspartner of geliefde en verschillen te overbruggen, die frictie neemt AI weg. AI dreigt ons gemakzuchtig, goedgelovig en narcistisch te maken. Dat ondermijnt onze menselijke creativiteit, onze democratie, ons sociale weefsel, onze veerkracht en daarmee onze veiligheid. Zie hoeveel ellende één onbesuisde narcist in het Witte Huis kan aanrichten.

Voor onze militaire veiligheid hebben we niet per se gigantische AI-modellen nodig, à la ChatGPT, die hun data uit alle hoeken van het internet bijeenschrapen. Zulke modellen zijn kwetsbaar voor vervuiling, hallucinaties en manipulatie – een schoolbus wordt dan bijvoorbeeld een legervoertuig. De meest waardevolle data voor onze krijgsmacht zijn die welke Oekraïne op het slagveld verzamelt. Laat Europa een betrouwbare bondgenoot van Oekraïne blijven, zodat Kyiv die data met ons blijft delen.

De ene AI-race is de andere niet. We hoeven niet aan alle races mee te doen. De AI tools die onze militairen nodig hebben, moeten we onze kids niet in handen geven, of aanroepen voor relatieadvies. We moeten de juiste race kiezen.