Foto: Sayedqudrathashimy1991 / CC BY-SA 4.0
Analyse -

Hoe AI oorlogsvoering zal veranderen

De toepassing van Artificiële Intelligentie zou oorlogsvoering grondig kunnen verandering. Verliezen we met de evolutie van generaals die legers aansturen naar computers die drones aansturen controle over de manier waarop mensen elkaar vernietigen?

vrijdag 28 juni 2024 12:08
Spread the love

 

Wist je dat de meeste soldaten tijdens grote oorlogen niet schoten?

Het is Rutger Bregman die deze opvallende vaststelling voor het brede publiek onder de aandacht bracht, maar het was al langer bekend.

Soldaten schieten niet

Slechts 15 tot 25 procent van de soldaten schoot, dat was de schokkende conclusie van het onderzoek van kolonel en historicus Samuel Marshall na Wereldoorlog II. “Het gemiddelde en gezonde individu”, zo schreef hij in Men Against Fire, “heeft zo’n innerlijke en meestal onbewuste weerstand tegen het vermoorden van een medemens dat hij niet uit vrije wil een leven zal nemen.”

Minder dan 1 procent van de Amerikaanse gevechtspiloten”, zo bleek na de oorlog, was verantwoordelijk voor bijna 40 procent van de neergeschoten vliegtuigen. De meeste piloten, aldus historicus Richard Gabriel “schoten nooit iemand neer of probeerden dat ook niet.”

De conclusie van Marshall is door verschillende onderzoeken bevestigd. Op basis van honderden foto’s van soldaten in kritieke situaties komt de socioloog Randall Collins tot de conclusie dat het vuurratio van soldaten rond de 13 tot 18 procent lag, een cijfer dat vergelijkbaar is met de schattingen van Marshall. “Mensen zijn ten diepste geneigd tot interactie en solidariteit”, aldus Collins, “en dat is wat geweld zo moeilijk maakt.”

Menselijke machines

Tot zo ver het goede nieuws. Dan nu het slechte nieuws. Nadat deze ontdekkingen naar boven kwamen, heeft men manieren gezocht en gevonden om ervoor te zorgen dat mensen toch andere mensen zouden doden.

De oplossing is redelijk eenvoudig: als (mede)menselijkheid het probleem is, dan is de oplossing om zo weinig mogelijk op mensen te moeten rekenen en zo veel mogelijk op machines. Tijdens de Tweede Wereldoorlog stierf 75 procent van de slachtoffers door bommen uit de lucht.

Kan niet alles door machines worden gedaan, dan komt het erop aan de soldaten zoveel mogelijk in machines te veranderen. Dat gebeurt door op militaire training verplicht te worden om gruwelijke beelden te bekijken en luidkeels geweld te verheerlijken en door soldaten tijdens de oorlog grote hoeveelheden drugs toe te dienen.

Op die manier is het mogelijk om de vuurratio sterk te doen stijgen, al neemt daarmee ook het aantal gevallen van posttraumatische stress net zo sterk toe.

Onmenselijke machines

Met de toepassing van Artificiële Intelligentie in oorlogen lijkt het ideaal van de menselijke moordmachine zo stilaan voorbijgestreefd. Dat een mens de trekker overhaalt, is namelijk steeds minder nodig.

Dat een mens de trekker overhaalt is steeds minder nodig

De meest zichtbare toepassing van AI in oorlog zien we wellicht bij gebruik van drones, aan beide kanten veel gebruikt in de oorlog in Oekraïne. AI stelt een drone in staat om zich op doelen te richten, zelfs als gps-signalen of de verbinding met de piloot zijn verbroken.

Het verbreken van de verbinding tussen piloot en vliegtuig zou legers binnenkort in staat moeten stellen om veel grotere aantallen goedkope munitie in te zetten. Uiteindelijk zullen zelfsturende zwermen worden ontworpen om verdedigingen te overweldigen.

Van generaals en legers naar computers en drones

Het uitschakelen van menselijke sturing door de toepassing van AI kan echter nog veel verder gaan, zo blijkt uit een analyse van The Economist. Wat de manier van oorlog voeren het meest drastisch zou kunnen gaan wijzigen zijn zogenaamde ‘beslissingsondersteuningssystemen’. Daarbij wordt AI niet enkel meer ingezet om het doelwit te raken, maar ook om het doelwit te bepalen. Dat gebeurt vandaag al door het Israëlische leger in Gaza.

Een evolutie van oorlogen met generaals die legers aansturen naar computers die drones aansturen, baart verschillende ethici en juridische experts zorgen. “De systemen die we nu hebben, kunnen vijandige bedoelingen niet herkennen”, aldus Noam Lubell van de University of Essex in The Economist.

“Ze kunnen het verschil niet zien tussen een kleine soldaat met een echt geweer en een kind met een speelgoedgeweer.” Dergelijke algoritmen “kunnen niet wettig worden gebruikt”, zo concludeert hij.

Verhouding mens-machine verandert

De snelheid waarmee AI werkt, zou de verhouding tussen mens en machine ingrijpend kunnen veranderen. Vandaag is het nog zo dat er steeds een mens nodig is om elke dodelijke beslissing op z’n minst goed te keuren. Des te complexer de AI-analyses gebeuren, des te moeilijker het wordt om er menselijke controle over te behouden, omdat die analyses voor een mens steeds moeilijker te begrijpen zijn.

Des te sneller de analyses gebeuren, des te meer menselijke tussenkomst bovendien strategisch gezien een vertraging zal betekenen die in de kaart speelt van de vijand. Als wij het niet doen, doet de vijand het; die logica dreigt alle bezwaren op basis van ethiek en internationaal recht tussen haakjes te gaan zetten.

De vraag is niet of de AI-wapenwedloop er komt, die is reeds lang bezig. De vraag is wie ze zal winnen.

Heksenmeester

De kapitalistische maatschappij “die zulke geweldige productiemiddelen te voorschijn getoverd heeft”, zo schrijven Karl Marx en Friedrich Engels in het communistisch manifest, “lijkt op een heksenmeester die de onderaardse machten niet meer beheersen kan die hij zelf opriep.”

In een wereld waarin AI ervoor dreigt te zorgen dat vernietigende oorlogen ontsnappen aan elke menselijke controle heeft dat citaat allesbehalve aan actualiteit ingeboet. Ons vermogen om de meest wonderbaarlijke zaken te produceren, staat vandaag in schril contrast met ons gebrek aan vermogen om die wonderbaarlijke zaken onder controle te krijgen en ten goede in te zetten.

Met de opkomst van AI is het debat over democratische controle over de economie meer dan ooit aan de orde. Wat ons zorgen moet baren, is niet dat de technologie zich verder ontwikkelt, wel dat dit debat nauwelijks gevoerd lijkt te worden.

Paradox

Het is een vreemde paradox. Onze kapitalistische wereld is geobsedeerd met innovatie en kampt tegelijkertijd met een groot gebrek aan verbeeldingskracht wanneer het gaat over alternatieve samenlevingsvormen.

Wanneer het gaat over het ontwerpen van technologieën om de klimaatcrisis aan te pakken, lijkt het vertrouwen in de menselijke denkkracht bijna grenzeloos. Maar wanneer het echter gaat om de mogelijkheid van een meer rationeel economisch systeem onder democratische controle, vrede of een internationale orde gebaseerd op samenwerking, verandert dat onbegrensde optimisme plots in een cynisch pessimisme.

Stel je eens voor waartoe we in staat zouden zijn, als we die logica omkeren. Wat zou er gebeuren als we alle menselijke en financiële middelen die vandaag worden geïnvesteerd in het ontwerpen van slimme moordmachines, zouden inzetten om te werken aan vrede en meer ecologische, democratische samenlevingsvormen te ontwerpen?

Dat we in staat zijn om morgen zaken te realiseren die we ons vandaag niet kunnen voorstellen, is zeker. De mogelijkheden van technologische innovatie zijn enorm. De vraag die zich steeds urgenter opdringt, is of we ze inzetten om de menselijkheid te doen floreren of om haar buiten spel te zetten.

Creative Commons

take down
the paywall
steun ons nu!