Iran als tragisch testlab voor AI-oorlog
Ongekende snelheid van vernietiging
Nieuwe oorlogen zijn zelden alleen militair. Ze zijn ook testzones voor technologie. De huidige oorlog in Iran dient momenteel als een tragisch testterrein voor frontier-technologieën. In deze oorlog zien we een technologische verschuiving die tot voor kort ondenkbaar was.
In slechts vier dagen tijd slaagde het Pentagon erin om meer dan 2.000 doelwitten te bestoken. Volgens Pete Hegseth, de minister van Oorlog van de VS, was de huidige operatie tegen Iran al tweemaal zo dodelijk als de invasie in Irak in 2003 en zeven keer zo krachtig als de 12-daagse oorlog tegen Iran in juni 2025.
Deze enorme versnelling is het directe gevolg van de integratie van geavanceerde AI-systemen in de militaire operaties. Binnen het leger van de VS vormt software een soort digitaal brein tijdens operaties. Het zogenaamde Maven-systeem analyseert realtime-gegevens van het slagveld en ondersteunt de volledige aanvalsketen: van het identificeren van een doelwit tot het beoordelen van de schade na een aanval.
Wapensystemen die volledig autonoom opereren, zonder directe menselijke controle
Het systeem combineert verschillende AI-modellen om informatie te interpreteren en aanbevelingen te doen. Generatieve AI, vergelijkbaar met technologie die burgers gebruiken in kantoorwerk of onderwijs, helpt commandanten om complexe data te begrijpen en beslissingen te nemen.
Met dit systeem wordt een nieuwe kwalitatieve stap gezet. De technologie is geëvolueerd van eenvoudige datasamenvatting naar complex redeneren. Hierdoor kunnen legers op een schaal opereren die voorheen fysiek onmogelijk was voor menselijke planners. Het resultaat is een nooit gezien tempo van militaire operaties.
Het is interessant om te weten dat het Maven-systeem ontworpen werd door het softwarebedrijf Palantir. Deze firma werd opgericht door de extreemrechtse miljardair Peter Thiel en levert diensten aan de Amerikaanse immigratiedienst ICE voor het opsporen van migranten. Peter Thiel is een belangrijke geldschieter van president Trump en vicepresident JD Vance.
De mens als toeschouwer van de machine
Een cruciaal probleem bij deze razendsnelle oorlogsvoering is de rol van de menselijke factor. Hoewel militairen officieel nog steeds de uiteindelijke beslissing nemen, wordt het voor hen steeds moeilijker om de logica van de machine te controleren. Een algoritme voert miljoenen berekeningen per seconde uit die een mens onmogelijk kan verifiëren.
Experts waarschuwen dat militairen hierdoor in een positie komen waarin ze blindelings vertrouwen op de aanbevelingen van de computer. Het is psychologisch en praktisch bijna onhaalbaar om een razendsnel gegenereerd doelwit af te wijzen als de onderbouwing verborgen zit in een ondoorgrondelijk gesloten systeem. De menselijke controle wordt zo een loutere administratieve formaliteit.
Mag een machine de macht krijgen om te bepalen wie sterft?
Bovendien dreigt de volgende stap nog radicaler te worden. Sommige militaire planners willen wapensystemen die volledig autonoom opereren, zonder directe menselijke controle, de zogenaamde LAWS.
De gevolgen van deze digitale tunnelvisie zijn in Iran pijnlijk zichtbaar geworden. De verwoestende aanval op een basisschool voor meisjes in de Iraanse stad Minab, roept prangende vragen op over de verificatie van data. Volgens een rapport in de Washington Post stond de school mogelijk op een Amerikaanse doellijst die deels werd samengesteld met behulp van artificiële intelligentie.
Hoewel het onderzoek nog loopt, illustreert dit drama het levensgevaarlijke risico van doelwitten die door algoritmen zijn geselecteerd zonder degelijke menselijke screening.
Morele grenzen in een tijd van algoritmen
Naast de technische risico's is er een fundamenteel moreel bezwaar tegen het uitbesteden van beslissingen over leven en dood. Mag een machine de macht krijgen om te bepalen wie sterft? De discussie over dodelijke autonome wapensystemen (LAWS) wint aan urgentie nu de VS en China zwaar investeren in technologie die zonder menselijk ingrijpen kan doden.
Voorstanders beweren dat AI menselijke fouten kan verminderen en zo burgerslachtoffers kan voorkomen. De praktijk in Iran spreekt dat echter tegen. Met tienduizenden beschadigde gebouwen, waaronder vele duizenden woningen, lijkt de precisie van AI vooral te worden ingezet om méér te vernietigen in minder tijd, in plaats van zorgvuldiger te werk te gaan.
Het gebrek aan betrouwbaarheid van de huidige AI-modellen maakt hun inzet op het slagveld extra riskant
Zelfs techbedrijven staan (soms) op de rem. Anthropic (het bedrijf achter chatbot Claude) weigerde onlangs de volledige controle over zijn AI-modellen aan het Pentagon over te dragen voor geheim gebruik. Dit leidde tot een conflict, waarbij Washington de technologie van het bedrijf weer uit de militaire toeleveringsketen weerde.
Dringende noodzaak aan internationale regels
Het gebrek aan betrouwbaarheid van de huidige AI-modellen maakt hun inzet op het slagveld extra riskant. De systemen zijn gebaseerd op statistische waarschijnlijkheden en zijn gevoelig voor zogenaamde 'hallucinaties' (flagrante fouten). Een systeem dat onjuiste informatie verzint in een chatbot is vervelend, maar in een wapensysteem zijn de gevolgen daarvan veel erger.
Het is daarom hoog tijd voor een internationaal moratorium op het gebruik van volledig autonome wapens. De VN-werkgroep die hierover al jaren debatteert, moet nu eindelijk met bindende conclusies komen. Net zoals er een wereldwijd verbod is op chemische en biologische wapens, hebben we duidelijke grenzen nodig voor kunstmatige intelligentie in oorlogstijd.
Zonder internationale afspraken dreigt een wereld waarin machines steeds vaker bepalen wie leeft en wie sterft
De Verenigde Staten en China dragen als technologische supermachten een enorme verantwoordelijkheid. Zij moeten afspraken maken om de verspreiding van deze technologie te beperken en de menselijke verantwoordelijkheid te waarborgen. De internationale gemeenschap moet eisen dat de aanvalsketen transparant blijft en dat er altijd een mens verantwoordelijk kan worden gehouden voor elke afgevuurde kogel of raket.
Zonder strikte regulering riskeren we een toekomst waarin zwermen goedkope drones autonoom jacht maken op mensen, een scenario dat rechtstreeks uit een dystopische film zou kunnen komen. Elke nieuwe oorlog versnelt de ontwikkeling en inzet van AI op het slagveld. Zonder internationale afspraken dreigt een wereld waarin machines steeds vaker bepalen wie leeft en wie sterft.
