VN-secretaris-generaal António Guterres verklaarde op 11 november 2018: “Stelt u zich eens de gevolgen voor van een autonoom systeem dat in staat is zelfstandig mensen op te sporen en aan te vallen. Ik nodig de staten uit deze politiek onaanvaardbare en moreel verwerpelijke wapens te verbieden”.

Deze zeer alarmerende woorden van Guterres verwijzen naar een categorie wapens die gemeenzaam “killer robots” worden genoemd. Hoewel deze wapens nog niet bestaan, roepen zij reeds een steeds groter wordende weerzin op bij de internationale gemeenschap en bij het maatschappelijk middenveld.

Reeds drie landen (Oostenrijk, Brazilië en Chili) riepen in augustus 2018 op om te “onderhandelen over een bindend juridisch instrument om een betekenisvolle controle te verzekeren op de kritische functies van autonome dodelijke wapens”.

Er is sindsdien een brede consensus ontstaan onder meerdere staten over de noodzaak van een bepaalde vorm van menselijke controle tijdens de uitoefening van geweld. Daarom zouden de twee eerstkomende jaren wel eens cruciaal kunnen zijn.

Waarover gaat dit precies? Waarom deze wapens verbieden? Hoe kan men daarbij tewerk gaan? De bedoeling van deze toelichting is te overlopen wat we reeds van deze wapens weten en van de aangehaalde redenen om ze te verbieden. Daarna volgt een overzicht van de meest recente diplomatieke ontwikkelingen on de richting van een verdrag voor het verbod op killer robots.

Wat is een killer robot?

Het Internationaal Comité van het Rode Kruis heeft begin 2014 een algemene definitie voorgesteld die killer robots omschrijft als “wapens die doelwitten kunnen uitkiezen en aanvallen op zelfstandige wijze, d.w.z. met een autonomie in “de kritische functies” van onderschepping, follow-up, selectie en aanval van doelwitten”. Het zou met andere woorden gaan over volledig autonome wapens.

De MQ-1L Predator drone (‘roofdier’). Foto: US Air Force/Public Domain

De campagne tegen killer robots roept op om “positieve engagementen aan te gaan die bijdragen tot de garantie van betekenisvolle menselijke controle op het gebruik van alle systemen die doelwitten uitkiezen en aanvallen”.

Meerdere processen uit het verleden die geleid hebben tot verdragen inzake de bewapeningscontrole lieten de uitwerking van dergelijke definities over aan de eindfase van de onderhandelingen.

Daarom is het niet ondenkbaar dat dit scenario zich zou herhalen voor de killer robots. Vandaar dat de campagne tegen killer robots in haar nota over “de sleutelelementen voor een verdrag” geen definitie voorstelt maar eerder de elementen opsomt die toelaten een betekenisvolle menselijke controle te garanderen bij elk gebruik van geweld.

Naast een verbod op volledig autonome wapens, roept de Campagne tegen killer robots op om “positieve verbintenissen te garanderen die bijdragen tot een betekenisvolle menselijke controle bij het gebruik van alle systemen die doelwitten uitkiezen en aanvallen”.

Wapens die alsmaar autonomer worden

Wapens “die alsmaar autonomer worden”, voorlopers van de killer robots, bestaan reeds. Ze komen voor in de volgende categorieën : luchtafweersystemen, actieve beveiligingssystemen, antipersoons-robotschildwachten, geleide munitie en zwerfmunitie.

Dit zijn echter technologieën in volle ontwikkeling, hetgeen betekent dat er waarschijnlijk andere zullen volgen. De voornaamste landen die deze wapens ontwikkelen of produceren zijn China, Zuid-Korea, de VS en Rusland.

Aan deze vier landen dienen in mindere mate toegevoegd: Duitsland, Australië, Estland, Frankrijk, India, Israël, Italië, Japan, Noorwegen, Polen, Singapore, Zweden, het Verenigd Koninkrijk, Turkije en ook Taiwan.

Een van de eerste voorbeelden van dit soort wapens is de antipersoons-robotschildwacht SGR-A1, ontwikkeld in de jaren 2000 door de firma Samsung Techwin (sinds 2015 Hanwha Techwin).

Zo schreef de GRIP in november 2017, “deze robotschildwacht uitgerust met camera’s, microfoons, luidsprekers en een machinegeweer is voorzien van een automatische selectie- en afhandelingsmodus van doelwitten”.

Volgens BBC News kan het machinegeweer van de SGR-A1 “omgeschakeld worden naar autonome modus, maar … wordt het momenteel bediend door manschappen via cameraverbinding”.

Een onbemande URAN 9-tank. Foto: Vitaly V. Kuzmin/CC BY-SA 4:0

Een recenter voorbeeld is de landrobot Uran-9, een “polyvalent gevechtsrobotsysteem” ontwikkeld door het Russische bedrijf Kalachnikov Concern en sinds 2016 gecommercialiseerd. De Uran-9 wordt bestuurd vanop een afstand van drie kilometer, “maakt gebruik van artificiële intelligentie”, kan “zich automatisch voortbewegen en laat verder de keuze van de doelwitten over aan de operator”.

Volgens Kalachnikov Concern “werden {op de Uran-9} tal van wetenschappelijke en technische oplossingen toegepast die nog verder ontwikkeld zullen worden” [15]. Zijn basisbewapening bestaat uit een kanon van 30 mm, vier lasergestuurde antitankraketten en een machinegeweer.

Tijdens tests in Syrië zou de Uran-9 echter 18 maal het contact zijn kwijtgeraakt met de controlepost [17]. Volgens RIA Novosti “vertoonde het automatische 30 mm kanon van de robot tevens een wisselvallige werking, ontstond een onbedoelde start van de lanceercircuits en viel regelmatig het thermische beeldkanaal weg van de optische waarnemingspost”.

Een ander voorbeeld is de “Switchblade (het “knipmes”), een miniatuur ‘zwerfraket’ die onlangs gecommercialiseerd werd door het Amerikaanse bedrijf AeroVironment. In zijn basisversie weegt de Switchblade slechts 2,5 kilogram en kan hij in een rugzak gestopt worden. Zijn kostprijs bedraagt ongeveer 70 000 USD.

In een verbeterde versie kan hij, eenmaal aangekomen op de plaats van zijn doelwit, gedurende meer dan 20 minuten ter plaatse rondzwerven om zijn doelwit te identificeren vooraleer er zich bovenop te storten. Volgens het bedrijf “kan deze dodelijke miniatuurraket manueel of autonoom gebruikt worden” en zouden zijn toekomstige versies “op autonome wijze doelwitten kunnen uitkiezen met een minimale menselijke interactie”.

… het respecteren van het internationale humanitaire recht vergt een vermogen tot analyse en empathie waarover een killer robot niet beschikt …

Een laatste voorbeeld is het onbemand gevechtsvaartuig JARI, momenteel ontwikkeld door het Chinese staatsbedrijf China Shipbuilding Industry Corporation (CSIC). Deze 15 meter lange boot is onder meer uitgerust met verticaal lanceerbare raketten, een torpedo-draagraket en op het voordek een machinegeweer en een raketwerper. Dit machinegeweer beschiet automatisch bovengrondse snel naderende doelwitten na enkele waarschuwingsschoten te hebben gelost.

De JARI gebruikt artificiële intelligentie om autonoom te varen en gevechtsactiviteiten uit te voeren van zodra hij daartoe het bevel krijgt. Hij kan opereren als onderdeel van een “flottielje”, autonoom, semiautonoom of met afstandsbediening. Volgens de ontwikkelaars heeft de JARI nog bijkomende tests nodig “om als volledig autonome gevechtsdrone zijn ganse potentieel te ontplooien”.

Waarom een verbod op killer robots?

Zoals de vier voorbeelden hierboven aantonen zouden killer robots die in staat zijn doelwitten uit te kiezen en aan te vallen binnenkort geen science-fiction meer zijn. De menselijke controlemogelijkheden op autonome wapens zoals hierboven beschreven worden de facto steeds beperkter, hetgeen geleidelijk de deur openzet naar een toestand waarin de beslissing om te doden door een machine zal worden genomen in plaats van door een mens. Deze overdracht van verantwoordelijkheid van de mens naar de machine is onder meer op juridisch en op militair vlak zeer problematisch.

Een eerste belangrijke kwestie betreft het respecteren van het internationale humanitaire recht: meer bepaald de verplichting van strijdende partijen om een onderscheid te maken tussen strijders en niet-strijders, de garantie dat het aantal burgerslachtoffers en de beschadigingen aan civiele gebouwen niet onevenredig groot zijn ten opzichte van het verwachte militaire voordeel, alsook het nemen van de noodzakelijke voorzorgen ter bescherming van de burgerbevolking.

Autonoom geschut Miloš van het Servisch leger. Foto Srdan Popović/CC BY-SA 4:0

Zoals het Rode Kruis beklemtoont: “Deze verplichtingen kunnen niet overgedragen worden aan een machine, omdat het respecteren van het internationale humanitaire recht een vermogen tot analyse vergt waarover zelfs de meest gesofistikeerde killer robot niet beschikt.

In de woorden van luitenant-kolonel John McBride klinkt het zo: “Een machine zou dan bepalen of het doelwit een strijder is, enkel op basis van een programmering die waarschijnlijk ontwikkeld werd in een steriel laboratorium jaren vóór de beslissing om te doden wordt genomen”.

Bovendien is er de bijkomende kwestie dat een killer robot onmogelijk gerechtelijk kan vervolgd worden voor een misdaad. Met andere woorden, een killer robot zou ongestraft kunnen toeslaan.

Een ander probleem is het risico dat killer robots het uitbreken van gewapende conflicten vergemakkelijken. Eerst en vooral omdat ze de laatste psychologische barrières opruimt tegen het gebruik van geweld.

Vervolgens omdat wanneer de menselijke kost van een gewapend conflict daalt, het inzetten van killer robots de drempel naar een oorlog verlaagt en de prikkel tot het vinden van een politieke oplossing vermindert.

Zoals de Nederlandse organisatie PAX benadrukt vormt het inzetten van killer robots ook een risico op een wapenwedloop evenals op een snelle en toevallige escalatie van conflicten, waarbij killer robots het tegen elkaar opnemen aan snelheden die een menselijke controle niet meer mogelijk maken.

Vermits killer robots relatief goedkoop en gemakkelijk te kopiëren zijn, kunnen ze ook snel nagemaakt worden en in handen vallen van terroristische groeperingen of zelfs gehackt. Tot slot zouden interacties tussen vijandelijke killer robots zeer onvoorspelbaar kunnen zijn.

Wanneer en binnen welk kader komt er een verdrag op killer robots?

78 staten hebben reeds sinds 2013 opgeroepen tot een verbod op killer robots, zowel via nationale verklaringen [33] als via groepsverklaringen [34]. De staten die partij zijn bij deze Conventie inzake bepaalde Conventionele Wapens (CCW) bespreken immers sinds mei 2014 “kwesties die verband houden met opkomende technologieën in de sector van de autonome dodelijke wapensystemen.

Er is binnen dit kader echter geen enkel akkoord gevonden aangaande een eventueel verbod op killer robots, hetgeen de weg vrijlaat voor bedrijven die deze wapens ontwikkelen.

Deze Duitse radiobestuurde minitanks waren nog te rudimentair om enige impact te hebben. Britse soldaten bekijken ze in Normandie in 1944. Foto: Public Domain

Een tiental staten verzet zich in feite nog steeds tegen onderhandelingen voor een verdrag op killer robots dat ze “voorbarig” noemen. Een van die staten is Rusland dat onder meer verklaarde: “We zijn geen voorstander van een concreet resultaat van onze werkzaamheden”. De VS van hun kant verzetten zich tegen iedere verwijzing naar de noodzaak tot menselijke controle op het gebruik van geweld.

Aangezien de staten die partij zijn bij de CCW hun beslissingen nemen op basis van een consensus, is het moeilijk denkbaar hoe in die context een geloofwaardig akkoord over killer robots tot stand zou kunnen komen.

Niettemin stelt Human Rights Watch, “de grote meerderheid van de landen die zich tot nu toe hierover hebben uitgesproken beschouwen de besluitvorming, de controle of het beoordelingsvermogen van de mens als essentiële factoren voor de aanvaardbaarheid en de wettelijkheid van wapensystemen”.

Een tiental staten verzetten zich nog steeds tegen onderhandelingen voor een verdrag inzake killer robots

Omwille van de COVID-19 pandemie zijn de discussies binnen de CCW uitgesteld en worden ze pas hernomen in 2021 onder het voorzitterschap van België [40]. De nieuwe federale regering De Croo schreef daarover op 30 september 2020: “Ons land zal het initiatief nemen om tot een reglementair kader te komen inzake volledig autonome wapensystemen met het oog op een internationaal verbod” .

In het licht van de aanhoudende blokkering binnen de CCW zal België snel andere perspectieven moeten overwegen als het haar initiatief wil doen slagen en op die manier tegemoetkomen aan de oproep van de VN-secretaris-generaal “om deze politiek onaanvaardbare en moreel verwerpelijke wapens te verbieden”.

Robots tueurs : à quand un traité d’interdiction? verscheen op 22 december 2020 in Groupe de recherche et d’information sur la paix et la sécurité (GRIP). Stan Brabant is adjunct-directeur van de GRIP en heeft lange tijd voor Handicap International gewerkt in Cambodja en Afghanistan in programma’s voor ontmijning en reductie van ongevallen met niet ontplofte mijnen en andere munitie. Hij maakte deel uit van het redactioneel comité van Landmine and Cluster Munition Monitor en deed er dienst als wetenschappelijk onderzoeker en thematisch coördinator.  Hij lag ook aan de basis van het proces dat leidde tot het Belgisch verbod op clustermunitie, het eerste land dat in februari 2006 deze munitie verbood. Vervolgens begeleidde hij het proces in Oslo dat in 2008 leidde tot de Conventie inzake clustermunitie. Stan Brabant wil graag zijn dank betuigen aan voormalig piloot-majoor Lode Dewaegheneire, aan Solène Jomier, Yannick Quéau en Merel Selleslach voor hun waardevolle commentaren bij dit artikel.

De lezer kan de bronnen voor deze informatie vinden in de voetnoten van het originele artikel.