VN wil duidelijke grenzen stellen aan autonome killerrobots

De Verenigde Naties willen voorkomen dat wapensystemen straks zelfstandig beslissen wie er op het slagveld wordt aangevallen. In Genève praten VN-lidstaten opnieuw over internationale regels voor volledig autonome wapens, terwijl kunstmatige intelligentie steeds sneller onderdeel wordt van moderne oorlogsvoering.

AI kan enorme hoeveelheden informatie razendsnel analyseren. Daardoor kunnen militaire systemen potentiële doelen identificeren in een fractie van de tijd die een mens daarvoor nodig heeft. Volgens de VN brengt die ontwikkeling de wereld dichter bij wapens die zonder directe menselijke beslissing mensen kunnen aanvallen.

Autonome militaire technologie is niet nieuw. Nieuwere AI-systemen maken het echter mogelijk om veel sneller gegevens te verwerken en zelfstandig patronen of mogelijke doelwitten te herkennen.

Dergelijke technologie wordt inmiddels daadwerkelijk toegepast. In verschillende conflicten worden AI-systemen gebruikt om militair relevante doelen te selecteren. Ook in Oekraïne wordt geëxperimenteerd met drones die bepaalde taken grotendeels zelfstandig kunnen uitvoeren. 

Voorstanders wijzen erop dat AI wapens mogelijk preciezer kan maken en daarmee burgerslachtoffers zou kunnen beperken. Deskundigen plaatsen daar grote vraagtekens bij. De uitkomst hangt immers niet alleen af van de technologie, maar ook van de manier waarop een systeem wordt ingezet en gecontroleerd.

Een belangrijk probleem ontstaat wanneer mensen AI-gegenereerde doelwitten nauwelijks nog controleren. Als militairen onder grote tijdsdruk een door een algoritme voorgesteld doel moeten goedkeuren, kan menselijke controle in de praktijk weinig meer voorstellen.

Bij volledig autonome systemen ontstaat bovendien een ander risico. Zodra een wapen eenmaal is gelanceerd, kan een mens mogelijk niet meer ingrijpen als de omstandigheden veranderen. Een doelwit kan bijvoorbeeld plotseling tussen burgers terechtkomen.

Dat roept niet alleen ethische vragen op, maar kan ook botsen met het internationaal humanitair oorlogsrecht. 

VN-secretaris-generaal António Guterres pleit daarom voor harde internationale grenzen. Hij wil onder meer een verbod op wapens die volledig zelfstandig handelen wanneer hun geweldsgebruik onvoldoende voorspelbaar is. Ook wapens die autonoom specifiek mensen als doelwit kiezen, zouden volgens hem verboden moeten worden.