Stop de moordmachines

Meer dan honderd oprichters van bedrijven op het gebied van robotica en kunstmatige intelligentie (KI) waarschuwen in een open brief op Futureoflife.org voor de ontwikkeling van 'killer robots'. Zij doen een dringende oproep aan de VN om een nieuwe wapenwedloop te voorkomen. Volgens promintente tech-ondernemers als Elon Musk (Tesla) en Mustafa Suleyman (Google Deepmind) staan we na het buskruit en de atoombom aan de vooravond van de derde revolutie in oorlogsvoering.

Als KI-experts beseffen zij als geen ander dat de kennis waar zij aan werken ook ingezet kan worden in oorlogsvoering. Zo wordt de grens tussen Zuid- en Noord-Korea al bewaakt door volautomatische machinegeweren. Deze machines kunnen zonder menselijke tussenkomst doelwitten uitschakelen. De verdere ontwikkeling van dit soort systemen is een doos van Pandora die beter gesloten kan blijven. Want wat gebeurt er als terroristen deze kennis in handen krijgen of oorlogsmachines gehackt worden?

Tijdens een lezing over KI bespraken informaticus prof. dr. John-Jules Meyer (UU) en techniekfilosoof dr. Merel Noorman (UM) hoe intelligent slimme bommen en drones nu eigenlijk zijn en hoe problematisch het is om verantwoordelijkheid toe te schrijven aan autonome systemen. Terwijl verantwoordelijkheid in onze samenleving en in onze rechtsgang juist een cruciale rol speelt.

Is de programmeur straks verantwoordelijk of de zelfbeslissende robot? Een ander aspect is de absentie van moreel besef: een robot is moreel, noch immoreel. Robots zijn amoreel. Ze proberen de doelen te bereiken waar ze voor geprogrammeerd zijn en hebben geen idee van goed of kwaad. Als een immorele handeling nodig is om een doel te bereiken, zal een robot geen ethische overweging maken. Willen we oorlogsvoering zonder ethiek? Bekijk de lezing van prof. Meyer en dr. Noorman 'Slimme bommen?