Pentagon geeft robots geen licence to kill

Het gebruik van onbemande vliegtuigen zit enorm in de lift: een op drie nieuwe vliegtuigen van de Amerikaanse strijdkrachten is nu een zogenaamde drone. De toestellen worden ook steeds geavanceerder en kunnen steeds meer taken autonoom uitvoeren. Het nieuwe X-47B prototype van de Amerikaanse marine kan bijvoorbeeld al zo goed als autonoom landen op een vliegdekschip.

Dat leidt tot ongerustheid bij mensenrechtengroeperingen, want de robots zouden op termijn wel eens zelf kunnen gaan beslissen of een doelwit gerechtvaardigd is of niet. Een nieuwe beleidsbrief binnen het Pentagon sluit dat uit.

Veiligheidsmechanismen

In het document, dat eerder deze week getekend werd door onderminister van Defensie Ashton Carter en gepubliceerd werd door Cryptome.org, worden enkele lijnen uitgezet voor de ontwikkeling en het gebruik van onbemande toestellen, om “de kans op en de consequenties van fouten door onbedoelde aanvallen te minimaliseren.”

De hardware en software van de robots die door de VS aangekocht en gebruikt worden moeten daarom voorzien zijn van “veiligheidsmechanismen, beveiliging tegen sabotage en een verzekerde informatiestroom”. Er moet ook een overzichtelijke interface zijn voor beheer en controle. Maar het belangrijkste: elk toestel moet handelen volgens de bedoelingen van de operator en de bevelhebber, en als dat om de een of andere reden niet kan, moet de aanval worden afgeblazen of moet gewacht worden op duidelijke orders.

Juridische consequenties

Vorige week bracht de mensenrechtenorganisatie Human Rights Watch nog het rapport Losing Humanity uit, in samenwerking met de Harvard Law School International Human Rights Clinic. Het rapport waarschuwt voor te autonome onbemande toestellen. Niet alleen ontbreekt een belangrijke menselijke overweging, zegt de organisatie, maar er zijn ook belangrijke juridische consequenties: wie is verantwoordelijk voor de autonome beslissing van een drone?

Human Rights Watch pleit voor een internationaal bindend verdrag om de ontwikkeling, productie en het gebruik van volledige autonome wapens te verbieden.