Op maandag 27 augustus zullen in Genève besprekingen van een groep regeringsdeskundigen uit 70 landen onder auspiciën van de Verenigde Naties van start gaan over dodelijke autonome wapensystemen. Het hangt van overleg af of de opkomst van volledig zelfbeheersende robotmoordenaars de komende jaren werkelijkheid zal worden, die zonder menselijke controle een doelwit zullen kiezen en beslissen over de vernietiging ervan.
Een kleine stap naar autonome wapens
Internationale diplomaten, ontwapeningsdeskundigen en vertegenwoordigers van het maatschappelijk middenveld begonnen al in 2014 met het bespreken van autonome wapens. Dit informele overleg is vorig jaar uitgegroeid tot formele onderhandelingen. Volledig zelfgeleide wapens moeten nog worden gemaakt, maar veel staten investeren fors in het aanpassen van kunstmatige-intelligentietechnologie aan militaire behoeften. Een aantal landen is al bewapend met systemen met elementen van kunstmatige intelligentie - van drones en schildwachtrobots tot apparaten om explosieven onschadelijk te maken. Tegelijkertijd gaat de ontwikkeling van kunstmatige neurale netwerken door, waardoor kunstmatige intelligentie zichzelf kan leren.
Thomas Kuchenmeister.
"Er is nog maar een kleine stap om volledig autonome wapensystemen te creëren", zegt Thomas Küchenmeister, hoofd van de Duitse organisatie Facing Finance, die deelneemt aan de internationale campagne "Stop Killer Robots". Wat is er mis met het gebruik van automatische systemen in het leger, die nauwkeuriger zijn en grote hoeveelheden data kunnen analyseren?
Kuchenmeister wijst er in een interview met DW op dat zelfrijdende systemen geen onderscheid kunnen maken tussen bijvoorbeeld een militaire en een civiele vrachtwagen. En dit is al in strijd met het internationaal humanitair recht, dat opereert in gewapende conflicten en zo veel mogelijk bedoeld is om de burgerbevolking te beschermen. "Maar we kunnen geen chip van internationaal recht in deze wapens implanteren", klaagt een campagnevoerder tegen killer robots.
Promotie video:
China is voorstander van het moratorium, de Verenigde Staten en Rusland zijn tegen
26 staten, waaronder Australië, Brazilië en China, zijn voorstander van een preventief moratorium op autonome wapensystemen. Een open brief ter ondersteuning van hun standpunt is ondertekend door meer dan 230 organisaties over de hele wereld en ongeveer 3.000 ondernemers en wetenschappers die werkzaam zijn op het gebied van kunstmatige intelligentie. Onder hen bijvoorbeeld de oprichter van Tesla en Space X, Elon Musk en Deep Mind (eigendom van Google). "De beslissing om iemands leven te beroven mag nooit worden gedelegeerd aan een robot", zegt de brief.
Gevechtsrobot op een tentoonstelling in Kiev, 2016.
Het verbod wordt tegengewerkt door staten die actief investeren in het gebruik van kunstmatige intelligentie voor militaire doeleinden, bijvoorbeeld de Verenigde Staten, Israël, Rusland en het Verenigd Koninkrijk. Zoals de Russische president Vladimir Poetin ooit zei, zal de leider in het creëren van kunstmatige intelligentie "de meester van de wereld zijn".
De VS proberen zelfs autonome wapens in een positief daglicht te stellen en beweren dat ze zullen helpen "collaterale vernietiging" te voorkomen. Een computer kan immers, in tegenstelling tot een soldaat, sneller de hele situatie op het slagveld analyseren en minder fouten maken, zijn ze in Washington overtuigd. Tijdens de laatste overlegronde in Genève drong de Amerikaanse delegatie erop aan dergelijke wapens niet te stigmatiseren.
Het standpunt van Berlijn: van verklaring tot geleidelijk verbod
De Duitse regering is voorstander van een "internationaal verbod" op autonome wapens - dit is vastgelegd in het regeerakkoord van het Duitse kabinet. Tegelijkertijd acht Berlijn het tactisch verkeerd om aan te dringen op een moratorium op de huidige onderhandelingen in Genève, aangezien de standpunten van de landen te verschillend zijn. Samen met Frankrijk stelt Duitsland een tussenoplossing voor: de eerste stap zou het aannemen van een politieke verklaring bij de VN kunnen zijn, waarin wordt gesproken over het belang van het behouden van menselijke controle over autonome wapensystemen. Vervolgens stellen Berlijn en Parijs voor om een militaire gedragscode aan te nemen, en pas dan - een direct verdrag dat dergelijke wapens verbiedt.
Volgens Duitse diplomaten biedt een dergelijke meerfasenaanpak een kans om de bestaande tegenstellingen te overwinnen - tegenstanders van het moratorium kunnen immers vrijblijvend aansluiten bij de politieke verklaring. Tegelijkertijd zou dit document bepaalde algemene normen creëren die de weg effenen voor de consolidering van het verbod op zelfbesturende wapens in het internationaal recht.
Een overeenkomst buiten de VN?
De activisten van de beweging "Stop de killer robots" Duitsland lijkt echter niet hard genoeg. Ze zijn van mening dat de BRD het voortouw moet nemen in de strijd voor een onmiddellijk moratorium. Andere landen zouden het hebben gevolgd, meent Thomas Kuchenmeister. "Als de Duitse regering een verbod op dergelijke wapens wil bereiken, dan moet ze dit aantonen, dat wil zeggen verantwoordelijkheid nemen", benadrukt hij.
Op de een of andere manier hebben landen steeds minder tijd om het eens te worden over standpunten, omdat technologieën elke dag verbeteren. Als er geen vooruitgang wordt geboekt in de besprekingen in Genève, zal de druk van het maatschappelijk middenveld toenemen, voorspelt Kuchenmeister.
Naar zijn mening kan in dit geval een akkoord over een moratorium op autonome wapens worden bereikt buiten het kader van de VN, zoals gebeurde met het verbod op antipersoonsmijnen. In 1996-1997 hielden de Canadese regering en vertegenwoordigers van tientallen andere landen onafhankelijk een aantal conferenties die eindigden met het Verdrag van Ottawa. Tot op heden hebben 164 landen zich al bij de overeenkomst aangesloten. Dit proces is grotendeels op gang gekomen dankzij een actieve burgercampagne om antipersoonsmijnen te verbieden. Deze beweging ontving in 1997 de Nobelprijs voor de Vrede.
