Toegegeven, robotica heeft de afgelopen jaren een behoorlijke stap gemaakt. De wapens die door defensiebedrijven worden gemaakt, worden slimmer, kunstmatige-intelligentiesystemen worden ermee verbonden, robots krijgen volledige autonomie, enzovoort. Dit betekent dat een killerrobot eerder werkelijkheid kan worden dan we denken. Dat vinden vertegenwoordigers van de RAH, een in Nederland gevestigde non-profitorganisatie die pleit voor wereldvrede, van wel. Dat maakten ze bekend in hun rapport in het tijdschrift Quartz.
Waarom killer robots bouwen?
Killer-robots zijn ontworpen om zelf beslissingen te nemen over het nemen of behouden van leven, zonder menselijke controle. Specialisten van de Russische Kunstacademie noemden dit alarmerende teken "de derde revolutie in oorlog", na de uitvinding van buskruit en de atoombom. Zowel activisten als staten roepen op tot het opstellen van een reeks internationale regels voor het maken van dergelijke wapens, of zelfs tot een volledig verbod op het gebruik ervan. Maar sommige landen, waaronder de Verenigde Staten, China en de Russische Federatie, hebben op dit gebied nog geen actie ondernomen.
RAX-specialisten hebben ten minste 30 wereldwijde wapenfabrikanten geïdentificeerd die geen beleid hebben tegen de ontwikkeling van de bovengenoemde soorten wapensystemen. Dit zijn onder meer de Amerikaanse defensiebedrijven Lockheed Martin, Boeing en Raytheon, de Chinese overheidsconglomeraten AVIC en CASC, de Israëlische firma's IAI, Elbit en Rafael, het Russische Rostec en de Turkse STM.
Tegelijkertijd geloven activisten niet dat de militaire toepassing van een of ander kunstmatige-intelligentiesysteem een probleem is. Het probleem is juist dat dergelijke systemen buiten de controle van de mens kunnen komen te staan.
Het Amerikaanse leger ontwikkelt bijvoorbeeld al een kanon met kunstmatige intelligentie, dat onafhankelijk doelen kan selecteren en raken, evenals tanks met kunstmatige intelligentie, die in staat zullen zijn "doelen drie keer sneller te identificeren en te raken dan wie dan ook". En STM, het Turkse staatsverdedigingsbedrijf, is al in volle gang met de productie van een AI-aangedreven robot genaamd KARGU. Compleet met gezichtsherkenning, kan KARGU autonoom doelen selecteren en aanvallen met behulp van coördinaten die vooraf zijn geselecteerd door de operator. Naar verluidt is Turkije van plan KARGU in Syrië te gebruiken.
PAX maakt zich het meest zorgen over de mogelijke inzet van AI in offensieve systemen die zelfstandig doelen selecteren en aanvallen, zonder menselijk toezicht. De groep vraagt zich af hoe deze wapens onderscheid zullen maken tussen militairen en burgers. Bovendien weten advocaten nog steeds niet wie verantwoordelijk zal zijn als autonome wapens het internationaal recht schenden.
Promotie video:
De Turkse drone KARGU spoort het doelwit op en vernietigt het, waarbij het als een kamikaze van boven valt.
In tegenstelling tot Google of Amazon, die zowel publieke als interne reacties hebben gekregen op hun werk aan militaire systemen, doen bedrijven als Lockheed Martin en Raytheon uitsluitend zaken met het leger, zodat ze met minimale reacties van partners worden geconfronteerd. evenals van gewone mensen, aangezien de meeste ontwikkelingen tot op zekere hoogte geheim blijven.
Terwijl de ontwikkeling van autonome wapens doorgaat, gelooft de RAX dat er nog steeds een manier is om een mogelijke catastrofe te voorkomen. De groep zei dat productiebedrijven hierin een cruciale rol kunnen spelen en zich moeten verzetten tegen de productie van volledig autonome dodelijke wapens. Over AI-geactiveerde wapensystemen zullen PAX-functionarissen zeggen dat defensiebedrijven een reeks regels moeten volgen die nog moeten worden ontwikkeld. Maar niemand roept op om AI volledig te verlaten.
Vladimir Kuznetsov
