In oktober selecteerde het Beijing Institute of Technology, een van de toonaangevende militaire onderzoeksinstellingen van het land, 31 tieners uit meer dan 5.000 kandidaten. Volgens de Chinese autoriteiten zullen deze jongeren een nieuwe generatie wapens ontwikkelen die zijn uitgerust met kunstmatige intelligentie (AI) - dit kunnen microscopisch kleine robots, computervirussen, onderzeeërs, drones en tanks zijn.
Plannen als deze zijn een krachtige herinnering aan de richting waarin de belangrijkste wapenwedloop zich zou kunnen ontvouwen. De toename van rekenkracht en het verbeteren van programma's met zelflerende algoritmen creëren nieuwe kansen voor zowel oorlog als overheid.
Consultancy PwC schat dat de bijdrage van AI-aangedreven systemen aan de wereldeconomie tegen 2030 $ 15,7 biljoen zou kunnen bedragen, waarbij China en de Verenigde Staten waarschijnlijk de leidende spelers zullen zijn. De grootste zorg voor regeringen zijn echter de mogelijke militaire implicaties. Enerzijds is er de angst om achterop te raken, anderzijds is er de angst dat niet-geteste technologieën nieuwe gevaren met zich mee kunnen brengen.
Pentagon-functionarissen hebben de Defense Innovation Council - een bijeenkomst van hoge Silicon Valley-functionarissen die technisch advies geven aan het Amerikaanse leger - gevraagd om een reeks ethische richtlijnen te ontwikkelen voor het gebruik van AI in oorlog. Vorige maand kondigden Frankrijk en Canada de oprichting aan van een internationale deskundigengroep om soortgelijke kwesties te bespreken. Tot nu toe waren westerse staten van mening dat vitale beslissingen in een conflict altijd door mensen moeten worden genomen, en computers en algoritmen vergemakkelijken de implementatie ervan. Sommige landen - vooral Rusland en China - overwegen echter een andere weg.
Vorig jaar meldde Rusland zijn investering in AI te verdubbelen. Eerder deze maand werd aangekondigd dat Moskou medio 2019 een nieuwe nationale AI-strategie zal publiceren, die door Russische functionarissen wordt gezien als de sleutel tot het domineren van cyberspace en informatieoperaties. Er wordt aangenomen dat reeds vermeende Russische "trollenboerderijen" geautomatiseerde feeds van sociale media gebruiken om desinformatie te promoten.
Experts beweren dat het bouwen van een geavanceerd AI-systeem de juiste verwerkingskracht, voldoende trainingsgegevens en capabele artiesten vereist. Als de machtigste autoritaire staten ter wereld hebben Rusland en China vergelijkbare capaciteiten en zijn ze van plan AI te gebruiken om zowel regeringsposities op hun grondgebied te behouden als om vijanden daarbuiten te verslaan.
Peking gebruikt al massaal geautomatiseerd toezicht, inclusief gezichtsherkenningssoftware, om afwijkende meningen te onderdrukken, vooral in het Oeigoerse moslim noordwesten. Het is waarschijnlijk dat dergelijke systemen krachtiger zullen worden naarmate de technologie verbetert. Als het gaat om het monitoren van de communicatie van zijn burgers, heeft China (net als Rusland) veel minder twijfels en reguleringsmechanismen dan westerse staten.
Westerse democratieën, en vooral Amerika, zijn van oudsher beter in staat geweest dan dictaturen om nieuwe technologieën te gebruiken. Als het echter om AI ging, stonden de inspanningen van Washington om de kloof tussen Silicon Valley en het leger te overbruggen voor een aantal uitdagingen. In juni dwongen Google-medewerkers het bedrijf om zich terug te trekken uit een contractverlenging met het Pentagon. Veel wetenschappers zijn terughoudend om aan defensieprojecten te werken uit angst dat ze uiteindelijk oncontroleerbare killer-robots zullen creëren.
Promotie video:
De Verenigde Staten en hun bondgenoten ontwikkelen echter hun eigen autonome wapens. Dus kondigde Microsoft in oktober stilletjes aan dat het van plan is om aan het Pentagon alle geavanceerde AI-systemen te verkopen die nodig zijn om "een sterke verdediging te creëren". Leidinggevenden van de Amerikaanse luchtmacht zeggen dat hun geclassificeerde toekomstige aanvalsvliegtuig voor lange afstanden, ontworpen om de stealth B-2 bommenwerper te vervangen, met of zonder bemanning zal kunnen opereren. Het westerse leger investeert steeds meer in zelfrijdende vrachtwagens en andere bevoorradingsvoertuigen en probeert hen meer "vuile, saaie en gevaarlijke" taken toe te wijzen op het slagveld zonder mensenlevens te riskeren.
Het wordt verondersteld gebruik te maken van "zwermen" drones, terwijl talloze onbemande luchtvaartuigen zichzelf beheersen. Als het gaat om drone versus drone-gevechten, hebben westerse leiders er geen probleem mee om onbemande systemen hun eigen beslissingen te laten nemen. Maar als mensen betrokken zijn bij gevechten, vereist het beleid van het Amerikaanse ministerie van Defensie dat beslissingen door mensen worden genomen. Een dergelijke controle kan echter steeds moeilijker worden, vooral als de geautomatiseerde systemen van de vijand veel sneller beslissingen nemen dan mensen.
Verwacht wordt dat tegen het begin van de jaren 2020 grote Chinese onbemande onderzeeërs die wapens kunnen dragen, zich in de oceanen van de wereld zullen bevinden. Hun doelwit zullen vijandelijke troepen zijn in betwiste gebieden zoals de Zuid-Chinese Zee. Dergelijke schepen kunnen lange tijd grote afstanden afleggen zonder opgemerkt te worden. Op dit moment beweren Chinese wetenschappers dat het aan de mensen is om over de aanval te beslissen, maar misschien is dit niet helemaal waar. Het Pentagon meldde afgelopen januari dat Rusland ook grote onbemande nucleaire onderzeeërs bouwt, die mogelijk kernwapens kunnen dragen.
Bovendien geven zowel Moskou als Peking de voorkeur aan onbemande robottanks, terwijl Rusland al zijn nieuwste ontwikkelingen in Syrië test. Dergelijke systemen kunnen westerse commandanten aanzienlijk bemoeilijken bij het nemen van beslissingen over het bepalen van doelen op het slagveld vanwege een gebrek aan begrip of mensen zich in gevechtsuitrusting bevinden. Fouten kunnen leiden tot het begin van een conflict of de scherpe verergering ervan.
Naar verluidt werden voor het gespecificeerde programma van het Beijing Institute of Technology die tieners geselecteerd die "bereidheid tot de strijd" uitspraken. Deze prioriteitstelling kan zeer gevaarlijk zijn, aangezien de technologie onvoldoende getest en destructief is.
Natalia Golovakha
