De auteur maakt zich zorgen over de groeiende rol van robots in oorlogsvoering. Sinds 1991, sinds de Golfoorlog, helpen ze de generaals. En nu is er een "killer robot" gecreëerd - een machine die onafhankelijk een beslissing neemt om vijanden te vernietigen, als dit in overeenstemming is met het algemene beleid van het "controlecentrum".
Artificial intelligence-ontwikkelaar DeepMind heeft een nieuwigheid aangekondigd - een bot genaamd AlphaStar, die de populaire online strategie Starcraft-2 zal spelen op het "grootmeester" -niveau.
Dit is niet de eerste keer dat een bot mensen heeft verslagen in een strategisch oorlogsspel. In 1981 won een programma genaamd Eurisko, ontwikkeld door een van de pioniers van kunstmatige intelligentie, Doug Lenat, het US Traveler Championship, een zeer complex strategisch oorlogsspel waarin de speler zijn vloot moet voltooien en de vijandelijke vloot moet bevechten. Eurisko kreeg uiteindelijk de titel van ere-admiraalreiziger. In 1982 werden de toernooiregels gewijzigd in een poging de computer te dwarsbomen. Maar Eurisko won twee jaar op rij iedereen. Nadat sponsors hadden beloofd het toernooi te annuleren als de computer opnieuw wint, trok Lenat zich terug.
DeepMind PR wil dat je gelooft dat StarCraft "bij consensus naar voren kwam als de volgende grote uitdaging (in pc-games)" en "al meer dan 15 jaar een uitdaging is voor AI-ontwikkelaars."
In het laatste Starcraft-kampioenschap werden slechts 4 aanvragen ingediend door academische of industriële onderzoekslaboratoria. De andere negen bots zijn alleen door individuen geschreven en niet als onderdeel van het reguliere onderzoek naar kunstmatige intelligentie (AI).
In feite is het aantal auteurs (42) van het DeepMind-artikel, dat op 31 oktober in Nature is gepubliceerd, aanzienlijk groter dan het aantal mensen dat aan Starcraft-bots werkt in de rest van de wereld. Ik wil het succes van deze technische samenwerking niet overschaduwen, maar als je voldoende middelen investeert in het oplossen van het probleem, is succes gegarandeerd.
In tegenstelling tot recente overwinningen in computerschaak, is AlphaStar niet getraind door tegen zichzelf te spelen. Hij leerde dit door de beste afleveringen na te bootsen van bijna een miljoen games die door de allerbeste menselijke spelers werden gespeeld. Daarvoor leed AlphaStar een onmiskenbare nederlaag in 19 van de 20 gevechten, waarbij hij met echte mensen op de StarCraft-spelserver speelde. AlphaStar speelde anoniem om te voorkomen dat mensen misbruik maakten van zwakke punten die in eerdere games waren gevonden.
Afgelopen december versloeg AlphaStar een van 's werelds beste professionele spelers - Grzegorz MaNa Komincz. Maar dit was een versie van AlphaStar met reflexen die aanzienlijk sneller waren dan die van mensen, en ook met een onbeperkt zicht op het speelveld (in tegenstelling tot menselijke spelers die er maar één deel van zien). Het kan nauwelijks een gelijk speelveld worden genoemd.
Promotie video:
StarCraft heeft echter een aantal functies die AlphaStar een indrukwekkende ontwikkeling maken, zo niet een echte doorbraak. In tegenstelling tot schaken of het oosterse go-spel (een strategiespel dat gebruik maakt van een 361-veldbord - red.), Hebben StarCraft-spelers een gebrekkig inzicht in de stand van zaken in het spel, maar het aantal mogelijke acties daarin is veel groter. En StarCraft-gevechten vinden in realtime plaats, maar vereisen een langetermijnplanning.
Robot oorlogen
De vraag rijst: zullen we in de toekomst zien hoe robots niet alleen deelnemen aan oorlogen, maar ze ook plannen? In feite gebeuren beide al.
Ondanks vele waarschuwingen van kunstmatige intelligentie-onderzoekers (zoals ikzelf), oprichters van robotica, Nobelprijswinnaars en kerkleiders, is er al een volledig autonoom wapen gemaakt dat bekend staat als een "killerrobot", dat binnenkort zal worden gebruikt.
In 2020 zet Turkije kamikaze-drones in aan de grens met Syrië. Deze drones gebruiken computervisie om mensen te identificeren, op te sporen en te doden zonder menselijke tussenkomst.
Dit is een vreselijke ontwikkeling. Computers hebben niet het morele vermogen om een moreel evenwichtige beslissing te nemen over wie zal leven en wie zal sterven. Ze missen empathie of mededogen. Killer-robots zullen de aard van conflicten ten kwade veranderen.
Hoe zit het met "robotgeneraals"? Computers hebben de generaals decennialang geholpen bij het plannen van oorlog. In het begin van de jaren negentig, tijdens Operatie Desert Storm tijdens de Golfoorlog, werden hulpmiddelen voor kunstmatige intelligentie (AI) gebruikt om een opbouw in het Midden-Oosten voor het conflict te plannen. Een Amerikaanse generaal vertelde me kort daarna dat het bespaarde bedrag gelijk was aan de som van alles wat eerder aan AI-ontwikkeling was uitgegeven.
Generaals gebruiken computers ook om multivariate militaire strategieën te ontwikkelen die plotseling nodig kunnen zijn. Maar we laten niet alle beslissingen op het slagveld over aan één soldaat, daarom gaat het te ver om alle verantwoordelijkheid van het brein van de generaal naar de computerprocessor te verplaatsen.
De machine kan niet verantwoordelijk worden gehouden voor zijn beslissingen. Alleen mensen zijn verantwoordelijk. En dit is de hoeksteen van het internationaal humanitair recht. Generaals zullen echter steeds meer vertrouwen op computerondersteuning bij hun beslissingen om door de mist van oorlog te breken en om te gaan met de enorme hoeveelheid informatie die van het front komt.
Als dit resulteert in minder burgerslachtoffers, minder eigen vuur en meer respect voor het internationaal humanitair recht, moeten we dergelijke computerhulp verwelkomen. Maar de uiteindelijke beslissing moet door de mens worden genomen, niet door de machine.
Hier is een laatste vraag om over na te denken. Als technologiebedrijven zoals Google echt niet willen dat we bang zijn voor een machineopstand, waarom bouwen ze dan bots om virtuele oorlogen te winnen in plaats van ons te concentreren op iets vreedzamer, zoals vreedzame elektronische spellen? Met alle respect voor sportfans, we moeten toegeven dat de inzet op niet-oorlogsspellen veel lager uitkomt.
Toby Walsh is hoogleraar kunstmatige intelligentie aan de University of New South Wales en de onderzoeksgemeenschap Data61.