Het Amerikaanse ministerie van Defensie heeft ethische principes geformuleerd en aangenomen, op basis waarvan militaire kunstmatige-intelligentiesystemen in het land zullen worden ontwikkeld en toegepast. Volgens het Pentagon liet het leger zich bij het formuleren van principes leiden door de Amerikaanse grondwet, het tiende hoofdstuk van de Amerikaanse code (beschrijft de rol van de strijdkrachten), de wetten en gebruiken van oorlog, evenals internationale verdragen en "gevestigde normen en waarden".
Actieve ontwikkelingen op het gebied van het creëren van kunstmatige-intelligentiesystemen hebben ertoe geleid dat dergelijke systemen geleidelijk worden geïntroduceerd in wapens en militaire uitrusting. In het bijzonder worden systemen ontwikkeld waarmee drones automatisch doelen kunnen detecteren en prioriteren, of drones die als slaaf voor bemande vliegtuigen kunnen optreden. Er worden ook systemen voor kunstmatige intelligentie ontwikkeld die radiotransmissies kunnen ontsleutelen. Kunstmatige intelligentie zal bij toekomstige militaire ontwikkelingen steeds belangrijker worden.
De actieve introductie van kunstmatige intelligentiesystemen in wapens en militaire uitrusting roept veel ethische vragen op. In het bijzonder is nog niet duidelijk hoe legitiem het is om autonome wapensystemen in een oorlog te gebruiken en wat voor soort bedreiging ze vormen voor burgers die in een gevechtszone zijn gevangen.
In totaal heeft het Pentagon vijf ethische principes geformuleerd voor het gebruik van kunstmatige-intelligentiesystemen voor militaire doeleinden:
- Verantwoordelijkheid. Militair personeel moet de prestaties van kunstmatige intelligentie zorgvuldig evalueren en volledig verantwoordelijk blijven voor het ontwerp, de inzet en het gebruik van kunstmatige-intelligentiesystemen.
- Onpartijdigheid. Het Amerikaanse ministerie van Defensie moet maatregelen nemen om ongewenste afwijkingen in de mogelijkheden van kunstmatige-intelligentiesystemen tot een minimum te beperken.
- Traceerbaarheid. Militaire kunstmatige-intelligentiesystemen en hun capaciteiten moeten zo worden ontworpen en ingezet dat het personeel voldoende kennis heeft van technologie, ontwikkelingsprocessen en toepassingen. Methodologieën, gegevens en documentatie met betrekking tot de gebruikte kunstmatige-intelligentiesystemen moeten beschikbaar zijn voor militair personeel.
- Betrouwbaarheid. De mogelijkheden van militaire kunstmatige-intelligentiesystemen moeten eenduidig en duidelijk geformuleerd zijn. De veiligheid en effectiviteit van dergelijke capaciteiten moet worden geverifieerd door middel van testen en gevalideerd gedurende hun gehele levensduur.
- Ondergeschiktheid. Militaire AI-systemen moeten hun beoogde taken volledig uitvoeren, maar het leger moet ongewenste effecten van kunstmatige intelligentie kunnen detecteren en voorkomen. Het leger zou ook in staat moeten zijn om kunstmatige-intelligentiesystemen die afwijkingen vertonen, uit te schakelen of te sluiten.
Het Pentagon heeft ook het Joint Center for Artificial Intelligence aangesteld om verantwoordelijk te zijn voor de implementatie van de principes van het gebruik van kunstmatige intelligentiesystemen. In totaal heeft het Amerikaanse ministerie van Defensie 15 maanden lang met ontwikkelaars en wetenschappelijke organisaties geraadpleegd en de principes geformuleerd voor het gebruik van kunstmatige-intelligentiesystemen. Tegelijkertijd merkten sommige deskundigen op dat de aangenomen formuleringen vaag zijn en dat er geen duidelijke regels zijn over wat het leger wel en niet moet doen bij het ontwikkelen en gebruiken van kunstmatige-intelligentiesystemen.
Vasily Sychev
