Amerikaanse experts ontwikkelen een neuraal netwerk dat de beslissingen van gevechtsrobots kan verklaren. Dit zal het vertrouwen van de mens in de "elektronische soldaten" vergroten.
Het Explainable Artificial Intelligence-project, of simpelweg XAI (Explainable Artificial Intelligence), zal mensen en robots in staat stellen elkaar beter te begrijpen. Het XAI neurale netwerk zal een logische ketting van "redeneren" van de robot opbouwen en de persoon laten zien waarom de machine precies zo'n beslissing heeft genomen - bijvoorbeeld om het vuur te openen op een specifiek doelwit.
Er wordt gewerkt aan de ontwikkeling van gemengde robot-menselijke gevechtseenheden in het Amerikaanse leger. Tot nu toe is het moeilijk voor te stellen, maar over een paar decennia zullen robots, net als mensen, volwaardige soldaten worden. Bovendien zijn ze in staat om een persoon te vervangen in situaties waarin het nodig kan zijn om het vuur te openen op een levend doelwit. Zo'n vervanging zal een persoon formeel ontslaan van de verantwoordelijkheid voor het nemen van een dodelijke beslissing, maar het zal hem geen twijfel en wroeging kunnen ontnemen, en kan ook wantrouwen jegens robots veroorzaken. Je weet maar nooit - misschien zijn robots eigenlijk elektronische maniakken die graag doden?
Het XAI-project zou dit probleem in mens-robotinteractie moeten oplossen. Dankzij de introductie van het nieuwe systeem zullen de militairen (degenen die nog levende mensen zijn) kunnen begrijpen aan de hand van welk criterium de machine dit of dat object of persoon als een bedreiging heeft beoordeeld. Bovendien zal XAI het voor gevechtsrobots gemakkelijker maken om zich aan te passen aan de realiteit van een specifiek militair conflict en de mate van zinloze wreedheid verminderen.
De nieuwe ontwikkeling zal niet alleen nuttig zijn voor het leger. Het kan ook worden gebruikt in de civiele sfeer - in de industrie, beveiligingssystemen en medicijnen. Een voorbeeld van een dergelijk gebruik wordt gegeven door Bill Ferguson, een toonaangevende specialist bij Raytheon, die direct betrokken is bij de ontwikkeling van een neuraal netwerk. “Als kunstmatige intelligentie op de röntgenfoto tekenen van longkanker detecteert, kan de dokter achterhalen waarom de machine dat heeft besloten. De computer zal alle verdachte gebieden markeren die de dokter had kunnen negeren en aangezien voor beeldartefacten. Daarna kan de arts voor zichzelf bepalen of het de moeite waard is om de diagnose te corrigeren, of dat het neurale netwerk zich vergist heeft”, legt de wetenschapper uit.