Iedereen herinnert zich de drie wetten van robotica, geformuleerd door Isaac Asimov in de jaren veertig. Destijds leek de toekomst van robots een fantasie, maar tegenwoordig zijn robots werkelijkheid geworden. En het bleek dat drie wetten om de relatie tussen robots en mensen te reguleren niet voldoende zijn. We vroegen Oksana Moroz, een culturoloog, universitair hoofddocent van RANEPA en MSSES, om ons te vertellen over de ethische problemen waarmee het binnendringen van robots in ons leven beladen is.
Robotica ontwikkelt zich zo snel dat het lijkt alsof machines in de nabije toekomst vaste partners van de mens zullen worden op bijna alle gebieden. Deskundigen verwachten nu al een toename van de verspreiding van sociale robots, en voorspellen tegen 2020 de wijdverbreide ontwikkeling van "slimme" ondernemingen. De machine is niet als deelnemer aan de opstand tegen de mensheid, maar als assistent, een noodzakelijk en nuttig element van een technocratische samenleving - dit is het beeld dat ontstaat als we kijken naar de dialoog tussen kunstmatige intelligentie en de makers ervan.
Deze toenadering geeft aanleiding tot een strijd om de relatie tussen individuen van menselijke en niet-menselijke aard te reguleren. In het afgelopen jaar zijn de legitimering van de rechten van robots, de beweging voor de erkenning van de machine als een onderwerp van het recht een integraal onderdeel geworden van de politieke agenda - het volstaat om de verhalen over de gynoid Sophia, die het burgerschap ontving, te herinneren, evenals de publicatie van de resolutie van het Europees Parlement, waarin de normen van het burgerlijk recht over robotica werden geschetst en de basis voor de toekomst legde. Het Robotics Charter.
Het creëren van al deze documenten lijkt misschien op een politiek futurologisch spel. Dergelijke conventies zijn nu echter nodig - al was het maar omdat de mensheid machines betrekt in relaties die wettelijke regulering en de definitie van wederzijdse verplichtingen vereisen. En de drie wetten van de robotica van Isaac Asimov kunnen nauwelijks als voldoende worden beschouwd - zowel vanuit ethisch als formeel oogpunt - als ondersteuning voor dergelijke interacties.
Ingenieurs racen bijvoorbeeld om een nieuw type robotassistent te ontwikkelen die niet alleen eenzaamheid kan verlichten, maar ook kan voldoen aan de natuurlijke menselijke behoefte aan seksueel genot. En terwijl de tabloids nieuws verspreiden over de creatie van androïden met bionische penissen, vrezen activisten ernstig de negatieve impact van machines op menselijke intieme praktijken. Tegen de achtergrond van voortdurend toenemende intimidatieschandalen lijkt de toekomst, waarin mogelijk alle seksuele gewoonten worden bevredigd met een onderdanige sekspop, alleen maar onbewolkt.
Mensen weten blijkbaar nog steeds niet altijd hoe ze de grenzen van toelaatbaar, acceptabel en ongewenst seksueel gedrag moeten doorbreken; over het algemeen zijn ze niet vaak geneigd om deze kant van de relatie in een dialoog tussen partners te bespreken. Wanneer machines - geprogrammeerd om gedwee alle wensen van de eigenaar te vervullen en uitgerust met algoritmen om zijn / haar smaak te bestuderen - in zo'n moeilijk geformaliseerde maar een soort reguleringszone vallen, zien ze er op het eerste gezicht alleen uit als redding.
In feite ontmenselijken ze seks en veranderen ze het in een proces van het gebruik van een voorwerp zonder stemrecht en wilskracht. En, volgens mensenrechtenactivisten, lokken ze daardoor de ontwikkeling van vrouwenhaat en misandrie uit. Een persoon kan sympathie voelen voor zelfs de meest antropomorfe robots, zich in hen inleven. Extreem antropomorfe machines zijn veel gemakkelijker het object van emoties te worden, impliciet gebaseerd op de herkenning van de aanwezigheid van een bepaalde identiteit in het geprogrammeerde object. De gewoonte om seksrobots te gebruiken, waarvan de identiteit bestaat uit uiterlijke aantrekkelijkheid en activiteit, nederigheid, ondersteuning en vervulling van alle eisen van de eigenaar, kan ertoe leiden dat dergelijk gedrag alleen als norm wordt erkend. En zelfs - om zo'n vorm van relatie over te dragen aan levende mensen,of zelfs weigeren om te communiceren met "organische" partners.
Overigens zijn robots niet alleen goed in bed, maar ook in oorlog. Ten minste één van de beruchte vierpotige wezens van het bedrijf Boston Dynamics is geproduceerd met directe financiering van het Office of Advanced Research Projects van het Amerikaanse ministerie van Defensie in overeenstemming met het Maximum Mobility and Manipulation-programma. Het gebruik van drones in de strijd tegen internationaal terrorisme en, in het algemeen, militaire operaties in het Midden-Oosten in het kader van de zogenaamde lage-intensiteitsconflicten is een verhaal dat pas in de jaren 2010 geheim kon worden genoemd.
Promotie video:
Sommige experts zijn over het algemeen van mening dat de digitalisering van oorlog een gevolg is van de dot-com-zeepbel - het gebruik van nieuwe technologieën diende toen om de efficiëntie van traditionele zaken te vergroten. En wat zou een meer traditionele en klassieke winstgevende activiteit kunnen zijn dan oorlog?
Anderen zijn van mening dat de prijs die staten en burgers betalen om oorlog te digitaliseren te hoog is. Het onvermogen om de menselijke factor volledig uit het proces van vernietiging van slachtoffers op afstand te elimineren, leidt tot de opkomst van nieuwe vormen van PTSD bij drone-operators. En volledig adequate methoden om deze aandoening te behandelen zijn nog niet gevonden. Bovendien betekent het officieel erkennen van dit soort dienstverlening als potentieel traumatisch, het beschadigen van het gelukzalige beeld dat met alle middelen wordt gecreëerd rond militaire operaties op afstand.
Aan de andere kant is de ontwikkeling van robotica en vooral kunstmatige intelligentie, waarvan de oplossingen zelfs voor ontwikkelaars niet altijd duidelijk zijn, niet zomaar een stap in het oplossen van het probleem van oorlogsautomatisering als een zeer hulpbronnenintensieve en energie-intensieve vorm van menselijke activiteit. Dit is een fundamentele inbreuk op bestaande ethische conventies die al eeuwenlang in het oorlogsrecht zijn opgenomen en die in de moderne tijd als basis hebben gediend voor een hele reeks wettelijke normen en principes: het internationaal humanitair recht. Dit is de opname van wiskundige logica en algoritmen in de vergelijking, waarvan delen "menselijk, te menselijk" waren. Samen iets creëren dat kan leren, maar zeker niet weet hoe morele keuzes te maken - dat wil zeggen, het heeft geen vaardigheid die erg belangrijk is om kwesties van leven en dood te bespreken.
Het is buitengewoon interessant om de oneindigheid van ethische paradoxen te observeren die gepaard gaan met de opkomende samenwerking tussen robotsystemen die beweren een soort identiteit te bezitten en menselijkheid. De vooruitzichten voor samenwerking tussen mensen en machines zullen echter pas echt interessant worden als we niet kennis maken met de fantastische aannames van schrijvers of IT-evangelisten over waar de robots om geven, maar met de mening van de levende wezens van niet-menselijke aard zelf.
Oksana Moroz