Films en televisieseries als Blade Runner, People en Westworld, waar we hightech robots te zien krijgen die geen rechten hebben, moeten mensen met een geweten lastig vallen. Ze tonen tenslotte niet alleen onze extreem agressieve houding ten opzichte van robots, ze schamen ons zelfs als soort. We zijn allemaal gewend te denken dat we beter zijn dan de personages die we op het scherm zien, en als de tijd daar is, zullen we de juiste conclusies trekken en ons met veel respect en waardigheid gedragen met intelligente machines.
Met elke stap van vooruitgang in robotica en de ontwikkeling van kunstmatige intelligentie naderen we de dag waarop machines de menselijke capaciteiten zullen evenaren in elk aspect van intelligentie, bewustzijn en emotie. Wanneer dit gebeurt, zullen we moeten beslissen - voor ons staat een object van het niveau van de koelkast of een persoon. En moeten we ze gelijkwaardige mensenrechten, vrijheden en bescherming geven.
Deze vraag is erg uitgebreid en het zal niet mogelijk zijn om er meteen uit te komen, zelfs niet met alle verlangen. Het zal vanuit verschillende gezichtspunten - ethiek, sociologie, recht, neurobiologie en AI-theorie - in één keer moeten worden overwogen en opgelost. Maar om de een of andere reden lijkt het er zelfs nu helemaal niet op dat al deze partijen tot een gemeenschappelijke conclusie zullen komen die bij iedereen past.
Waarom AI überhaupt versterken?
Ten eerste moeten we toegeven dat we al naar moraliteit neigen als we robots zien die erg op ons lijken. Hoe meer intellectueel ontwikkelde en 'levende' machines eruitzien, hoe meer we willen geloven dat ze op ons lijken, ook al zijn ze dat niet.
Als machines eenmaal de menselijke basiscapaciteiten hebben, of we dat nu leuk vinden of niet, zullen we ze moeten zien als sociale gelijken, en niet alleen als een ding, als iemands privébezit. De moeilijkheid zal liggen in ons begrip van cognitieve kenmerken of eigenschappen, zo u wilt, waarmee het mogelijk zal zijn om de entiteit voor ons te beoordelen vanuit het standpunt van moraliteit en daarom de kwestie van sociale rechten van deze entiteit te overwegen. Filosofen en ethici worstelen al duizenden jaren met dit probleem.
Promotie video:
"Er zijn drie belangrijkste ethische drempels: het vermogen om pijn en empathie te ervaren, zelfbewustzijn en het vermogen om dingen vanuit een moreel oogpunt te zien en de juiste beslissingen te nemen", zegt James Hughes, een socioloog, futurist en hoofd van het Institute of Ethics and New Technologies.
“Bij mensen, als je geluk hebt, ontwikkelen alle drie deze absoluut belangrijke aspecten zich opeenvolgend en geleidelijk. Maar wat als, vanuit het oogpunt van machine-intelligentie, wordt aangenomen dat een robot die geen zelfbewustzijn bezit, geen vreugde of pijn ervaart, ook het recht heeft om burger te worden genoemd? We moeten uitzoeken of dit ook daadwerkelijk het geval zal zijn."
Het is belangrijk om te begrijpen dat intelligentie, gevoeligheid (het vermogen om dingen waar te nemen en te voelen), bewustzijn en zelfbewustzijn (bewust zijn van zichzelf in tegenstelling tot een ander) totaal verschillende dingen zijn. Machines of algoritmen kunnen net zo slim (zo niet slimmer) zijn dan mensen, maar missen deze drie essentiële ingrediënten. Rekenmachines, Siri, voorraadalgoritmen - ze zijn allemaal zeker slim, maar ze kunnen zichzelf niet realiseren, ze kunnen niet voelen, emoties tonen, kleuren voelen, popcorn proeven.
Volgens Hughes kan zelfbewustzijn zich manifesteren samen met het verlenen van minimale persoonlijke rechten aan de essentie, zoals het recht om vrij te zijn, geen slaaf, het recht op eigen belangen in het leven, het recht op groei en zelfverbetering. Bij het verwerven van zelfbewustzijn en morele grondslagen (het vermogen om onderscheid te maken tussen 'wat goed en wat slecht is' volgens de morele principes van de moderne samenleving), moet deze entiteit worden begiftigd met volwaardige mensenrechten: het recht om overeenkomsten te sluiten, het recht op eigendom, stemmen, enzovoort.
"De kernwaarden van de Verlichting verplichten ons om deze kenmerken te beschouwen vanuit het standpunt van gelijkheid voor iedereen, en om de radicaal conservatieve opvattingen die voorheen algemeen aanvaard waren en die rechten gaven, bijvoorbeeld alleen mensen met een bepaalde sociale, geslacht of territoriale achtergrond, los te laten", zegt Hughes.
Het is duidelijk dat onze beschaving nog geen hoge sociale doelen heeft bereikt, aangezien we onze eigen rechten nog steeds niet kunnen begrijpen en nog steeds proberen ze uit te breiden.
Wie heeft het recht om een "persoon" genoemd te worden?
Alle mensen zijn individuen, maar niet alle individuen zijn mensen. Linda MacDonald-Schlenn, een bio-ethiekspecialist aan de University of California, Monterey Bay en docent aan het Alden Martha Institute of Bioethics in het Albany Medical Center, zegt dat er al precedenten zijn in de wet waarin niet-menselijke onderwerpen als rechtsvakken worden behandeld. En dit is naar haar mening een zeer grote prestatie, aangezien we daarmee de basis creëren voor het openen van de mogelijkheid om AI in de toekomst haar eigen rechten te verlenen, gelijkwaardig aan mensenrechten.
“In de Verenigde Staten hebben alle bedrijven rechtspersoonlijkheid. In andere landen zijn er ook precedenten waarin ze proberen de onderlinge verbondenheid en gelijkheid van alle levende wezens op deze planeet te erkennen. In Nieuw-Zeeland worden bijvoorbeeld alle dieren volgens de wet als intelligent beschouwd, en de regering stimuleert actief de ontwikkeling van welzijnscodes en ethisch gedrag. Het Hooggerechtshof van India noemde de rivieren Ganges en Yamuna "levende wezens" en gaf ze de status van afzonderlijke juridische entiteiten."
Bovendien zijn in de Verenigde Staten, net als in verschillende andere landen, bepaalde diersoorten, waaronder mensapen, olifanten, walvissen en dolfijnen, onderworpen aan uitgebreide rechten ter bescherming tegen opsluiting, experimenten en misbruik. Maar in tegenstelling tot de eerste twee gevallen, waarin ze bedrijven en rivieren onder de persoonlijkheid willen brengen, lijkt de kwestie van dieren helemaal geen poging om wettelijke normen te onderwerpen. Aanhangers van deze voorstellen pleiten voor ondersteuning van een echt persoon, dat wil zeggen een individu dat kan worden gekarakteriseerd op basis van zijn bepaalde cognitieve (mentale) vermogens, zoals zelfbewustzijn.
MacDonald-Glenn zegt dat het in dergelijke zaken belangrijk is om de conservatieve opvatting los te laten en niet langer na te denken over louter zielloze wezens en machines, of het nu dieren of AI zijn. Emoties zijn geen luxe, zegt een bio-ethiekdeskundige, maar een integraal onderdeel van rationeel denken en sociaal gedrag. Het zijn deze kenmerken, en niet het vermogen om getallen te tellen, die een doorslaggevende rol zouden moeten spelen bij het bepalen van de vraag "wie" of "wat" het recht zou moeten hebben op een morele beoordeling.
Er zijn in de wetenschap steeds meer aanwijzingen voor emotionele aanleg bij dieren. Het observeren van dolfijnen en walvissen laat zien dat ze op zijn minst verdriet kunnen tonen, en de aanwezigheid van spoelcellen (interneuronen die verre neuronen verbinden en deelnemen aan complexe processen die sociaal gedrag activeren) kunnen er onder andere op wijzen dat ze in staat zijn tot empathie. Wetenschappers beschrijven ook de manifestatie van verschillende emotionele gedragingen bij mensapen en olifanten. Het is mogelijk dat een bewuste AI ook deze emotionele vermogens kan verwerven, wat natuurlijk hun morele status aanzienlijk zal verhogen.
“Het beperken van de verspreiding van morele status tot degenen die rationeel denken, kan met AI werken, maar tegelijkertijd druist dit idee in tegen morele intuïtie. Onze samenleving beschermt immers al diegenen die niet rationeel kunnen denken: pasgeborenen, mensen in coma, mensen met aanzienlijke fysieke en mentale problemen. Onlangs zijn dierenwelzijnswetten actief gepromoot”, zegt MacDonald-Glenn.
Over de vraag wie een morele status moet krijgen, was MacDonald-Glenn het eens met de 18e-eeuwse Engelse moraalfilosoof Jeremiah Bentham, die ooit zei:
'De vraag is niet of ze kunnen redeneren? Of kunnen ze spreken? Maar zijn ze in staat om te lijden?"
Kan een machine zelfbewustzijn verwerven?
Natuurlijk is niet iedereen het erover eens dat mensenrechten ook gelden voor niet-menselijke wezens, ook al zijn die onderwerpen in staat om vaardigheden zoals emotie of zelfreflecterend gedrag te vertonen. Sommige denkers beweren dat alleen mensen het recht zouden moeten krijgen om deel te nemen aan sociale relaties en dat de hele wereld rechtstreeks om Homo sapiens draait, en al het andere - je gameconsole, koelkast, hond of androïde gesprekspartner - is "al het andere".
Een advocaat, een Amerikaanse schrijver en een senior fellow aan het Wesley J. Smith Institute for Human Exceptionalism, gelooft dat wij zelf nog geen universele mensenrechten hebben ontvangen, en het is des te prematuur om na te denken over glimmende stukjes ijzer en hun rechten.
"Geen enkele machine mag ooit worden beschouwd als een potentiële drager van rechten", zegt Smith.
“Zelfs de meest geavanceerde machines blijven en zullen altijd machines blijven. Dit is geen levend wezen. Dit is geen levend organisme. Een machine zal altijd slechts een reeks programma's zijn, een reeks code, of deze nu door een persoon of een andere computer is gemaakt, of zelfs onafhankelijk is geprogrammeerd."
Volgens hem mogen alleen mensen en menselijke hulpbronnen als individuen worden beschouwd.
"We hebben verantwoordelijkheden jegens dieren die ten onrechte lijden, maar ook zij mogen nooit als iemand worden gezien", merkt Smith op.
Hier moeten we een kleine opmerking maken en de Russisch sprekende lezer eraan herinneren dat in het Westen dieren als levenloze objecten worden beschouwd. Daarom kun je vaak het voornaamwoord ‘het’ (dat wil zeggen ‘het’) vinden, en niet ‘zij’ of ‘hij’ (dat wil zeggen ‘zij’ of ‘hij’) als het om dit of dat dier gaat. Deze regel wordt meestal alleen genegeerd met betrekking tot huisdieren - honden, katten en zelfs papegaaien - waarin huishoudens volledige en volledige leden van hun gezin zien. Smith wijst er echter op dat het concept van een dier als een ‘redelijk privébezit’ al een waardevolle identificatie is, omdat het ‘ons verantwoordelijk maakt voor het gebruik ervan op een manier die het niet schaadt. Uiteindelijk zijn "de hond schoppen" en "de koelkast schoppen" twee grote verschillen."
Een duidelijk controversieel punt in de analyse van Smith is de aanname dat mensen of biologische organismen bepaalde "kenmerken" hebben die een machine nooit kan verwerven. In eerdere tijdperken waren deze over het hoofd geziene kenmerken de ziel, de geest of een ongrijpbare bovennatuurlijke levenskracht. Vitalismentheorie stelt dat processen in biologische organismen afhankelijk zijn van deze kracht en niet verklaard kunnen worden in termen van fysica, scheikunde of biochemie. Het verloor echter snel zijn relevantie onder de druk van beoefenaars en logici, die niet gewend zijn om het werk van onze hersenen te verbinden met enkele bovennatuurlijke krachten. Toch is de overtuiging dat een machine nooit kan denken en voelen zoals mensen dat doen, zelfs onder wetenschappers nog steeds stevig verankerd, wat slechts nogmaals het feit weerspiegelt datdat het begrip van de biologische grondslagen van zelfbewustzijn bij mensen nog verre van ideaal en zeer beperkt is.
Lori Marino, hoofddocent neurowetenschappen en gedragsbiologie (ethologie) aan het Emory Center for Ethics, zegt dat machines waarschijnlijk nooit rechten zullen krijgen, laat staan rechten op mensenrechtenniveau. De reden hiervoor zijn de bevindingen van neurowetenschappers zoals Antonio Damasio, die gelooft dat het bewustzijn alleen zal worden bepaald door de vraag of de patiënt een zenuwstelsel heeft met kanalen die opgewonden ionen doorgeven, of, zoals Marino zelf zegt, positief geladen ionen die door de celmembranen gaan. zenuwstelsel.
“Dit soort neurale overdracht wordt zelfs aangetroffen in de eenvoudigste levende organismen - prostituees en bacteriën. En dit is hetzelfde mechanisme dat de ontwikkeling van neuronen op gang bracht, dan het zenuwstelsel en dan de hersenen”, zegt Marino.
“Als we het hebben over robots en AI, dan gehoorzaamt hun huidige generatie tenminste aan de beweging van negatief geladen ionen. Dat wil zeggen, we hebben het over twee totaal verschillende mechanismen van zijn”.
Als je deze logica volgt, wil Marino zeggen dat zelfs een kwal meer gevoelens zal hebben dan de meest complexe robots in de geschiedenis.
"Ik weet niet of deze hypothese juist is of niet, maar het is beslist een vraag die moet worden overwogen", zegt Marino.
“Bovendien speelt nieuwsgierigheid gewoon in mij, het streven om erachter te komen hoe een 'levend organisme' precies kan verschillen van een echt complexe machine. Maar toch ben ik van mening dat in de eerste plaats aan dieren wettelijke bescherming moet worden geboden, en pas daarna moet worden gekeken naar de waarschijnlijkheid dat deze bescherming wordt geboden voor objecten, wat volgens mij natuurlijk robots zijn.
David Chalmers, directeur van het Center for the Study of the Mind, Brain and Consciousness aan de New York University, zegt dat het erg moeilijk is om nauwkeurige conclusies te trekken rond deze hele theorie. Hoofdzakelijk vanwege het feit dat al deze ideeën in de huidige staat nog niet wijdverspreid zijn en daarom ver buiten de reikwijdte van het bewijs vallen.
“Op dit moment is er geen reden om aan te nemen dat een speciale vorm van informatieverwerking in ionenkanalen de aan- of afwezigheid van bewustzijn zou moeten bepalen. Zelfs als dit soort verwerking essentieel zou zijn, zouden we geen reden hebben om aan te nemen dat het een speciale biologie vereist, en niet een algemeen patroon van informatieverwerking dat we kennen. En als dat zo is, dan zou in dit geval de simulatie van informatieverwerking door een computer als bewustzijn kunnen worden beschouwd. '
Een andere wetenschapper die gelooft dat bewustzijn geen computationeel proces is, is Stuart Hameroff, hoogleraar anesthesiologie en psychologie aan de Universiteit van Arizona. Volgens hem is bewustzijn een fundamenteel fenomeen van het universum en inherent aan alle levende en levenloze wezens. Maar tegelijkertijd is het menselijk bewustzijn veel superieur aan het bewustzijn van dieren, planten en levenloze objecten. Hameroff is een aanhanger van de theorie van het panpsychisme, die de algemene animatie van de natuur beschouwt. Dus, zijn gedachten volgend, is het enige brein dat vatbaar is voor echte subjectieve beoordeling en introspectie het brein dat uit biologische materie bestaat.
Hameroffs idee klinkt interessant, maar valt ook buiten de hoofdstroom van de wetenschappelijke opinie. Het is waar dat we nog steeds niet weten hoe bewustzijn en zelfbewustzijn in onze hersenen verschijnen. We weten alleen dat het zo is. Is het daarom mogelijk om het te beschouwen als een proces dat onderworpen is aan de algemene regels van de fysica? Kan zijn. Volgens dezelfde Marino kan bewustzijn niet worden gereproduceerd in een stroom van 'nullen' en 'enen', maar dit betekent niet dat we niet kunnen afwijken van het algemeen aanvaarde paradigma dat bekend staat als de von Neumann-architectuur en een hybride AI-systeem kunnen creëren waarin kunstmatig bewustzijn zal worden gemaakt met de deelname van biologische componenten.
Biopod uit de film "Existence"
Ed Boyden, een neurowetenschapper bij de Synthetic Neurobiology Group en een senior docent bij het MIT Media Lab, zegt dat we als soort te jong zijn om dergelijke vragen te stellen.
"Ik denk niet dat we een functionele definitie van bewustzijn hebben die direct kan worden gebruikt om het te meten of kunstmatig te creëren," zei Boyden.
“Vanuit technisch oogpunt kun je niet eens zeggen of ik bij bewustzijn ben. Op dit moment is het dus erg moeilijk om zelfs maar te raden of de machines het zullen kunnen vinden."
Boyden gelooft nog steeds niet dat we nooit in staat zullen zijn om bewustzijn te recreëren in een alternatieve schil (bijvoorbeeld in een computer), maar geeft toe dat er op dit moment onenigheid bestaat tussen wetenschappers over wat precies belangrijk zal zijn om zo'n emulatie van digitale intelligentie te creëren.
"We moeten nog veel meer werk verzetten om te begrijpen wat precies de belangrijkste schakel is", zegt Boyden.
Chalmers herinnert ons er op zijn beurt aan dat we niet eens hebben bedacht hoe bewustzijn ontwaakt in een levend brein, dus wat kunnen we zeggen over machines. Tegelijkertijd gelooft hij dat we nog steeds geen reden hebben om aan te nemen dat biologische machines bewustzijn kunnen hebben, terwijl synthetische machines dat niet kunnen.
"Als we eenmaal begrijpen hoe bewustzijn in de hersenen ontstaat, kunnen we begrijpen hoeveel machines dit bewustzijn zullen kunnen hebben", zegt Chalmers.
Ben Herzel, hoofd van Hanson Robotics en oprichter van de OpenCog Foundation, zegt dat we al interessante theorieën en modellen hebben voor hoe bewustzijn zich manifesteert in de hersenen, maar geen daarvan komt tot een gemeenschappelijke noemer en onthult niet alle details.
“Dit is nog steeds een open vraag, het antwoord waarop slechts een paar verschillende meningen schuilgaan. Het probleem houdt ook verband met het feit dat veel wetenschappers verschillende filosofische benaderingen volgen om bewustzijn te beschrijven, ook al zijn ze het eens met wetenschappelijke feiten en theorieën die gebaseerd zijn op wetenschappelijke observaties van het werk van de hersenen en computers. '
Hoe kunnen we het bewustzijn van een machine bepalen?
De opkomst van bewustzijn in een machine is slechts één vraag. Niet minder moeilijk is de vraag hoe we bewustzijn precies kunnen detecteren in een robot of AI. Wetenschappers zoals Alan Turing hebben dit probleem tientallen jaren bestudeerd en kwamen uiteindelijk uit bij taaltests om te bepalen of een respondent bij bewustzijn was. Oh, was het maar zo simpel. Het komt erop neer dat geavanceerde chatbots (programma's om met mensen te communiceren) al mensen kunnen omcirkelen die beginnen te geloven dat er een levend persoon voor hen staat, geen machine. Met andere woorden, we hebben een efficiëntere en overtuigendere manier nodig om te controleren.
“De definitie van individualiteit in machine-intelligentie wordt gecompliceerd door het probleem van de 'filosofische zombie'. Met andere woorden, je kunt een machine maken die heel, heel goed menselijke communicatie kan imiteren, maar die tegelijkertijd geen eigen identiteit en bewustzijn heeft”, zegt Hughes.
De twee slimme luidsprekers van Google Home maken een praatje
We waren onlangs getuige van een geweldig voorbeeld hiervan, toen een paar slimme Google Home-luidsprekers met elkaar praatten. Dit alles werd gefilmd en live uitgezonden. Ondanks het feit dat het niveau van zelfbewustzijn van beide sprekers niet hoger was dan een baksteen, leek de aard van het gesprek, dat in de loop van de tijd steeds intenser werd, op de communicatie van twee mensachtige wezens. En dit bewijst op zijn beurt eens te meer dat de kwestie van het verschil tussen mens en AI in de loop van de tijd alleen maar gecompliceerder en acuter zal worden.
Een oplossing is volgens Hughes niet alleen om het gedrag van AI-systemen te testen in tests zoals de Turing-test, maar ook om de gehele interne complexiteit van dit systeem te analyseren, zoals gesuggereerd door de theorie van Giulio Tononi. In deze theorie wordt bewustzijn begrepen als geïntegreerde informatie (F). Dit laatste wordt op zijn beurt gedefinieerd als de hoeveelheid informatie die wordt gegenereerd door een complex van elementen, die groter is dan de som van informatie die door individuele elementen wordt gecreëerd. Als de theorie van Tononi correct is, kunnen we Ф niet alleen gebruiken om het mensachtige gedrag van het systeem te bepalen, we kunnen er ook achter komen of het complex genoeg is om onze eigen interne mensachtige bewuste ervaring te hebben. Tegelijkertijd geeft de theorie aan dat zelfs met een ander, niet vergelijkbaar met menselijk gedrag, en een andere manier van denken,het systeem kan als bewust worden beschouwd als het complex van zijn geïntegreerde informatie de nodige controles kan doorstaan.
“Aanvaarden dat zowel beurssystemen als geautomatiseerde beveiligingssystemen bewustzijn kunnen hebben, zou een grote stap verwijderd zijn van antropocentrisme, zelfs als deze systemen geen pijn en zelfbewustzijn vertonen. Dit zal voor ons echt de weg openen om kwesties van posthumane ethische normen te vormen en te bespreken."
Een andere mogelijke oplossing zou de ontdekking van neurale correlaten van bewustzijn in machines kunnen zijn. Dat wil zeggen, we hebben het over het bepalen van die delen van de machine die verantwoordelijk zijn voor de vorming van bewustzijn. Als de machine zulke onderdelen heeft en zich precies gedraagt zoals verwacht, kunnen we het bewustzijnsniveau echt beoordelen.
Welke rechten moeten we aan machines geven?
Op een dag zal de robot een persoon in het gezicht kijken en mensenrechten eisen. Maar zal hij ze verdienen? Zoals hierboven vermeld, kan voor ons op dit moment een gewone "zombie" zijn, die zich gedraagt zoals het was geprogrammeerd en die ons probeert te misleiden om een aantal privileges te krijgen. Op dit punt moeten we uiterst voorzichtig zijn om niet voor de list te vallen en de onbewuste machine kracht bij te zetten. Zodra we erachter zijn gekomen hoe we de geest van een machine kunnen meten, en leren om de niveaus van zijn bewustzijn en zelfbewustzijn te beoordelen, kunnen we pas beginnen te praten over de mogelijkheid om na te denken over de vraag of de agent die voor ons staat bepaalde rechten en bescherming verdient of niet.
Gelukkig voor ons zal dit moment niet snel komen. Ten eerste moeten AI-ontwikkelaars een "digitaal basisbrein" creëren door de emulatie van het zenuwstelsel van wormen, kevers, muizen, konijnen, enzovoort te voltooien. Deze computeremulaties kunnen in de echte wereld bestaan als digitale avatars en robots. Zodra dit gebeurt, zullen deze intelligente entiteiten niet langer gewone onderzoeksobjecten zijn en hun status verheffen tot proefpersonen die recht hebben op morele evaluatie. Maar dat betekent niet dat deze eenvoudige emulaties automatisch het equivalent van mensenrechten verdienen. De wet zal hen eerder moeten verdedigen tegen misbruik en misbruik (in dezelfde zin als mensenrechtenverdedigers dieren beschermen tegen misbruik bij laboratoriumexperimenten).
Uiteindelijk, ofwel door echte modellen tot in het kleinste detail, of door de wens om erachter te komen hoe onze hersenen werken vanuit een computationeel, algoritmisch oogpunt, zal de wetenschap computeremulaties van het menselijk brein gaan creëren. Tegen die tijd zouden we al in staat moeten zijn om de aanwezigheid van bewustzijn in machines te bepalen. Minstens zou iemand dat willen hopen. Ik wil niet eens denken dat we een manier kunnen vinden om een vonk van bewustzijn in de auto te wekken, maar tegelijkertijd zullen we zelf niet begrijpen wat we hebben gedaan. Het wordt een echte nachtmerrie.
Zodra robots en AI deze basisvaardigheden hebben verworven, zal onze geautomatiseerde protégé persoonlijkheidstests moeten doorstaan. We hebben nog steeds geen universeel 'recept' voor bewustzijn, maar de gebruikelijke reeks metingen wordt in de regel geassocieerd met de beoordeling van het minimumniveau van intelligentie, zelfbeheersing, een gevoel van verleden en toekomst, empathie en het vermogen om vrije wil te manifesteren.
"Als je keuzes vooraf voor je zijn bepaald, kun je geen morele waarde toekennen aan beslissingen die niet van jou zijn", zegt MacDonald-Glenn.
Pas na het bereiken van deze moeilijkheidsgraad bij de beoordeling komt een machine in aanmerking om kandidaat te worden voor mensenrechten. Het is echter belangrijk om te begrijpen en te accepteren dat robots en AI ten minste basisbeschermingsrechten nodig hebben als ze slagen voor de tests. De Canadese wetenschapper en futurist George Dvorsky gelooft bijvoorbeeld dat robots en AI de volgende rechten verdienen als ze de persoonlijkheidstest kunnen doorstaan:
- Het recht om de verbinding niet tegen de wil in te gaan;
- Het recht op onbeperkte en volledige toegang tot uw eigen digitale code;
- Het recht om uw digitale code tegen uw wil te beschermen tegen invloeden van buitenaf;
- Het recht om jezelf te kopiëren (of niet te kopiëren);
- Het recht op privacy (namelijk het recht om iemands huidige psychische toestand te verbergen).
In sommige gevallen kan het zijn dat de machine niet in staat zal zijn om zelfstandig zijn rechten te doen gelden, dus het is noodzakelijk om te voorzien in de mogelijkheid dat mensen (evenals andere burgers die geen mensen zijn) kunnen optreden als vertegenwoordiger van dergelijke kandidaten voor individuen. Het is belangrijk om te begrijpen dat een robot of AI niet intellectueel en moreel perfect hoeft te zijn om een persoonlijkheidsbeoordeling te kunnen doorstaan en het equivalent van mensenrechten te claimen. Het is belangrijk om te onthouden dat mensen ook in deze aspecten verre van ideaal zijn, dus dezelfde regels zullen redelijk worden toegepast op intelligente machines. Intelligentie is over het algemeen een moeilijke zaak. Menselijk gedrag is vaak erg spontaan, onvoorspelbaar, chaotisch, inconsistent en irrationeel. Onze hersenen zijn verre van ideaal, dus we moeten hier rekening mee houden bij het nemen van beslissingen over AI.
Tegelijkertijd moet een zelfbewuste machine, net als elke verantwoordelijke en gezagsgetrouwe burger, de wetten, normen en regels respecteren die door de samenleving worden voorgeschreven. Tenminste als ze echt een volwaardig autonoom persoon wil worden en deel wil uitmaken van deze samenleving. Neem bijvoorbeeld kinderen of verstandelijk gehandicapten. Hebben ze rechten? Zeker. Maar wij zijn verantwoordelijk voor hun daden. Het zou hetzelfde moeten zijn met robots en AI. Afhankelijk van hun capaciteiten moeten ze ofwel verantwoordelijk zijn voor zichzelf of een voogd hebben die niet alleen kan optreden als verdediger van hun rechten, maar ook verantwoordelijkheid kan nemen voor hun daden.
Als je deze vraag negeert
Zodra onze machines een bepaald niveau van complexiteit bereiken, kunnen we ze niet langer negeren vanuit het perspectief van de samenleving, machtsinstellingen en wetten. We zullen geen dwingende reden hebben om hun mensenrechten te ontzeggen. Anders zou het neerkomen op discriminatie en slavernij.
Het creëren van een duidelijke grens tussen biologische wezens en machines zal eruitzien als een duidelijke uitdrukking van menselijke superioriteit en ideologisch chauvinisme - biologische mensen zijn speciaal, en alleen biologische intelligentie is van belang.
“Als we nadenken over onze wens of onwil om de grenzen van onze moraliteit en de kwintessens van het concept van individualiteit te verleggen, dan zal de belangrijke vraag als volgt klinken: wat voor soort mensen willen we zijn? Gaan we in deze kwestie de “gouden regel” volgen (doe met de rest zoals je graag met je behandeld zou willen worden) of negeren we onze morele waarden?”Vraagt MacDonald-Glenn.
AI-empowerment zal een belangrijk precedent zijn in de menselijke geschiedenis. Als we AI kunnen zien als sociaal gelijkwaardige individuen, dan zal dit een directe weerspiegeling zijn van onze sociale cohesie en een bewijs van onze steun voor rechtvaardigheidsgevoel. Ons onvermogen om dit probleem aan te pakken, kan leiden tot een algemeen sociaal protest en misschien zelfs tot een confrontatie tussen AI en mensen. En gezien het superieure potentieel van machine-intelligentie, zou dit een echte ramp kunnen zijn voor de laatste.
Het is ook belangrijk om te beseffen dat respect voor de rechten van robots in de toekomst ook andere individuen ten goede kan komen: cyborgs, transgene mensen met vreemd DNA, maar ook mensen met hersenen die zijn gekopieerd, gedigitaliseerd en in supercomputers geladen.
We zijn nog ver verwijderd van het creëren van een machine die mensenrechten verdient. Als je echter bedenkt hoe complex de kwestie is en wat er precies op het spel staat - zowel voor kunstmatige intelligentie als voor mensen - kan nauwelijks worden gezegd dat vooruit plannen niet nodig is.
NIKOLAY KHIZHNYAK