Als je ooit rollenspellen hebt gespeeld - of het nu online is of in een ouderwetse achtertuin - dan weet je hoe gemakkelijk het is om je aan je avatar te hechten, dat wil zeggen om te wennen aan de rol van de "Kozakkenrover". Je voelt letterlijk pijn als een personage wordt geslagen door een trol, geroosterd door een draak of wordt gedood door een sjamaan. De Amerikaanse socioloog (en fervent gamer) William Sims Bainbridge bracht deze relatie nog verder door virtuele voorstellingen te maken van 17 overleden familieleden. In een essay uit 2013 over online avatars stelt hij zich een tijd voor waarin we onze persoonlijkheid kunnen laden in een kunstmatige intelligente simulatie van onszelf die onafhankelijk van ons kan handelen en zelfs kan blijven bestaan nadat we dood zijn gegaan.
Welke verantwoordelijkheid kunnen we op deze gesimuleerde mensen leggen? Hoewel we gewelddadige computerspellen wantrouwen, beschouwt niemand het serieus als moord om een virtuele aanvaller te ondermijnen. Het is echter niet langer absurd om te veronderstellen dat eens gemodelleerde mensen zullen bestaan en ook een zekere mate van autonomie en bewustzijn zullen hebben. Veel filosofen geloven dat een geest als de onze niet hoeft te worden opgeslagen in het netwerk van neuronen in onze hersenen, maar in verschillende soorten materiële systemen kan bestaan. Als ze gelijk hebben, is er geen reden om aan te nemen waarom krachtig genoeg computers het bewustzijn niet in hun chips zouden kunnen opslaan.
Gaat u een digitale vlieg doden?
Tegenwoordig proberen veel moraalfilosofen de ethiek van het veranderen van de menselijke bevolking te begrijpen en stellen ze vragen als: wat kost het menselijk leven? Wat voor leven moeten we nastreven? Hoeveel waarde moeten we investeren in menselijke diversiteit? Maar als het gaat om de ethiek van het omgaan met gemodelleerde entiteiten, is het niet helemaal duidelijk of we moeten vertrouwen op dezelfde logica en intuïtie die we gebruiken in onze wereld van vlees en bloed. Diep van binnen voelen we ons verkeerd om een hond of zelfs een vlieg te doden. Maar zou het uitschakelen van het vlieg- of menselijk breinmodel dodelijk zijn? Wanneer 'leven' nieuwe digitale vormen aanneemt, kan onze eigen ervaring niet langer als een betrouwbare morele metgezel fungeren.
Adrian Kent, een theoretisch fysicus aan de Universiteit van Cambridge, besloot deze kloof in moreel redeneren te onderzoeken. Stel dat we hebben geleerd om het menselijk bewustzijn goedkoop en eenvoudig op een computer na te bootsen, schrijft hij in een van de artikelen. We willen dit virtuele wezen een rijke en lonende omgeving voor communicatie geven - een leven dat de moeite waard is om geleefd te worden. Misschien kunnen we dit doen met echte mensen door hun hersenen tot in detail te scannen en ze op een computer te repliceren. Men kan zich voorstellen hoe een dergelijke technologie mensen 'redt' van een dodelijke ziekte; sommige transhumanisten zien dit als de weg naar onsterfelijk bewustzijn.
Dit kan natuurlijk allemaal een droom zijn, maar laten we het tegenovergestelde aannemen. Laten we nu eens kijken naar een reeks utilitaire morele principes die eind 18e eeuw door Jeremy Bentham zijn geïntroduceerd en vervolgens zijn verfijnd door John Stuart Mill. Alles bij elkaar genomen, zei Bentham, moeten we ernaar streven om zoveel mogelijk mensen maximaal geluk (of ‘nut’) te bieden. Of, in de woorden van Mill, "daden zijn gerechtvaardigd in verhouding tot hoe gelukkig ze zijn, en niet gerechtvaardigd als ze tot een gebrek aan geluk leiden".
De principes van goed gedrag hebben veel critici. Hoe kunnen we bijvoorbeeld soorten geluk meten of vergelijken - bijvoorbeeld door de waarde van de liefde van een grootmoeder af te wegen op dezelfde schaal met bewondering voor een virtuoze concertpianist? "Zelfs als je utilitarisme serieus wilt nemen, weet je niet welke kwaliteiten je in je berekeningen stopt", zegt Ken. De meeste geloofssystemen erkennen tegenwoordig echter standaard dat een moreel kompas dat naar meer geluk wijst absoluut de voorkeur verdient boven een kompas dat er vanaf kijkt.
Promotie video:
Volgens het scenario van Kent, als we uitgaan van utilitaire motieven, kan worden aangenomen dat we voorwaarts moeten gaan en onze gemodelleerde of gesimuleerde wezens - laten we ze sims noemen - zonder beperkingen moeten vermenigvuldigen. In de echte wereld heeft een dergelijke ongecontroleerde voortplanting duidelijke nadelen. Mensen zullen emotioneel en economisch lijden onder een groot gezin; overbevolking zet de mondiale hulpbronnen al onder druk, enzovoort. Maar in de virtuele wereld zijn er misschien niet zulke limieten. U kunt een utopie creëren met bijna onbeperkte bronnen. Waarom kun je dan niet zoveel mogelijk werelden creëren en ze vullen met vrolijke Sims?
Onze intuïtie suggereert het antwoord: maar waarom? Misschien heeft een bewuste sim gewoon niet dezelfde intrinsieke waarde als een persoon van vlees en bloed? Dit punt wordt verwoord door Michael Medery, een filosofie van de geest en virtual reality-ethicus aan de Tulane University in New Orleans, en vindt dat het serieus moet worden genomen.
Sommige filosofen geloven dat wij zelf gelijkaardige gesimuleerde wezens kunnen zijn. We kunnen een dergelijke mogelijkheid eenvoudigweg niet uitsluiten, maar toch vinden we deze vragen zinvol. Je zou dus ook aannemen dat Sims het recht hebben om vragen te stellen.
Kent stelt opnieuw de vraag: wat zou juister zijn - om een populatie van identieke wezens te creëren of helemaal anders? Het is duidelijk dat het efficiënter zou zijn om identieke wezens te maken - genoeg informatie over één om er N te maken. Maar onze instincten vertellen ons dat diversiteit betekenis en waarde heeft. En waarom vraag ik me af of er geen reden is om aan te nemen dat N verschillende individuen gelukkiger zullen zijn dan N identieke individuen.
Kent's benadering is dat verschillende levens te verkiezen zijn boven meerdere exemplaren ervan. "Ik kan de gedachte niet wegnemen dat een universum met een miljard onafhankelijke identieke emulaties van Alice minder interessant en van mindere kwaliteit zal zijn dan een universum met een miljard verschillende individuen", zegt hij. Hij noemt dit concept replicatie inferioriteit.
Als we de kosmos beschouwen die door miljarden Alice wordt bewoond, is het dan echt de moeite waard om over één leven te praten, vele malen vermenigvuldigd, of hebben we het over één leven, verspreid over vele werelden? Hieruit kan volgen dat veel Alice in een identieke omgeving waarden niet meer dan één zullen hebben. Hij noemt dit scenario de nutteloosheid van replicatie. "Ik neig tot die mening", zegt Kent, maar hij geeft toe dat hij geen onweerlegbaar argument in zijn verdediging kan vinden.
Kent's gedachte-experiment raakt verschillende oude mysteries van de moraalfilosofie die nooit zijn opgelost. De vorig jaar overleden Engelse filosoof Derek Parfit sprak hen toe in zijn monumentale werk over persoonlijkheid en zelf, Reasons and Personalities (1984). Parfit dacht na over vragen als hoeveel mensen er überhaupt zouden moeten zijn, en of het moreel gezien altijd beter zal zijn om aan de drukte van de wereld een leven toe te voegen dat de moeite waard is om te leven als we de kans krijgen.
Zelfs als je het utilitaire standpunt accepteert, is er het probleem van het vinden van het grootste geluk voor het grootste aantal: dubbele criteria creëren dubbelzinnigheid. Stel je bijvoorbeeld voor dat we controle hebben over hoeveel mensen er leven in een wereld met eindige bronnen. Je zou denken dat er een optimaal aantal mensen zou moeten zijn dat (in principe) de middelen optimaal zal gebruiken om geluk en welvaart voor iedereen te verzekeren. Maar zou er in zo'n utopie geen plaats zijn voor een ander? Zou het niet acceptabel zijn om ieders geluk een beetje te verminderen om een ander gelukkig leven te verzekeren?
Het probleem is dat dit proces geen einde heeft. Naarmate het aantal stijgt, kan het extra geluk van nieuwe levens opwegen tegen de kosten van degenen die al leven. Uiteindelijk, zegt Parfit, kom je tot een "walgelijke conclusie": een scenario waarin de beste uitkomst een opgeblazen populatie van mensen zou zijn die hopeloos ongelukkig zijn, maar beter af dan dat er helemaal geen leven was. Alles bij elkaar genomen vormen hun schamele stukjes geluk meer dan de som van een klein aantal echt gelukkige mensen. "Het is moeilijk voor mij om deze conclusie te accepteren", schreef Parfit, maar kunnen we deze benadering rechtvaardigen? Kent weet het niet. "Ik weet niet of er een evenwichtige beslissing kan worden genomen over de walgelijke gevolgtrekking", zegt hij.
Aan de basis van deze vraag ligt wat Parfit het 'probleem van niet-identiteit' noemde: hoe kunnen we rationeel redeneren over de vragen van bezorgde individuen als hun bestaan afhangt van de keuzes die we maken (zoals het vinden van een plek voor 'een andere')? Het is in principe niet zo moeilijk om de voor- en nadelen af te wegen die een individu kunnen treffen, afhankelijk van de beslissingen die we nemen. Maar gezien de mogelijkheid dat dit personage misschien nooit heeft bestaan, weten we niet meer hoe we moeten berekenen. In vergelijking met nul of niets zal alles winnen, dus zelfs de ergste scenario's van het bestaan kunnen moreel gerechtvaardigd worden.
Er is nog een heel vreemd scenario in dit utilitaire populatiespel. Wat als er mensen waren met zo'n grote behoefte aan geluk dat ze meer van anderen zouden eisen dan ze zich konden veroorloven? De Amerikaanse filosoof Robert Rozick noemde deze creatie een "utilitair monster" en bekritiseerde het in zijn boek Anarchy, State and Utopia (1974). Volgens Nozick zal dit plaatje "van ons allemaal opofferen ter wille van het monster om onze algehele bruikbaarheid te vergroten." Veel van Parfit's boek was een poging - uiteindelijk niet succesvol - om te ontsnappen aan zowel de afschuwelijke conclusie als het utilitaire monster.
Laten we nu teruggaan naar Kent's virtuele werelden vol met Sims en zijn principe van onvolledige replicatie - wanneer een bepaald aantal verschillende levens meer waard is dan hetzelfde aantal identieke. Misschien kunnen we hierdoor de afschuwelijke conclusie van Parfit vermijden. Ondanks wat Leo Tolstoj zei over de ongelijkheid van ongelukkige gezinnen aan het begin van Anna Karenina (1878), lijkt het erop dat een groot aantal ongelukkige levens bijna hetzelfde zullen zijn in hun donkere verdriet. Bijgevolg zal het niet mogelijk zijn om ze op te pakken en het algehele geluk druppel voor druppel te vergroten.
Maar op dezelfde manier geeft de inferioriteit van replicatie zich over aan het utilitaire monster - het moet per definitie uniek zijn, en daarom meer 'waardevol' in vergelijking met de onvermijdelijke gelijkenis van de levens die het voeden. Ook deze beslissing stelt ons niet tevreden. "Het zou leuk zijn als mensen op de een of andere manier meer over deze kwesties zouden nadenken", geeft Kent toe. 'Ik ben een beetje verbijsterd door hen.'
Voor de Amerikaanse libertaire econoom Robin Hanson, hoogleraar economie aan de George Mason University in Virginia, zijn deze reflecties niet zozeer mentale experimenten als wel voorspellingen van de toekomst. Zijn boek "The Age of Em" presenteert een samenleving waarin alle mensen hun bewustzijn uploaden naar een computer om hun leven te leiden in de vorm van "emulaties" (geen sims, maar ema's). "Miljarden van dergelijke downloads zouden in één hoog gebouw kunnen leven en werken, en er zou plaats zijn voor iedereen", schrijft hij.
Hanson onderzocht in detail hoe zo'n economie zou kunnen werken. Eems kunnen elke grootte hebben - sommige zullen erg klein zijn - en de tijd kan voor hen anders verlopen dan voor mensen. Er zal nauw toezicht zijn en een klein salaris, maar ems kunnen dit leed wegnemen door te kiezen voor een leven zonder werk. (Hanson gelooft dat we al in zo'n wereld kunnen leven.)
Dit scenario biedt de mogelijkheid om zichzelf te dupliceren, aangezien de geest al naar de computer is overgebracht, dus het maken van kopieën zal vrij eenvoudig zijn. Hanson zegt dat het identiteitsprobleem in dit geval vaag is: duplicaten zijn aanvankelijk 'dezelfde persoon', maar geleidelijk divergert hun identiteit wanneer ze afzonderlijk beginnen te leven.
Hanson suggereert dat duplicatie van mensen niet alleen mogelijk, maar ook wenselijk is. In het komende tijdperk van emoes zullen mensen met bijzonder waardevolle mentale vermogens vele malen "beladen" worden. En over het algemeen zullen mensen sowieso meerdere kopieën van zichzelf willen maken als een vorm van verzekering. "Ze geven misschien de voorkeur aan redundantie bij hun eigen implementatie om er zeker van te zijn dat ze onverwachte rampen kunnen overleven", zegt Hanson.
Maar hij denkt niet dat ze de voorkeur zouden geven aan Kents scenario van identieke levens. Ems “hecht geen speciale waarde aan hetzelfde leven op verschillende tijden en op verschillende plaatsen. Ze zullen waarde investeren in meerdere exemplaren omdat die exemplaren kunnen werken of communiceren met anderen. Maar dit soort werk en relatie vereist dat elke kopie causaal onafhankelijk is en dat hun verhalen met elkaar verweven zijn op basis van taken of als partners."
In elk geval zullen ze moeten worstelen met morele moeilijkheden die we nog niet kunnen overschatten. "Ik denk niet dat de moraal die mensen hebben, algemeen genoeg of betrouwbaar genoeg is om zelfverzekerde antwoorden te geven op situaties als deze, die zo ver verwijderd zijn van de 'ervaring' van onze voorouders," zegt Hanson. "Ik voorspel dat emoes veel verschillende tegenstrijdige meningen over zulke dingen zullen hebben."
Ems, sims en onze virtuele toekomst
Dit klinkt misschien allemaal heel vreemd, zoals apocriefe middeleeuwse gesprekken over engelen die op tenen dansen. Zullen we ooit een virtueel leven kunnen creëren dat überhaupt op het echte leven zal lijken? "Ik denk niet dat iemand met vertrouwen kan zeggen of dit mogelijk is of niet", zegt Kent, gedeeltelijk omdat "we geen goed wetenschappelijk begrip van bewustzijn hebben."
Toch gaat de technologie vooruit en deze vragen blijven open. De Zweedse filosoof Nick Bostrom van het Instituut voor de Toekomst van de Mens voerde aan dat de rekenkracht die beschikbaar is voor de "posthumane" beschaving het gemakkelijk zou maken om wezens die in de wereld leven te simuleren en deze net zo echt te voelen als wij. (Bostrom denkt ook dat we in zo'n simulatie zouden kunnen leven.) Maar de vraag hoe we zulke werelden kunnen bevolken, stelt "een echt dilemma voor programmeurs, wetenschappers en wetgevers van de toekomst, zij het niet zo ver weg", zegt Kent.
Het scenario van Kent heeft mogelijk al gevolgen voor de echte wereld. Argumenten voor nutsmaximalisatie en het probleem van niet-identiteit komen naar voren in discussies over het bevorderen en voorkomen van menselijke conceptie. Wanneer moet u weigeren zwanger te worden in geval van risico, bijvoorbeeld het ontwikkelen van afwijkingen bij een kind? Geen van de nieuwe methoden garandeert volledige veiligheid en nooit gegarandeerd, maar IVF zou nooit worden uitgevoerd als het een vereiste was. Van een dergelijke techniek wordt verwacht dat deze aan een bepaalde risicodrempel voldoet. Maar de utilitaire benadering daagt dit idee uit.
Wat als een nieuwe methode voor kunstmatige voortplanting een matig risico had op het ontwikkelen van kleine afwijkingen bij de geboorte, zoals moedervlekken? (Dit is een echt argument: het verhaal van Nathaniel Hawthorne uit 1843 vertelt over een alchemist die, met fatale gevolgen, probeerde het merkteken van zijn vrouw te verwijderen, daarbij verwijzend naar de US Bioethics Council in 2002). Het is moeilijk te zeggen dat mensen die met een dergelijke plek zijn gemarkeerd, erger zullen zijn dan anderen en daarom bij de methode geen rekening moeten worden gehouden. Maar waar moet de grens worden getrokken? Wanneer kan een geboorteafwijking helemaal niet worden geïmplementeerd?
Sommigen hebben dit dilemma genoemd in hun verdediging van het klonen van mensen. Zullen gevaren, zoals sociaal stigma of verwrongen ouderlijke motieven en verwachtingen, opwegen tegen de voordelen van leven geven? Wie zijn wij om de keuze te maken voor de gekloonde mens? Wie zullen we zijn als we deze keuze maken voordat de mens zelfs maar bestaat?
Dit soort redenering schijnt te vereisen dat we goddelijke beslissingen nemen. Maar een feministische toeschouwer zou kunnen denken dat we het slachtoffer zijn van een versie van Frankensteins fantasie. Met andere woorden, is dit niet een stel mannen die ervan dromen om eindelijk mensen te gaan fabriceren terwijl vrouwen dit al eeuwen doen? Het gevoel van nieuwheid dat tot al deze controverses leidt, heeft een patriarchale smaak.
Toch roept het perspectief van virtueel bewustzijn een aantal zeer frisse en fascinerende ethische vragen op - die ons volgens Kent ertoe brengen de intuïtieve waarde die we in het leven en de demografie hechten, in twijfel te trekken. Het is buitengewoon moeilijk om een sterk argument te zien voor het feit dat een bepaald aantal verschillende levens moreel beter zal zijn dan hetzelfde aantal hetzelfde. Waarom denken we dat? Hoe kunnen we van vooroordelen afkomen?
Je zou kunnen zeggen dat waargenomen homogeniteit in menselijke populaties het vermogen tot empathie en ethisch redeneren aantast. De "gezichtsloze" menigte, waartegen het individu zich verzet, is een bekend cliché dat een gevoel van heldendom oproept. Maar dit is niet per se correct.
Misschien hebben we een evolutionaire afkeer van dezelfde individuen, vooral als je bedenkt dat de genetische diversiteit van een populatie haar overleving garandeert? Denk maar aan films over identieke tweelingen of klonen - het ziet er niet altijd goed uit. Het ziet er zelfs onheilspellend uit. In 1919 associeerde Sigmund Freud dit gevoel met het idee van een boosaardige dubbelganger (dubbelganger). En als dit nog steeds begrijpelijk is in het geval van identieke tweelingen, zullen honderd 'identieke' karakters er verschrikkelijk uitzien.
Het ziet er niet naar uit dat we binnenkort legers van duplicaten zullen ontmoeten, in de echte of virtuele wereld. Maar de waarde van gedachte-experimenten is dat ze je een nieuwe manier bieden om de vragen van de wereld te begrijpen. Door ons de ethiek van onze relatie met Sims voor te stellen, ontdekken we wankele of niet-bestaande logica die we instinctief gebruiken om de morele waarde van ons eigen leven af te wegen.
Ilya Khel
