De Zweedse filosoof Nick Bostrom, directeur van het Oxford Institute for the Future of Humanity, staat bekend om zijn werk over existentiële risico's, het antropische principe, de ethiek van menselijke verbetering en de bedreigingen van kunstmatige intelligentie. Hij schreef "Proof of Simulation", waarin hij suggereert dat onze realiteit kan worden gesimuleerd op een computer die is gemaakt door een geavanceerde beschaving. In juni bezocht Nick Bostrom Rusland om deel te nemen aan het International Cybersecurity Congress, georganiseerd door Sberbank met de steun van ANO Tsifrovaya Economy en de Association of Russian Banks. De speciale correspondent van "Lenta.ru" sprak met Bostrom over de opstand van de machines, de wereldregering en het transhumanisme, en ontdekte ook waarom hij verder moest leven als de "Matrix" er is.
Wat is de betekenis van futurologie? Als we kijken naar de voorspellingen van de futuristen uit het verleden, bleek bijna geen van hun voorspellingen te kloppen
Bostrom: Over deze discipline gesproken, ik denk niet dat het enige waarde heeft.
Nick Bostrom. Foto: Tom Pilston voor The Washington Post / Getty Images.
Ja, maar u probeert alleen bepaalde mondiale gebeurtenissen in de toekomst te voorspellen
Ik zou niet als futurologie willen omschrijven wat ik of een groep onderzoekers onder mijn leiding doen. We doen bepaalde dingen. Allereerst ontwikkelen we concepten om het gemakkelijker te maken patronen te vinden tussen gebeurtenissen in het heden en hun gevolgen op de lange termijn, om te zien waar ze ons naartoe kunnen leiden en of er iets fundamenteel kan worden veranderd.
We proberen ook te achterhalen welke veranderingen tot een positief resultaat leiden en welke tot een negatief resultaat. Bijvoorbeeld het concept van existentiële risico's, dat ertoe leidt dat intelligent leven zal uitsterven of vast komt te zitten in een of andere radicale niet-optimale toestand. In dit voorbeeld zijn de gevolgen van een existentiële catastrofe inderdaad heel gemakkelijk te voorspellen en uiterst relevant in termen van een bepaald waardeperspectief, wat impliceert dat de toekomst van groot belang is. Dit alles zal dus helpen om u te concentreren op de gevolgen van bepaalde acties.
Promotie video:
Maar een deel van het onderzoek dat we doen, is veel specifieker. Zo hebben we een groep specialisten die zich bezighouden met de beveiliging van kunstmatige intelligentie (dit is een onderafdeling van informatica), aangezien we geloven dat dergelijke inzichten in de toekomst zeker nodig zullen zijn.
Moeten we echt bang zijn voor zaken als sterke kunstmatige intelligentie, de val van een hemellichaam, de invasie van buitenaardse beschavingen? Denk je niet dat wanneer autoriteiten zoals jij, Elon Musk of Stephen Hawking over zulke dingen praten, ze de samenleving afleiden van dringender problemen?
Ik denk niet dat we alleen moeten nadenken over de problemen die we nu hebben. We moeten nadenken over waar we heen gaan. U moet zich zorgen maken over zowel het heden als de toekomst. Oogkleppen opzetten en de paden die naar de klif leiden niet zien, zou een grote vergissing zijn.
Denk je echt dat kunstmatige intelligentie een bedreiging kan vormen voor de mensheid?
Het is natuurlijk een sterke kunstmatige intelligentie die een bedreiging kan vormen - niet degene die nu bestaat. Ik kan me bepaalde scenario's voorstellen wanneer dit mogelijk is. Ik zie ze echter meer als een poort waardoor de mensheid op weg moet naar een betere toekomst, wat de onvermijdelijke ontwikkeling van machine-superintelligentie impliceert. De vraag is dus niet of deze stap moet worden gezet of niet. Het is alleen dat wanneer we het doen, het zo zorgvuldig en verantwoordelijk mogelijk moet zijn. We moeten ervoor zorgen dat we door het portaal komen en niet tegen de muur botsen.
Maar moet de mensheid dit portaal doorlopen als een sterke AI beter, slimmer en sneller blijkt te zijn dan een mens? In het algemeen, waarom is er in filosofische zin een persoon nodig als een sterke AI een perfecter hulpmiddel zal zijn voor zelfkennis van het universum?
Ik denk dat we machines moeten gebruiken als een verlengstuk van de menselijke wil, zodat ze ons kunnen helpen. En het is mogelijk. Maar er zijn ook risico's die ons ervan kunnen weerhouden dit doel te bereiken.
Ik probeer te vragen of het bestaan van een onvolmaakt organisch leven zin heeft als de machine beter is? Waarom zou de mensheid überhaupt bestaan na het ontwikkelen van sterke AI?
Weet je, het hangt allemaal af van de alternatieven - wat het resultaat zal zijn van de mensheid en wat deze andere vormen van leven zullen zijn. Ik denk niet dat als iets redelijker blijkt te zijn, meer succes heeft in evolutionaire zin dan een persoon, het vanuit moreel oogpunt beter zal zijn dan een persoon. Ik stel me verschillende uitkomsten voor die tot aanzienlijk negatieve gevolgen leiden: een uiterst geavanceerde technologische beschaving kan bijvoorbeeld universele waarden verliezen. Maar ik geloof zeker niet dat mensen in hun huidige vorm ideale wezens zijn die nergens anders kunnen evolueren. En hier heb ik het niet alleen over de verbetering van biologische levensvormen - je kunt je positieve scenario's voorstellen waarin de mensheid een volledig digitale levensvorm zal worden.
Dus je denkt dat bewustzijn kan worden overgebracht naar een auto?
Ja, maar met de komst van voldoende volwassen technologie, niet vandaag.
En daarom gelooft u dat bewustzijn uitsluitend het nummeringsproces is?
Ja.
Wat vind je van de werken van filosofen die de dualistische aard van bewustzijn postuleren - dat bewustzijn een subjectief fenomeen is dat buiten de objectieve wereld bestaat? Zoals de Australische filosoof David Chalmers het bijvoorbeeld beschrijft
Ik ben een aanhanger van de theorie dat bewustzijn een getal is. Natuurlijk geloof ik niet dat wat ons tot bewuste wezens maakt, ons een subjectieve ervaring geeft, afhangt van het feit dat we simpelweg uit koolstofatomen bestaan. Maar onze hersenen produceren bepaalde nummerprocessen die in principe in een andere omgeving kunnen worden gestart. En dit is het belangrijkste uitgangspunt: niet het materiaal is belangrijk, maar de functionele attributen van het nummeringsproces zelf.
En het feit dat ik de wereld door mijn bewustzijn waarneem, is slechts een reeks neurale impulsen in mijn hersenen?
Precies. Ik geloof dat je brein je bewustzijn doet ontstaan. Maar de vraag is wat er nog meer je bewustzijn kan genereren. En ik denk dat het in principe geen organische structuur hoeft te zijn. Dit kan bijvoorbeeld een computer zijn.
Maar zal hij zich bewust zijn van zichzelf, diezelfde subjectiviteit hebben?
Ik geloof dat het mogelijk is om zelfbewuste computers te maken. Nogmaals, dit is nu niet mogelijk, maar in de toekomst zie ik hiervoor geen obstakels.
Als hij zelfbewust was, zou de mensheid hem dan niet als een even intelligente levensvorm moeten accepteren?
Het lijkt mij dat er veel totaal verschillende digitale geesten zijn, veel diverser dan menselijke. Hoewel we geloven dat we allemaal heel verschillend zijn - Moeder Teresa, Hitler, de slimste persoon ter wereld en de domste - lijken we allemaal erg op elkaar, maar het brein van ieder van ons verschilt niet veel van enig ander menselijk brein. Dit alles is ongeveer anderhalve kilo van honderden miljarden neuronen. Maar digitale geesten kunnen heel, heel anders en "vreemd" voor ons zijn (sommige kunnen natuurlijk op de onze lijken, en andere niet).
Tegelijkertijd geloof ik dat sommige digitale geesten (vooral degenen die bewustzijn hebben, pijn, druk, enzovoort kunnen voelen) verschillende gradaties van morele status zullen krijgen. Naarmate we steeds geavanceerdere en verfijndere kunstmatige intelligentie ontwikkelen, de digitale geest, zullen we een bepaald ethisch probleem onder ogen moeten zien. En niet alleen over hoe AI ons zal beïnvloeden of hoe de ene persoon AI kan toepassen in relatie tot een andere persoon, maar ook over hoe we ons zullen verhouden tot deze digitale geest.
Stel dat ik een kleine steenhoop bouwde en die vernietigde - ik heb niemand kwaad gedaan. Als je het natuurlijk bouwt en ik vernietig het, dan kan het je schaden, maar de steenhoop zelf heeft geen morele status. En bijvoorbeeld een hond heeft het, en daarom is het verkeerd om een hond te schoppen. Het is hetzelfde met een bewuste digitale geest, zelfs als zijn bewustzijn zich aanvankelijk op hetzelfde niveau bevindt als dat van een dier. Dit roept de ethische vraag op hoe we het moeten behandelen. En ik denk dat de tijd zal komen om hier serieus over na te denken, niet alleen in het kader van filosofische seminars, maar ook in een brede publieke discussie.
Frame: de film "Keepers".
Als we het hebben over wereldwijde dreigingen, kan de toename van het aantal autoritaire regimes in de wereld dan als een van hen worden beschouwd?
Ja, ik denk dat dit een van de mogelijke scenario's van een dystopische toekomst is die we ons kunnen voorstellen als verschillende sociaal-politieke trends zich lang genoeg in de verkeerde richting ontwikkelen. Sommige geavanceerde technologieën maken het misschien gemakkelijker om deze trends te ontwikkelen: betere bewaking van de burger, geavanceerdere drones …
Om een land te regeren, zelfs als je een dictator bent, heb je de steun van het leger en de elites nodig. Je kunt je voorstellen dat met behulp van kunstmatige intelligentie-technologie en robotica het aantal mensen dat hiervoor nodig is steeds kleiner zal worden. Uiteindelijk kan het blijken dat een dozijn mensen in staat zullen zijn om de bevolking van een groot land te regeren, en dit biedt rijke mogelijkheden om het bestaan van despotische regimes in stand te houden.
Dus ja - dit is een van de risico's, maar er is ook de mogelijkheid dat deze sociaal-politieke trends in een andere richting gaan.
Je praat en schrijft vaak over de singleton - een staatsvereniging waarin beslissingen worden genomen door een enkel wereldorgaan …
Als je naar de geschiedenis van onze soort kijkt, dan was de grootste eenheid van politieke integratie aanvankelijk collectieven van jager-verzamelaars, bestaande uit maximaal vijftig mensen. Na verloop van tijd werden stammen gevormd onder leiding van leiders, vervolgens stadstaten en vervolgens natiestaten. Nu hebben we verenigingen zoals de Europese Unie, verschillende internationale organisaties, en dit zal doorgaan totdat de singleton verschijnt. Dat wil zeggen, het is een voortzetting van langdurige historische trends.
Zoals ik het begrijp, postuleerde u dat er twee soorten singleton kunnen zijn: "slecht" - autoritair en "goed" - egalitair …
Ik beschouw een "slechte" singleton helemaal niet per se autoritair, en een "goede" - egalitair. Er zijn verschillende omstandigheden waarin een singleton "goed" of "slecht" kan zijn.
Leg uit alstublieft
Ik weet niet eens hoe ik het allemaal moet samenvatten … Maar je kunt je natuurlijk een 'slechte' egalitaire singleton voorstellen. Laten we zeggen dat hij om verschillende redenen incompetent of ineffectief kan zijn. Als bijvoorbeeld iedereen even slecht leeft, zou dat een volledig egalitaire uitkomst zijn, nietwaar? Maar nog steeds slecht.
Dus er is een mogelijkheid dat er een "goede" autoritaire singleton ontstaat?
Welnu, misschien, vergeleken met de verschillende alternatieven, in een situatie waarin een goedbedoelende dictator aan het roer staat … "Goed" en "slecht" zijn relatieve termen die worden gebruikt met het oog op andere mogelijke situaties. Stel dat als het alternatief een wereldwijde catastrofe is, die uitkomst relatief goed zou zijn.
Maar wat als u zich de perfecte egalitaire singleton voorstelt? Dit alles lijkt op een soort utopie waarin mensen zonder conflicten en oorlogen in volledige harmonie leven. Maar conflicten zijn inherent aan de menselijke aard
De menselijke natuur is niet in brons gegoten. Als we kijken naar de situatie waarin de technologische volwassenheid van de beschaving werd bereikt (hier bedoel ik zowel biotechnologische als culturele middelen om de verschillende aspecten ervan te veranderen), als het doel van het bereiken van het algemeen welzijn is vastgesteld, kan dit een goede reden zijn om de menselijke natuur te veranderen.
En hoe kan dit precies worden bereikt? Minder agressief worden, meer meegaand, enzovoort? Mensen hebben immers de neiging vreemden niet te vertrouwen, zich te groeperen in verenigingen die zich tegen andere verenigingen verzetten
Ja, en dat is hun keuze en kan worden gewijzigd. Maar als de ene groep mensen de andere slecht behandelt, kunnen ze besluiten om niet zo te veranderen dat ze een gemeenschappelijke basis vinden met een andere.
Dat wil zeggen, het is zeer waarschijnlijk dat menselijk gedrag niet op wereldschaal kan worden veranderd?
Precies. Hier hebben we het over een verandering in motivatie, en daarvoor had ik het over de mogelijkheid van een dergelijke verandering als zich technologische kansen voordoen. En dan rijst natuurlijk de vraag of mensen besluiten ze te gebruiken om dit doel te bereiken.
Over technologie. We zijn altijd bang voor nieuwe technologieën. Zo las ik onlangs een column in een Amerikaanse publicatie, waarvan de auteur campagne voerde tegen het opgeven van contant papiergeld, omdat niet-contante betalingen banken te veel mogelijkheden zouden bieden om de bevolking te controleren. Bent u het met dit standpunt eens? Is dit echt een bedreiging voor de samenleving?
Contant geld is een anonieme beveiliging. U kunt met bankbiljetten betalen en niet worden geïdentificeerd. Dit alles vermindert het vermogen van banken en de staat om het dagelijkse leven van de burgers te beheersen, wat onder bepaalde omstandigheden behoorlijk nuttig kan zijn - bijvoorbeeld in despotische regimes. Maar om dezelfde redenen opent het de weg voor allerlei soorten negatieve transacties. Criminele activiteiten omvatten anonieme betalingen, het overmaken van rekeningen in enveloppen of hun moderne tegenhanger - betalingen in cryptocurrencies. Ze zijn veel moeilijker uit te voeren, bijvoorbeeld via het VISA-systeem, waar uw persoonlijke gegevens aan elke transactie zijn gekoppeld.
Het is dus erg moeilijk om te beslissen in welke richting "de schuifregelaar wordt verplaatst". Er zijn verschillende scenario's waarin u wellicht meer sociale controle over transacties wilt hebben om het leven van bijvoorbeeld criminele organisaties moeilijker te maken. Omdat hun activiteiten schadelijk zijn voor de samenleving, wilt u hoogstwaarschijnlijk manieren hebben om ze te beperken, en een van die manieren is om financiële transacties te reguleren.
Dit is een voorbeeld. Maar hoe zit het met activisten die oproepen tot het verbieden van Uber en soortgelijke diensten, aangezien ze, naar eigen zeggen, de rechten van taxichauffeurs schenden?
Ik weet niet welke rechten Uber schendt. Ik denk dat ze gewoon geen concurrentie willen.
Denk je dat zulke mensen neoluddieten kunnen worden genoemd?
Je moet kijken naar de argumentatie van specifieke individuen. Ik denk in elk geval niet dat het labelen ervan leidt tot begrip van hun standpunt. Je moet naar hun argumenten luisteren en beslissen of ze goed zijn vanuit jouw standpunt of niet.
Frame: de film "Equilibrium".
Laten we het hebben over transhumanisme. Er is een populaire kritiek op het transhumanisme, volgens welke biotechnologie, lichaamsaanpassingen niet beschikbaar zullen zijn voor arme mensen en burgers met een gemiddeld inkomen. Alleen de rijken - de ene procent van de bevolking - kunnen ze krijgen, en dit zal leiden tot een catastrofale toename van de ongelijkheid in de samenleving. Dit is niet waar? Of denk je dat alles eerlijk is: de rijken en succesvol moeten het beste hebben?
Dit moet worden geanalyseerd met specifieke voorbeelden. Ik geloof niet dat alle biotechnologie die wordt gebruikt om het menselijk lichaam te verbeteren duur zou moeten zijn. Neem bijvoorbeeld het moderne Modafinil, een medicijn dat wordt gebruikt om cognitieve prestaties te verbeteren (laten we zeggen dat het sommige mensen helpt). Natuurlijk kost het geld, maar niet meer dan een glas Starbucks-cappuccino die ze elke dag drinken. En als hij zijn werk doet, is hij zijn geld waard.
Moderne farmacologische middelen die op de een of andere manier bepaalde eigenschappen van een persoon verbeteren, zijn over het algemeen niet erg duur. Het probleem is eerder dat u recepten voor hen moet krijgen. Het is gemakkelijker om zo'n medicijn te krijgen voor iemand met een goede opleiding. Allereerst zal hij op de hoogte zijn van het bestaan van deze remedie, het zal voor hem gemakkelijker zijn om een dokter te vinden die hij kent die hem dit recept kan schrijven … Dit alles zal voor een ongeschoolde arbeider of boer veel moeilijker zijn dan voor een intellectueel, een bankier, enzovoort. Maar het obstakel ligt hierin, en niet in de hoeveelheid geld zelf.
Als we het hebben over de technologieën van de toekomst, kunnen ze in die zin natuurlijk erg duur en discriminerend zijn. En de samenleving zal moeten beslissen of ze nuttig genoeg zijn om ze te subsidiëren - in dezelfde zin dat er nu subsidies voor gezondheidszorg worden verstrekt.
Als we het over subsidies hebben, wat vindt u dan van het gewaarborgd inkomen, de hoeveelheid geld die de staat regelmatig betaalt aan elk lid van de samenleving, ongeacht of hij werkt of niet? Moet het een gewone menselijke praktijk worden?
Ik denk dat dit probleem vanuit hetzelfde oogpunt moet worden benaderd als kunstmatige intelligentie: het moet de hele mensheid ten goede komen en in overeenstemming zijn met ethische idealen. Het lijkt mij dat alle mensen die een bepaalde leeftijd bereiken, hun deel van bepaalde voordelen zouden moeten ontvangen. Hoe je dit het beste kunt doen, is een constante inkomstenstroom of een bepaald kapitaal dat een keer wordt betaald, dat een individu vervolgens naar eigen goeddunken kan besteden aan bepaalde diensten en goederen, ik weet het nog niet. Het in stand houden van een ononderbroken inkomstenstroom is wederom afhankelijk van de economische situatie. En op de lange termijn moet het duidelijk zijn dat we hoogstwaarschijnlijk te maken zullen krijgen met een exponentiële groei van de wereldbevolking, die de groei van de wereldeconomie kan overtreffen - een enigszins Malthusiaans argument.
Denk je dat het huidige Europese socialezekerheidsstelsel - Welfer - gebreken vertoont?
Het lijkt me best goed. Er zijn natuurlijk manieren om het te verbeteren. Maar in elk geval is het goed als er in rijke economieën een welvaartssysteem is dat het zich kan veroorloven.
Wat vind je van de hedendaagse linkse politiek - politieke correctheid, inclusiviteit, enzovoort? Werkt ze echt voor het welzijn van iedereen?
Enerzijds ontneemt de aanwezigheid van dingen waarover niet kan worden gesproken en waarover niet kan worden nagedacht, mij als filosoof een aantal mogelijkheden. Ik denk dat de bittere waarheid soms goed is, ook al beledigt ze iemand, en je moet een aanzienlijke prijs betalen voor het taboe maken van de discussie over wat deel uitmaakt van de moderne realiteit.
Aan de andere kant, als dit bijdraagt tot de opbouw van een samenleving die gevoeliger is voor de problemen van de gemeenschap, waarvan de vertegenwoordigers hun best doen om elkaar niet te schaden, waardoor het niveau van agressie en geweld wordt verminderd … Dit alles kan buitengewoon positief zijn, zelfs als het in de nabije toekomst bepaalde risico's. Kijk, als u buitengewoon bezorgd bent om politiek correct te zijn over kleine dagelijkse problemen, wordt de kans dat u van plan bent een grote en brutale etnische zuivering uit te voeren of een oorlog te beginnen aanzienlijk verminderd. In het algemeen, als het ons gevoeliger maakt voor kleine dingen, dan zal het in algemene zin helpen, en alle kleine tekortkomingen van dergelijke programma's zullen absoluut gerechtvaardigd zijn.
Ik las in een van uw publicaties dat de moderne westerse cultuur 'onze vruchtbaarheid actief saboteert vanwege de introductie van anticonceptie'. Een redelijk conservatief argument. Kan je het uitleggen?
Dit is wat ik bedoelde: als je geen anticonceptie gebruikt, krijg je meer baby's, wat betekent dat er meer baby's zullen overleven. Nu baren mensen minder kinderen dan ze zouden kunnen, wat betekent dat ze evolutionair niet in evenwicht zijn met de moderne omgeving.
Moeten we de primaire rol aan biologische evolutie geven in plaats van aan sociale?
Ik ben van mening dat allereerst de hoofdrol moet worden gespeeld door universele menselijke waarden, en niet door enkele biologische taken.
Waarom zou u dan geen anticonceptie gebruiken?
Natuurlijk kunt u uw voortplantingsvermogen saboteren, maar u moet zich bewust zijn van wat u doet, en dit is zeer gunstig. Als u bijvoorbeeld langetermijnscenario's overweegt voor de ontwikkeling van de menselijke beschaving, moet u er rekening mee houden dat mensen die het voortplantingspotentieel saboteren op de een of andere manier van de aardbodem zullen verdwijnen. Hun genen zullen niet in de planetaire genenpool zitten tenzij dit beleid wordt gewijzigd.
Nu, op korte termijn, hoeft u er niet over na te denken, maar u moet zich ervan bewust zijn dat u hier handelt tegen verschillende evolutionaire tendensen. En het is belangrijk om te erkennen dat dit op de lange termijn enig effect zal hebben.
Frame: de film "Lucy".
Werkt biologische evolutie nog steeds in de menselijke samenleving?
Natuurlijk. Het werkt in de menselijke populatie net als in andere populaties. Natuurlijk is de moderne omgeving waarin we leven heel anders dan de omgeving van evolutionair aanpassingsvermogen, maar ik geloof dat er op dit moment een zeer sterke evolutionaire selectie is in de menselijke populatie. Op de ecologische tijdschaal gaat het snel, maar bijvoorbeeld in relatie tot de tijdschaal van technologische vooruitgang, integendeel, heel langzaam. Zelfs als de selectie erg snel is, moeten er vele generaties voorbijgaan voordat er een grote verschuiving plaatsvindt. Tegelijkertijd denk ik dat we in minder dan een paar generaties perfecte instrumenten zullen ontvangen voor het manipuleren van het menselijk genoom en andere mogelijkheden om de toestand van een persoon te veranderen. Daarom maak ik me niet echt zorgen over de langzame trends in de biologische evolutie, gezien het vooruitzicht van dergelijke technologieën aan de horizon.
Moeten we de weg kiezen om de genenpool te verbeteren door middel van biotechnologie - de 'slechte' genen selecteren en de 'goede' behouden? Zal dit niet leiden tot sociaal darwinisme?
Ik denk niet dat genetische geneeskunde of genetische selectie een sociale darwinistische benadering veronderstelt. U kunt zien hoe dit nu gebeurt: wanneer koppels besluiten om in-vitrofertilisatie te ondergaan, ondergaan de embryo's genetische diagnostiek. In plaats van alleen cellen te controleren op chromosomale afwijkingen, kunnen we een breed scala aan problemen diagnosticeren, ook problemen die geen verband houden met de ziekte. Bijvoorbeeld aanleg voor een lang gezond leven, intelligentie, atletisch vermogen, persoonlijkheidskenmerken … U heeft meer informatie om te kiezen welke van de 6-8-10 embryo's u wilt implanteren tijdens de IVF-procedure. En het lijkt mij dat juist deze context het meest waarschijnlijk is in termen van het gebruik van genetische technologieën.
U bent de auteur van het "bewijs van simulatie" volgens welke we in een realiteit kunnen leven die op een of andere computer is gesimuleerd. Hoe kan een gewoon mens zich dit voorstellen? In het begin is het moeilijk te verteren
Ik begrijp niet helemaal welke taak u uitvoert. Je hoeft alleen maar te accepteren dat er niets verandert, het is gewoon dat de basis van deze waarneembare realiteit waarin we bestaan niet de basiswetten van de natuurkunde zijn, maar een soort computerprogramma ingebed in een computer, gemaakt door een aantal geavanceerde intelligente wezens - mogelijk meer technologisch geavanceerd beschaving (waarschijnlijk superintelligent). Dus alles wat we zien zijn de processen die op deze computer draaien, maar voor de bewoners van deze simulatie - wij - is er geen groot verschil in wat de basis is.
Het is interessanter om na te denken over de praktische redenen voor het maken van een dergelijke simulatie. Ze kunnen verschillend zijn, de auteurs kunnen andere simulaties uitvoeren om andere problemen op te lossen. Er zijn veel opties voor hoe de simulatie zou kunnen eindigen - enzovoort. Het maakt echt uit in vergelijking met een situatie waarin deze realiteit fundamenteel zou zijn.
Als we het hebben over een computer die de werkelijkheid simuleert, hoe zit het dan met de wetten van de fysica? Zo'n computer zal gigantisch zijn en een onvoorstelbare hoeveelheid energie verbruiken, hoe moet je anders elk elementair deeltje berekenen?
Zeker. Daarom denk ik niet dat deze beschaving alle details van de werkelijkheid zal imiteren, tot op atomen toe. Ik geloof dat het rationeler is om die delen van de werkelijkheid na te bootsen die we waarnemen op het moment dat we ze waarnemen (misschien nog wat meer).
Neem bijvoorbeeld de atomen van de tafel waaraan u zit. Je hebt geen idee wat er nu met ze gebeurt. U hoeft alleen de afmetingen van de tafel, de kleur en het gewicht te kennen. En in de simulatie is het voldoende om alleen deze attributen te berekenen. Als je een elektronenmicroscoop neemt en daar een stuk van een tafel onder legt, zie je meer details die speciaal hiervoor worden berekend. Maar ze worden alleen zo berekend dat u, een gewoon persoon, geen afwijkingen opmerkt.
Dus als u de superintelligentie bent die de werkelijkheid volledig beheerst - tot aan alle aspecten van de elementen ervan toe, is het verstandig om details toe te voegen wanneer u er aandacht aan schenkt.
Blijkt dat de werkelijkheid wordt gesimuleerd voor alle zeven miljard mensen die op aarde leven? Voor dieren? Voor aliens?
Het hangt allemaal af van het type simulatie. Als we het hebben over simulatie voor alle levende mensen, kan men zich voorstellen dat het de hele geschiedenis van de mensheid bestrijkt en vrij recent werd gelanceerd. U kunt zich ook voorstellen dat een simulatie wordt uitgevoerd voor een bepaalde persoon of een kleine groep mensen. Dan rijst natuurlijk de vraag: hoe zijn alle andere mensen die we erin zien hier, terwijl ze geen bewuste wezens zijn? Misschien worden ze alleen qua uiterlijk gesimuleerd, zoals de avatars in videogames. Een onopgeloste vraag blijft: hoe kan het externe gedrag van mensen worden geïmiteerd zonder als bijwerking het bewustzijn te produceren dat, zoals we gewoonlijk aannemen, elke persoon bezit? Dus waarschijnlijk een geloofwaardig persoon creëren in termen van gedrag,je zult de processen die in zijn hersenen plaatsvinden met bijzondere nauwkeurigheid moeten simuleren, wat op de een of andere manier zou moeten leiden tot het ontstaan van een bewuste geest. Hoewel de mogelijkheid bestaat dat je het gewoon kunt vervalsen. En dan kunnen we ons het bestaan voorstellen van een kleine groep simulaties-mensen waarin het bewustzijn zich volledig heeft ontwikkeld, terwijl de rest slechts extra's zijn.
Volgens uw hypothese kunnen er veel simulaties in een simulatie zijn, zoals nestpoppen. Is het bestaan van een fundamenteel, niet nagebootst universum in dit geval verplicht? Hoe is het ontstaan en wat is het?
Mijn argument gaat ervan uit dat er een basisniveau van fysieke realiteit is waarin sommige wezens zich ontwikkelen, extreem technologisch geavanceerd worden, deze technologieën gebruiken om superintelligentie (of superintelligente kunstmatige intelligentie) te verkrijgen en dan hebben ze veel middelen en tijd. Ze geven het uit, inclusief het maken van deze simulaties van intelligente mensen - misschien zoals wij.
Misschien laten ze de simulatie blijven functioneren nadat deze mensen hun simulatie hebben gemaakt, die dan een simulatie op het tweede niveau wordt. Maar dit alles zal bestaan op een computer die is gecreëerd door een beschaving die bestaat op het basisniveau van de fysieke realiteit, en tegelijkertijd kan er een hele hiërarchie van simulaties in simulatie zijn. Maar hier zal er een specifieke limiet aan dit alles zijn, aangezien de imitatie uiteindelijk wordt uitgevoerd op een computer die bestaat op het basisniveau van de fysieke realiteit. Er zijn grenzen aan de beschikbare energie om deze capaciteiten in stand te houden, en dus ook aan het aantal geneste simulaties. Je kunt natuurlijk een esoterische benadering volgen, mazen in de wet proberen te vinden voor eindeloos nestelen, maar ik denk niet dat het de moeite waard is om te doen.
Wat als ze werelden simuleren waarin de natuurwetten totaal verschillen van de onze?
Dit is ook mogelijk, ze kunnen fantastische simulaties maken.
Welnu, als we in een simulatie leven, wat heeft het dan voor zin om plannen te maken, mondiale risico's te voorspellen … De existentiële vraag - wat is het punt van het leven in een simulatie, wanneer de makers eenvoudig de stroom van de computer kunnen uitschakelen en alles zal eindigen?
In het algemeen betekent "proof of simulation" niet dat we in een simulatie leven, maar eerder over de grenzen van waar we in kunnen geloven. Het veronderstelt dat een van de drie uitspraken waar is. De eerste is dat we in een simulatie leven, maar er zijn twee alternatieven. De tweede is dat alle beschavingen uitsterven voordat ze technologische volwassenheid hebben bereikt, en de derde is dat alle volwassen beschavingen hun interesse in het creëren van dergelijke simulaties verliezen, ze besluiten eenvoudigweg om ze niet te doen.
Maar, binnen het kader van ons betoog, als we echt in een simulatie leven, zie ik niet in waarom de betekenis van het dagelijks leven afhangt van het feit dat de basis van onze realiteit imitatie is die gecreëerd is door een of andere geavanceerde beschaving, en niet de basiswetten van de natuurkunde. Wat er in ieder geval met u zal gebeuren, wat er met uw familieleden, vrienden en andere mensen zal gebeuren, hangt af van uw acties. Dus wat je doet in de simulatie is van belang, zelfs als dat erbuiten niet is.
Bovendien bestaat de mogelijkheid dat wat er binnen de simulatie gebeurt, invloed heeft op wat er buiten de simulatie gebeurt. Misschien hebben de makers het ontwikkeld voor wetenschappelijke doeleinden, om te bestuderen wat mensen doen, en dit beïnvloedt wat ze doen, omdat het belangrijk voor hen is om de menselijke natuur te begrijpen op basis van de keuzes die we maken. Er kunnen dus nog meer gevolgen zijn die verder gaan dan voor de hand liggend.
Geïnterviewd door Mikhail Karpov
