Met de versnelling van de technologische vooruitgang kan de mensheid snel een kritiek punt in haar ontwikkeling naderen. Naast bekende bedreigingen zoals de nucleaire holocaust, biedt het vooruitzicht van snel voortschrijdende technologieën zoals nanosystemen en machine-intelligentie ons ongekende kansen en risico's. Onze toekomst en of we überhaupt een toekomst zullen hebben, hangt af van hoe we met deze uitdagingen omgaan. Met de snel voortschrijdende technologie hebben we een beter begrip nodig van de dynamiek van de overgang van de menselijke naar de "post-menselijke" samenleving. Het is vooral belangrijk om te weten waar de vallen zich bevinden: paden waar dingen dodelijk mis kunnen gaan.
Hoewel we een lange geschiedenis hebben van blootstelling aan een verscheidenheid aan persoonlijke, lokale en overdraagbare wereldwijde gevaren, analyseert dit artikel een nieuw opkomende categorie: existentiële risico's. Dit is wat we de risico's noemen van gebeurtenissen die kunnen leiden tot ons uitsterven of hartschade aan het potentieel van intelligent leven dat zich op aarde heeft ontwikkeld. Sommige van deze gevaren zijn relatief goed bekend, terwijl andere volledig over het hoofd worden gezien. Bestaansbedreigingen hebben een aantal kenmerken die in dit geval conventioneel risicobeheer ondoeltreffend maken. Het laatste hoofdstuk van dit artikel bespreekt enkele van de ethische en politieke implicaties van dit probleem. Een beter begrip van het dreigingslandschap stelt ons in staat betere strategieën te formuleren.
Het leven is gevaarlijk, en gevaar is overal. Gelukkig zijn niet alle risico's even ernstig. Voor onze doeleinden kunnen we drie dimensies gebruiken om risico's te beschrijven: schaal, intensiteit en waarschijnlijkheid. Met "schaal" bedoel ik de grootte van de groep mensen die risico lopen. Met "intensiteit" bedoel ik hoeveel schade elk individu in de groep wordt aangedaan. En met "waarschijnlijkheid" bedoel ik de beste huidige subjectieve schatting van de waarschijnlijkheid van een negatief resultaat.
1. Typologie van risico's
We kunnen zes kwalitatief verschillende groepen risico's onderscheiden, afhankelijk van hun omvang en intensiteit (tabel 1). Een derde dimensie, waarschijnlijkheid, kan over deze twee dimensies heen worden gelegd. Als alles gelijk blijft, is een risico ernstiger als het een aanzienlijke kans heeft en als onze acties het kunnen vergroten of verkleinen.
Schaal / intensiteit: draaglijke intensiteit dodelijke intensiteit
wereldwijde aantasting van de ozonlaag X
Promotie video:
lokale economische neergang in het land Genocide
Persoonlijke autodiefstal dood
"Persoonlijk", "lokaal" of "globaal" verwijst naar de omvang van de bevolking die rechtstreeks wordt beïnvloed; wereldwijd risico treft de hele mensheid (en onze nakomelingen). "Aanvaardbare risico-intensiteit" en "dodelijke intensiteit" verwijzen naar hoe ernstig de risicopopulatie zal worden getroffen. Het aanvaardbare risico kan ook tot grote vernietiging leiden, maar de kans blijft bestaan om te herstellen van de schade of manieren te vinden om de negatieve gevolgen te overwinnen. Het ultieme risico daarentegen is dat risico wanneer objecten die eraan worden blootgesteld ofwel sterven of onomkeerbaar worden beschadigd op een zodanige manier dat ze hun potentieel om het leven te leiden dat ze proberen te leiden radicaal verminderen. In het geval van persoonlijke risico's kan de uiteindelijke uitkomst bijvoorbeeld de dood zijn, onomkeerbaar ernstig hersenletsel,of levenslange gevangenisstraf. Een voorbeeld van een plaatselijk risico op overlijden kan genocide zijn, die leidt tot de vernietiging van een heel volk (wat verschillende Indiase volkeren overkwam). Een ander voorbeeld is bekering tot eeuwige slavernij.
2. Bestaansrisico's
In dit artikel bespreken we de risico's van de zesde categorie, die in de tabel is gemarkeerd met X. Dit is een categorie van wereldwijde dodelijke risico's. Ik zal ze existentiële bedreigingen noemen.
Bestaansbedreigingen verschillen van mondiaal aanvaardbare risico's. Voorbeelden van de laatste zijn: bedreigingen voor de biodiversiteit van de terrestrische ecosfeer, gematigde opwarming van de aarde (en zelfs grote), en mogelijk verstikkende culturele en religieuze tijdperken zoals de 'donkere eeuwen', zelfs als ze de hele samenleving overspannen, als ze vroeg of laat eindigen (hoewel zie het Screech-hoofdstuk hieronder). Zeggen dat een globaal risico aanvaardbaar is, wil natuurlijk niet zeggen dat het aanvaardbaar of niet erg ernstig is. Een wereldoorlog met conventionele wapens of een decennium van het nazi-achtige Reich zullen buitengewoon nijpende gebeurtenissen zijn, ondanks het feit dat ze in de categorie van aanvaardbare mondiale risico's vallen, aangezien de mensheid uiteindelijk kan herstellen. (Anderzijds,deze gebeurtenissen zullen voor veel individuen en voor vervolgde etnische groepen een lokaal overlijdensrisico vormen.)
Ik zal de volgende definitie van existentieel risico gebruiken:
Een bedreiging voor het bestaan is een risico waarbij een negatief resultaat ofwel het intelligente leven dat op aarde is ontstaan, vernietigt of het potentieel ervan onomkeerbaar en aanzienlijk vermindert.
Het bestaan is een risico dat de mensheid als geheel bedreigt. Dergelijke catastrofes hebben enorme negatieve gevolgen voor de hele toekomst van de aardse beschaving.
3. Het unieke karakter van het probleem van bedreigingen voor het bestaan
Risico's in deze zesde categorie zijn onlangs naar voren gekomen. Dit is een van de redenen waarom het handig is om ze in een aparte categorie te scheiden. We hebben geen mechanismen ontwikkeld, natuurlijk of cultureel, om met dergelijke risico's om te gaan. Onze instellingen en verdedigingsstrategieën zijn gevormd door het aangaan van risico's zoals gevaarlijke dieren, vijandige mensen of stammen, vergiftigd voedsel, auto-ongelukken, Tsjernobyl, Bhopal, vulkaanuitbarstingen, aardbevingen, droogte, Wereldoorlog I, Wereldoorlog II, griepepidemieën, pokken, zwarte pest en aids. Dit soort rampen is vele malen voorgekomen en onze culturele houding ten opzichte van risico's is gevormd door vallen en opstaan bij het omgaan met dergelijke bedreigingen. Maar omdat het een tragedie is voor de deelnemers aan deze evenementen,vanuit een breed gezichtspunt - vanuit het gezichtspunt van de hele mensheid - waren zelfs de meest verschrikkelijke van deze rampen slechts rimpelingen op het oppervlak van de grote zee van leven. Ze hadden geen significante invloed op het totale aantal gelukkige en lijdende mensen, noch bepaalden ze het lot van onze soort op de lange termijn.
Behalve kometen die soorten vernietigen en botsingen met asteroïden (die uiterst zeldzaam zijn), waren er waarschijnlijk tot het midden van de 20e eeuw geen significante bedreigingen voor het bestaan, en we konden er zeker niets aan doen.
De eerste door mensen veroorzaakte bedreiging voor het bestaan was de eerste atoombom. Destijds was er enige bezorgdheid dat de explosie een kettingreactie zou veroorzaken door de atmosfeer 'in brand te steken'. Hoewel we nu weten dat een dergelijke uitkomst fysiek onmogelijk was, was deze veronderstelling destijds consistent met de definitie van een existentiële dreiging. Om iets een risico te laten zijn, op basis van de beschikbare kennis en inzicht, is het voldoende dat er een subjectieve kans is op een ongunstige uitkomst, ook al blijkt later objectief gezien geen enkele kans dat er iets ergs is gebeurd. Als we niet weten of iets objectief gezien riskant is, is het in subjectieve zin riskant. Op deze subjectieve betekenis moeten we natuurlijk onze beslissingen baseren. We moeten op elk moment onze beste subjectieve beoordeling gebruiken ofwat zijn de objectieve risicofactoren.
Gelijktijdig met de opkomst van kernwapenarsenalen in de USSR en de VS ontstond een veel grotere bedreiging voor het bestaan. Een volwaardige nucleaire oorlog was mogelijk met een aanzienlijke mate van waarschijnlijkheid en met gevolgen die zo hardnekkig konden zijn dat ze als mondiaal en definitief konden worden gekarakteriseerd. Onder de mensen die het best bekend waren met de informatie die op dat moment beschikbaar was, was er een grote bezorgdheid dat er een nucleair Armageddon zou kunnen gebeuren en dat het onze soort zou kunnen uitroeien of de menselijke beschaving permanent zou kunnen vernietigen. Rusland en de Verenigde Staten hebben nog steeds enorme nucleaire arsenalen die kunnen worden gebruikt in een toekomstige confrontatie, per ongeluk of met opzet. Het risico bestaat ook dat andere landen ooit grote arsenalen gaan opbouwen. Merk echter op dat een kleine uitwisseling van nucleaire aanvallen, bijvoorbeeld tussen India en Pakistan,vormt geen bedreiging voor het bestaan, aangezien het de mensheid niet zal vernietigen en het menselijk potentieel niet onomkeerbaar zal beschadigen. Zo'n oorlog zou echter een lokaal dodelijk risico vormen voor die steden die het doelwit zouden zijn. Helaas zullen we zien dat een nucleair Armageddon en een komeet- of asteroïde-inslag slechts een opmaat zijn voor bedreigingen voor het bestaan in de 21e eeuw.
De bijzondere aard van de uitdagingen van existentiële bedreigingen kan worden geïllustreerd door de volgende opmerkingen.
Onze benadering van existentiële bedreigingen kan niet op vallen en opstaan zijn gebaseerd. Er is geen manier om van fouten te leren. De reactieve benadering - kijken naar wat er is gebeurd, de schade beperken en leren van de ervaring - werkt niet. We moeten eerder proactief te werk gaan. Dit vereist een vooruitziende blik om nieuwe soorten risico's te detecteren en de bereidheid om doortastende preventieve maatregelen te nemen en de morele en economische kosten ervan te betalen.
We kunnen niet met vertrouwen vertrouwen op onze instellingen, morele normen, sociale attitudes of nationaal veiligheidsbeleid die zijn voortgekomen uit onze ervaring met het beheren van andere soorten risico's. Bestaansbedreigingen zijn een ander beest. Het kan voor ons moeilijk zijn om ze zo serieus te nemen als ze verdienen, aangezien we nog nooit zulke rampen hebben meegemaakt. Onze collectieve angstreactie is waarschijnlijk slecht afgestemd op de omvang van de dreiging.
Het terugdringen van existentiële bedreigingen is een algemeen publiek goed (Kaul, 1999) en wordt daarom mogelijk niet voldoende door de markt geleverd (Feldman, 1980). Bestaansbedreigingen zijn een bedreiging voor iedereen en vereisen mogelijk een internationale reactie. Respect voor de nationale soevereiniteit is geen legitiem excuus om geen tegenmaatregelen te nemen tegen kritieke existenties.
Als we rekening houden met het welzijn van toekomstige generaties, wordt de schade door existentiële bedreigingen vermenigvuldigd met een andere factor, die afhangt van het feit of en hoeveel toekomstige voordelen worden overwogen (Caplin, Leahy 2000; Schelling 2000: 833-837).
Gezien het onmiskenbare belang van het onderwerp is het verrassend hoe weinig systematisch werk op dit gebied is gedaan. Dit komt gedeeltelijk doordat de ernstigste risico's ontstaan (zoals we later zullen aantonen) van verwachte toekomstige technologieën die we pas sinds kort beginnen te begrijpen. Een ander onderdeel van de verklaring kan de onvermijdelijk interdisciplinaire en speculatieve aard van het onderzoeksonderwerp zijn. En gedeeltelijk kan de verwaarlozing worden toegeschreven aan een onwil om serieus na te denken over deprimerende onderwerpen. Dit betekent niet dat we ontmoedigd moeten zijn, maar dat we goed moeten kijken naar wat er mis kan gaan, zodat we robuuste strategieën kunnen ontwikkelen om onze overlevingskansen te vergroten. Om dit te doen, moeten we weten waar we onze inspanningen op moeten richten.
4. Classificatie van bestaansrisico's
We gebruiken de volgende 4 categorieën om existentiële risico's te classificeren:
Explosies (knallen) - Het intelligente leven dat op aarde is ontstaan, wordt uitgeroeid als gevolg van een relatief plotselinge catastrofe, die kan plaatsvinden als gevolg van een ongeluk of met opzet.
Crunches - Het vermogen van de mensheid om te evolueren naar posthumaniteit is onomkeerbaar beschadigd, hoewel mensen op de een of andere manier blijven leven.
Kreten - Een of andere vorm van posthumaniteit zal worden bereikt, maar het zal slechts een extreem smal deel zijn van het spectrum van wat mogelijk en gewenst is.
Whimpers - Posthuman civilization ontstaat, maar ontwikkelt zich in een richting die geleidelijk, maar onherroepelijk, leidt tot het volledig verdwijnen van dingen die we waarderen, of tot een toestand waarin deze waarden slechts in geringe mate worden gerealiseerd vanaf het niveau dat zou kunnen worden bereikt.
Gewapend met een dergelijke classificatie kunnen we beginnen met het analyseren van de meest waarschijnlijke scenario's in elke categorie. De definities zullen ook duidelijker worden naarmate we vorderen.
Dankzij de versnelling van de technologische vooruitgang nadert de mensheid een kritiek punt in haar ontwikkeling. Naast de bekende bedreigingen zoals de nucleaire holocaust, biedt het vooruitzicht van snel evoluerende technologieën zoals nanosystemen en machine-intelligentie ongekende kansen en risico's. Onze toekomst en of we een toekomst zullen hebben, hangt af van hoe we met deze uitdagingen omgaan. Met de snel voortschrijdende technologie hebben we een beter begrip nodig van de dynamiek van de overgang van de menselijke naar de "post-menselijke" samenleving. Het is belangrijk om te weten waar de vallen zich bevinden: paden waar dingen dodelijk mis kunnen gaan.
Hoewel we een lange geschiedenis hebben van blootstelling aan een verscheidenheid aan persoonlijke, lokale of getolereerde wereldwijde gevaren, analyseert dit artikel een recent opkomende categorie: existentiële risico's. Dit is wat we de risico's noemen van gebeurtenissen die kunnen leiden tot het uitsterven van mensen of hartschade aan het potentieel van intelligent leven dat zich op aarde heeft ontwikkeld. Sommige van deze gevaren zijn relatief goed bekend, terwijl andere over het hoofd worden gezien. Bestaansbedreigingen hebben een aantal kenmerken die in dit geval conventioneel risicobeheer ondoeltreffend maken. Het laatste hoofdstuk van dit artikel bespreekt enkele van de ethische en politieke implicaties van dit probleem. Een beter begrip van het dreigingslandschap stelt ons in staat de belangrijkste strategieën te formuleren.
Het is gevaarlijk om te leven, en gevaar is overal. Gelukkig zijn niet alle risico's even ernstig. Voor onze doeleinden gebruiken we drie dimensies om risico's te beschrijven: schaal, intensiteit en waarschijnlijkheid. Met "schaal" bedoel ik de grootte van de groep mensen die risico lopen. Met "intensiteit" bedoel ik hoeveel schade elk individu in de groep wordt aangedaan. En met "waarschijnlijkheid" bedoel ik de beste huidige subjectieve schatting van de waarschijnlijkheid van een negatief resultaat.
5. Typologie van risico's
Er zijn zes groepen risico's, afhankelijk van de schaal en intensiteit.
Schaal / intensiteit: draaglijke intensiteit / dodelijke intensiteit
wereldwijde / aantasting van de ozonlaag, X
lokale / economische neergang in het land, genocide
Persoonlijk / autodiefstal, dood
Een derde dimensie, waarschijnlijkheid, kan over deze twee dimensies heen worden gelegd. Als alles gelijk blijft, is een risico ernstiger als het een aanzienlijke kans heeft en als onze acties het kunnen vergroten of verkleinen.
"Persoonlijk", "lokaal" of "globaal" verwijst naar de omvang van de bevolking die rechtstreeks wordt beïnvloed; wereldwijd risico treft de hele mensheid (en nakomelingen). "Aanvaardbare risico-intensiteit" en "dodelijke intensiteit" verwijzen naar hoe ernstig de risicopopulatie zal worden getroffen. Het aanvaardbare risico kan ook tot vernietiging leiden, maar de kans blijft bestaan om te herstellen van de schade of manieren te vinden om de negatieve gevolgen te overwinnen. Het uiteindelijke risico daarentegen is dat risico wanneer objecten die eraan worden blootgesteld ofwel sterven of onomkeerbaar worden beschadigd op een zodanige manier dat ze hun potentieel om het leven te leiden dat ze proberen te leiden, verminderen. Voor persoonlijke risico's is het uiteindelijke resultaat de dood, onomkeerbaar, ernstig hersenletsel of levenslange gevangenisstraf. Een voorbeeld van een lokaal dodelijk risico is genocide die leidt tot de vernietiging van een volk (wat meerdere Indiase volkeren overkwam). Een ander voorbeeld is bekering tot eeuwige slavernij.
Bestaansrisico's
In dit artikel bespreken we de risico's van de zesde categorie, die in de tabel is gemarkeerd met X. Dit is een categorie van wereldwijde dodelijke risico's. Ik zal ze existentiële bedreigingen noemen.
Bestaansbedreigingen verschillen van mondiaal aanvaardbare risico's. Voorbeelden van de laatste zijn: bedreigingen voor de biodiversiteit van de terrestrische ecosfeer, gematigde opwarming van de aarde (en zelfs grote), en mogelijk verstikkende culturele en religieuze tijdperken zoals de 'donkere eeuwen', zelfs als ze de hele samenleving overspannen, als ze vroeg of laat eindigen (hoewel zie het Screech-hoofdstuk hieronder). Zeggen dat een wereldwijd risico aanvaardbaar is, wil natuurlijk niet zeggen dat het aanvaardbaar of niet ernstig is.
Een wereldoorlog met standaardwapens of een decennium van een nazi-stijl Reich zullen buitengewoon gruwelijke gebeurtenissen zijn, ondanks het feit dat ze in de categorie van aanvaardbare wereldwijde risico's vallen, aangezien de mensheid uiteindelijk kan herstellen. (Maar deze gebeurtenissen zullen voor velen en voor vervolgde etnische groepen een lokaal overlijdensrisico vormen.)
Ik zal de volgende definitie van existentieel risico gebruiken:
Een bedreiging voor het bestaan is een risico waarbij een negatief resultaat ofwel het intelligente leven dat op aarde is ontstaan, vernietigt, ofwel onomkeerbaar en het potentieel ervan vermindert.
Het bestaan is een risico dat de mensheid als geheel bedreigt. Dergelijke catastrofes hebben negatieve gevolgen voor de toekomst van de aardse beschaving.
Het unieke van het existentiële dreigingsprobleem
Risico's in deze zesde categorie zijn onlangs naar voren gekomen. Dit is een van de redenen waarom het handig is om ze in een aparte categorie te scheiden. We hebben geen mechanismen ontwikkeld, natuurlijk of cultureel, om met dergelijke risico's om te gaan. Onze instellingen en verdedigingsstrategieën zijn gevormd door het aangaan van risico's zoals gevaarlijke dieren, vijandige mensen of stammen, vergiftigd voedsel, auto-ongelukken, Tsjernobyl, Bhopal, vulkaanuitbarstingen, aardbevingen, droogte, Wereldoorlog I, Wereldoorlog II, griepepidemieën, pokken, zwarte pest en aids. Dit soort rampen is vele malen voorgekomen en onze culturele houding ten opzichte van risico's is gevormd door vallen en opstaan bij het omgaan met dergelijke bedreigingen. Maar omdat het een tragedie is voor de deelnemers aan deze evenementen,vanuit een breed gezichtspunt - vanuit het oogpunt van de mensheid - waren zelfs de meest verschrikkelijke van deze rampen slechts rimpelingen op het oppervlak van de grote zee van leven.
Ze hadden geen significante invloed op het totale aantal gelukkige en lijdende mensen, noch bepaalden ze het lot op lange termijn van onze soort.
Behalve kometen die soorten vernietigen en botsingen met asteroïden (die uiterst zeldzaam zijn), waren er geen bedreigingen voor het bestaan tot het midden van de 20e eeuw, en we konden absoluut niets met een van hen doen.
De eerste door mensen veroorzaakte bedreiging voor het bestaan was de eerste atoombom. Destijds was er enige bezorgdheid dat de explosie een kettingreactie zou veroorzaken door de atmosfeer 'in brand te steken'. Hoewel we nu weten dat een dergelijke uitkomst fysiek onmogelijk was, was deze veronderstelling destijds consistent met de definitie van een existentiële dreiging. Wil iets een risico genoeg zijn, dan is er een subjectieve kans op een ongunstige uitkomst, zelfs als later blijkt dat er objectief gezien geen kans bestaat dat er iets ergs is gebeurd. Als we niet weten of iets objectief gezien riskant is of niet, is het een risico in subjectieve zin. Op deze subjectieve betekenis moeten we natuurlijk onze beslissingen baseren. Op elk moment moeten we onze beste subjectieve inschatting gebruiken van wat de objectieve risicofactoren zijn.
Gelijktijdig met de opkomst van kernwapenarsenalen in de USSR en de VS ontstond een veel grotere bedreiging voor het bestaan. Een volwaardige nucleaire oorlog was mogelijk met een aanzienlijke mate van waarschijnlijkheid en met gevolgen die zo hardnekkig konden zijn dat ze als mondiaal en definitief konden worden gekarakteriseerd. Onder de mensen die het best bekend waren met de informatie die op dat moment beschikbaar was, was er een grote zorg dat er een nucleair Armageddon zou kunnen gebeuren en dat het onze soort zou wegvagen of de menselijke beschaving voor altijd zou vernietigen.
Rusland en de Verenigde Staten beschikken over enorme nucleaire arsenalen die kunnen worden gebruikt bij toekomstige confrontaties, per ongeluk of met opzet. Het risico bestaat ook dat andere landen ooit grote arsenalen gaan opbouwen. Maar een kleine uitwisseling van nucleaire aanvallen, bijvoorbeeld tussen India en Pakistan, vormt geen bedreiging voor het bestaan, aangezien het de mensheid niet zal vernietigen en het menselijk potentieel niet onomkeerbaar zal schaden. Zo'n oorlog zou echter een lokaal dodelijk risico vormen voor die steden die het doelwit zouden zijn. Helaas zullen we zien dat een nucleair Armageddon en een komeet- of asteroïde-inslag slechts een opmaat zijn voor bedreigingen voor het bestaan in de 21e eeuw.
De aard van de problemen die voortkomen uit existentiële bedreigingen zal worden geïllustreerd door de volgende opmerkingen.
Onze benadering van existentiële bedreigingen kan niet op vallen en opstaan zijn gebaseerd. Je kunt niet van fouten leren. De reactieve benadering - kijken naar wat er is gebeurd, de schade beperken en leren van de ervaring - werkt niet. We moeten proactief te werk gaan. Dit vereist een vooruitziende blik om nieuwe soorten risico's te detecteren en de bereidheid om preventieve maatregelen te nemen en hun morele en economische kosten te betalen.
We kunnen niet met vertrouwen vertrouwen op instellingen, morele normen, sociale attitudes of nationaal veiligheidsbeleid die zijn voortgekomen uit ervaring met het beheren van andere soorten risico's. Bestaansbedreigingen zijn een ander beest. Het is moeilijk voor ons om ze zo serieus te nemen als ze verdienen, aangezien we nog nooit zulke rampen hebben meegemaakt. De collectieve angstreactie is waarschijnlijk slecht afgestemd op de omvang van de dreiging.
Het verminderen van existentiële bedreigingen is een algemeen publiek goed (Kaul, 1999) en wordt daarom door de markt onvoldoende geleverd (Feldman, 1980). Bedreigingen zijn een bedreiging voor iedereen en vragen om een internationale reactie. Respect voor de nationale soevereiniteit is geen legitiem excuus om geen tegenmaatregelen te nemen tegen kritieke existenties.
Gezien het onmiskenbare belang van het onderwerp is het verrassend hoe weinig systematisch werk op dit gebied is gedaan. Dit komt gedeeltelijk doordat de ernstigste risico's ontstaan (zoals we later zullen aantonen) van verwachte toekomstige technologieën die we pas onlangs hebben begrepen.
Een ander onderdeel van de verklaring kan de onvermijdelijk interdisciplinaire en speculatieve aard van het onderzoeksonderwerp zijn. En gedeeltelijk kan de verwaarlozing worden toegeschreven aan een onwil om serieus na te denken over deprimerende onderwerpen. Dit betekent niet dat we ontmoedigd moeten zijn, maar dat we goed moeten kijken naar wat er mis kan gaan, zodat we robuuste strategieën kunnen ontwikkelen om onze overlevingskansen te vergroten. Om dit te doen, moeten we weten waar we onze inspanningen op moeten richten.
Bestaansrisicoclassificatie
We gebruiken de volgende 4 categorieën om existentiële risico's te classificeren:
Explosies (knallen) - Het intelligente leven dat op aarde is ontstaan, wordt uitgeroeid als gevolg van een relatief plotselinge catastrofe, die kan plaatsvinden als gevolg van een ongeluk of met opzet.
Crunches - Het vermogen van de mensheid om te evolueren naar posthumaniteit is onomkeerbaar beschadigd, hoewel mensen op de een of andere manier blijven leven.
Kreten - Een of andere vorm van posthumaniteit zal worden bereikt, maar het zal slechts een extreem smal deel zijn van het spectrum van wat mogelijk en gewenst is.
Whimpers - Posthuman civilization ontstaat, maar ontwikkelt zich in een richting die geleidelijk, maar onherroepelijk, leidt tot het volledig verdwijnen van dingen die we waarderen, of tot een toestand waarin deze waarden slechts in geringe mate worden gerealiseerd vanaf het niveau dat zou kunnen worden bereikt.
Gewapend met een dergelijke classificatie kunnen we beginnen met het analyseren van de meest waarschijnlijke scenario's in elke categorie. De definities zullen ook duidelijker worden naarmate we vorderen.
Pony
Dit is de meest voor de hand liggende vorm van mondiaal risico. Dit concept is het gemakkelijkst te begrijpen. Hieronder staan enkele van de meest waarschijnlijke manieren om de wereld explosief te beëindigen. Ik heb geprobeerd ze in oplopende volgorde te rangschikken (naar mijn mening) van de waarschijnlijkheid dat ze de uitroeiing van intelligent leven op aarde veroorzaken; maar mijn bedoeling met betrekking tot bestellen was om een basis te creëren voor verdere discussie, in plaats van enkele ondubbelzinnige uitspraken te doen.
1. Opzettelijk misbruik van nanotechnologie
In zijn volwassen vorm zal moleculaire nanotechnologie de creatie mogelijk maken van zelfreplicerende robots ter grootte van bacteriën die zich kunnen voeden met rioolwater of ander organisch materiaal (Drexler 1985, 1992; Merkle et al. 1991: 187-195; Freitas 2000). Dergelijke replicators kunnen de biosfeer opeten of op andere manieren vernietigen, zoals vergiftigen, verbranden of zonlicht blokkeren. Een man met criminele bedoelingen met deze nanotechnologie kan de vernietiging van intelligent leven op aarde veroorzaken door dergelijke nanobots in het milieu vrij te laten.
De technologie voor het maken van destructieve nanobots lijkt veel eenvoudiger dan de technologie voor het creëren van een effectieve verdediging tegen een dergelijke aanval (globaal nanotechnologisch immuunsysteem, "actief schild" (Drexler 1985)). Daarom zal er waarschijnlijk een periode van kwetsbaarheid komen waarin het nodig is om te voorkomen dat deze technologieën in verkeerde handen vallen. Ook kunnen deze technologieën moeilijk te beheren zijn omdat ze geen zeldzame radioactieve isotopen of enorme, gemakkelijk detecteerbare fabrieken vereisen, zoals het geval is bij de productie van kernwapens (Drexler 1985).
Zelfs als een effectieve verdediging tegen een beperkte nanotechnologie-aanval aanwezig is voordat gevaarlijke replicators worden ontwikkeld en verworven door suïcidale regimes of terroristen, bestaat nog steeds het gevaar van een wapenwedloop tussen staten die nanotechnologie bezitten. Er is beargumenteerd (Gubrud 2000) dat moleculaire fabricage zal leiden tot grotere instabiliteit in de wapenwedloop en grotere instabiliteit in verband met crises dan kernwapens. De instabiliteit van de wapenwedloop betekent dat elke concurrerende partij zal worden gedomineerd door de wens om zijn bewapening te versterken, wat leidt tot een snelle ontvouwing van de wapenwedloop. Instabiliteit in verband met crises betekent dat als eerste slaan de belangrijkste stimulans voor beide partijen zal zijn. Twee ongeveer even sterke tegenstanders,Nadat ze nanotechnologische wapens hebben verworven, zullen ze, vanuit dit oogpunt, beginnen met massaproductie en het ontwerpen van wapens, die zullen doorgaan totdat zich een crisis voordoet en een oorlog begint, die mogelijk in staat is om universele uiteindelijke vernietiging te veroorzaken. Dat deze wapenwedloop kon worden voorspeld, is geen garantie dat er tijdig een internationaal veiligheidssysteem komt om deze catastrofe te voorkomen. Een nucleaire wapenwedloop tussen de USSR en de VS werd voorspeld, maar het gebeurde toch.dat het internationale veiligheidssysteem op tijd wordt gecreëerd om deze catastrofe te voorkomen. Een nucleaire wapenwedloop tussen de USSR en de VS werd voorspeld, maar het gebeurde toch.dat het internationale veiligheidssysteem op tijd wordt gecreëerd om deze catastrofe te voorkomen. Een nucleaire wapenwedloop tussen de USSR en de VS werd voorspeld, maar het gebeurde toch.
2. Nucleaire Holocaust
De Verenigde Staten en Rusland hebben nog steeds enorme reserves aan kernwapens. Maar zal een volwaardige nucleaire oorlog leiden tot de werkelijke uitroeiing van de mensheid? Let daar op:
(a) om een existentieel risico te worden, is het voldoende dat we er niet zeker van zijn dat het niet zal gebeuren.
(b) de klimatologische effecten van een grootschalige nucleaire oorlog zijn weinig bekend (er is een kans op een nucleaire winter).
(c) toekomstige wapenwedstrijden tussen landen kunnen niet worden uitgesloten, en dit zou kunnen leiden tot de opkomst van nog grotere arsenalen dan die welke bestonden op het hoogtepunt van de Koude Oorlog. De wereldvoorraad plutonium neemt gestaag toe en heeft 2.000 ton bereikt, wat ongeveer tien keer meer is dan dat er in kernkoppen overblijft (Leslie 1996: 26). Zelfs als sommige mensen de kortetermijneffecten van een nucleaire oorlog overleven, zou dit kunnen leiden tot de ineenstorting van de beschaving. Het menselijk ras uit het stenen tijdperk kan al dan niet beter bestand zijn tegen uitsterven dan andere diersoorten.
3. We leven in een simulatie en hij gaat uit
Men kan stellen dat de hypothese dat we in een computersimulatie leven, moet worden toegeschreven aan een significante waarschijnlijkheid (Bostrom 2001). Het belangrijkste idee achter de zogenaamde Proof of Simulation is dat er in de toekomst mogelijk enorme hoeveelheden rekenkracht beschikbaar komen (Moravec 1989, 1999), en dat ze onder andere kunnen worden gebruikt om grote aantallen fijn gestructureerde simulaties uit het verleden uit te voeren. menselijke beschavingen. Op basis van een paar niet zo ongelooflijke aannames, kan het resultaat zijn dat de meeste geesten zoals de onze gesimuleerde geesten zijn, en daarom moeten we een aanzienlijke waarschijnlijkheid toeschrijven dat we zulke gesimuleerde geesten zijn in plaats van de (subjectief niet te onderscheiden) geesten van natuurlijk ontwikkelde wezens. En als dat zo is, lopen we het risico vandat de simulatie op elk moment kan worden uitgeschakeld. De beslissing om onze simulatie te stoppen, kan te wijten zijn aan onze acties of aan externe factoren.
Hoewel het voor iemand lichtzinnig kan lijken om een dergelijke radicale hypothese naar voren te brengen naast een specifieke dreiging van een nucleaire holocaust, moeten we onze conclusies baseren op redenering en niet op ongetrainde intuïtie. Totdat er een weerlegging is van de argumenten van Bostrom (2001), zou het intellectueel oneerlijk zijn om het afsluiten van simulatie buiten beschouwing te laten als een mogelijke oorzaak van het uitsterven van de mens.
4. Slecht geprogrammeerde superintelligentie
Wanneer we het eerste superintelligente apparaat creëren (Moravec 1989, 1998, 1999; Vinge 1993; Bostrom 1998; Kurzweil 1999; Hanson et al. 1998), kunnen we een fout maken en doelen stellen die het naar de vernietiging van de mensheid zullen leiden, gezien het enorme aantal een intellectueel voordeel dat de kracht geeft om dat te doen. We kunnen bijvoorbeeld ten onrechte een doel op een lager niveau naar een superdoel verheffen. We vertellen hem dat hij een of ander wiskundig probleem moet oplossen, en hij gehoorzaamt, verandert alle materie in het zonnestelsel in een enorm computerapparaat en vermoordt onderweg de persoon die deze vraag stelde. (Zie (Yudkowsky 2001) voor een verdere analyse van dit onderwerp).
5. Genetisch gemanipuleerd biologisch object
Als gevolg van de enorme vooruitgang in de genetische technologie die nu plaatsvindt, kan het voor een tiran, terrorist of gek mogelijk zijn om een "doomsday-virus" te creëren: een organisme dat lange latentie combineert met hoge virulentie en dodelijkheid (National Intelligence Council 2000).
Gevaarlijke virussen kunnen zelfs onbedoeld worden gekweekt, zoals onlangs werd aangetoond door Australische onderzoekers die een gemodificeerd muizenpokken-ectromelia-virus met 100% dodelijkheid creëerden toen ze probeerden een anticonceptievirus voor muizen te ontwerpen om knaagdierplagen te bestrijden (Nowak 2001). Hoewel dit specifieke virus mensen niet infecteert, wordt vermoed dat soortgelijke veranderingen de dodelijkheid van het menselijke pokkenvirus zouden vergroten. Wat hier aan het potentiële gevaar bijdraagt, is dat de studie snel werd gepubliceerd in de open wetenschappelijke literatuur (Jackson et al. 2001: 1479-1491). Het komt zelden voor dat informatie die is gecreëerd in open biotech-projecten geheim wordt gehouden, ongeacht of dit nu gebeurthoe ernstig het potentiële gevaar is - en hetzelfde geldt voor onderzoek in nanotechnologie.
Genetische geneeskunde zal leiden tot betere medicijnen en vaccins, maar er is geen garantie dat de verdediging het misdrijf zal bijhouden. (Zelfs een willekeurig gegenereerd muizenpokkenvirus had een sterftecijfer van 50% bij gevaccineerde muizen.) Uiteindelijk kunnen de gevaren van biologische wapens worden begraven door de ontwikkeling van nanogeneeskunde, maar hoewel nanotechnologie een enorm langetermijnpotentieel heeft voor de geneeskunde (Freitas 1999), brengt het zijn eigen gevaren met zich mee.
6. Verkeerd gebruik van gevaarlijke nanotechnologie ("grijze klodder")
De mogelijkheid van een ongeval is nooit helemaal uit te sluiten.
Er zijn echter veel manieren om ongevallen waarbij mensen omkomen te voorkomen door het gebruik van betrouwbare technische oplossingen. Het gevaarlijke gebruik van zelfreplicerende systemen kan worden vermeden; je kunt nanobots afhankelijk maken van het gebruik van een zeldzame chemische stof die niet in de natuur voorkomt; je kunt ze in een afgesloten omgeving insluiten; ze kunnen zo worden ontworpen dat elke mutatie er vrijwel zeker voor zorgt dat de nanobot niet meer functioneert (Foresight Institute 2000). Om deze reden is onbedoeld misbruik van nanobots veel minder verontrustend dan kwaadwillig misbruik (Drexler 1985; Freitas 2000; (Foresight Institute 1997-1991).
Het onderscheid tussen per ongeluk en opzettelijk kan echter wazig worden. Hoewel het in principe mogelijk lijkt om wereldwijde nanotechnologische rampen zeer onwaarschijnlijk te maken, kunnen specifieke omstandigheden verhinderen dat dit ideale niveau van beveiliging wordt gerealiseerd. Vergelijk nanotechnologie met nucleaire technologie. Vanuit technisch oogpunt is het natuurlijk mogelijk om nucleaire technologie alleen voor vreedzame doeleinden te gebruiken, bijvoorbeeld alleen in kernreactoren, die geen enkele kans hebben om de hele planeet te vernietigen. Maar in de praktijk bleek het onmogelijk om het gebruik van nucleaire technologie ook voor het maken van kernwapens te vermijden, wat leidde tot een wapenwedloop. Met nucleaire arsenalen met een hoge mate van gevechtsgereedheid, is een hoog risico op een accidentele oorlog onvermijdelijk. Hetzelfde kan gebeuren met nanotechnologie:ze kunnen worden gedwongen militaire doeleinden te dienen op een manier die een onmiddellijk risico op ernstige ongevallen kan opleveren.
In sommige situaties kan het zelfs strategisch voordelig zijn om opzettelijk een bepaalde technologie of controlesysteem riskant te maken, bijvoorbeeld om een “fundamenteel onvoorspelbare dreiging te creëren, waarin altijd een toeval aanwezig is” - (Schelling 1960).
7. Iets onverwachts
We hebben zo'n verenigende categorie nodig. Het zou dwaas zijn te geloven dat we alle belangrijke bedreigingen al hebben bedacht en voorspeld. Toekomstige technologische of wetenschappelijke ontdekkingen kunnen gemakkelijk nieuwe manieren creëren om de wereld te vernietigen.
Sommige voorzienbare gevaren (en dus niet van deze categorie) werden uitgesloten van de lijst met explosies vanwege het feit dat ze een te onwaarschijnlijke oorzaak lijken te zijn van een wereldwijde catastrofe, namelijk: zonnevlammen, supernovae, explosies en samensmeltingen van zwarte gaten, gammastraaluitbarstingen, uitbraken in het galactische centrum, supervolkanen, verlies van biodiversiteit, toegenomen luchtvervuiling, het geleidelijke verlies van menselijk vermogen om zich voort te planten, en vele religieuze doemscenario's. De hypothese dat we op een dag 'verlichting' zullen bereiken en collectieve zelfmoord zullen plegen of stoppen met vermenigvuldigen, zoals VHEMT (The Voluntary Human Extinction Movement) hoop voorstaat (Knight 2001), lijkt onwaarschijnlijk. Als inderdaad,het zou beter zijn om niet te bestaan (zoals Silenus koning Midas in de Griekse mythe vertelde en zoals Arthur Schopenhauer betoogde (Schopenhauer 1891), hoewel hij om redenen die specifiek zijn voor zijn specifieke filosofische systeem, niet agiteerde voor zelfmoord), dan zouden we dit scenario niet als globaal beschouwen een ramp. De aanname dat in leven zijn geen slechte zaak is, moet in de definitie van explosies als een impliciete aanname worden gezien. Valse algemene zelfmoord is een risico van bestaan, hoewel de kans extreem klein lijkt. (Voor meer informatie over de ethiek van het uitsterven van de mens, zie hoofdstuk 4 van (Leslie 1996: 26).)dat leven niet slecht is, moet in de definitie van explosies als een impliciete aanname worden beschouwd. Valse algemene zelfmoord is een risico van bestaan, hoewel de kans extreem klein lijkt. (Voor meer informatie over de ethiek van het uitsterven van de mens, zie hoofdstuk 4 van (Leslie 1996: 26).)dat in leven zijn niet slecht is, moet worden beschouwd als een impliciete aanname in de definitie van explosies. Valse algemene zelfmoord is een risico van bestaan, hoewel de kans extreem klein lijkt. (Voor meer informatie over de ethiek van het uitsterven van de mens, zie hoofdstuk 4 van (Leslie 1996: 26).)
8. Rampen als gevolg van fysieke experimenten
De atoombomontwerpers van het Manhattan Project waren bang dat een explosie de atmosfeer zou doen ontbranden, moderne tegenhangers.
Er is gespeculeerd dat experimenten met toekomstige hoogenergetische deeltjesversnellers de vernietiging kunnen veroorzaken van de metastabiele toestand van het vacuüm waarin onze kosmos zich bevindt, waardoor het in een "echt" vacuüm verandert met een lagere energiedichtheid (Coleman, Luccia 1980: 3305-3315). Dit zal een uitdijende bel van totale vernietiging creëren die zich met de snelheid van het licht door de melkweg en daarbuiten zal verspreiden en alle materie tijdens het reizen uit elkaar zal scheuren.
Een ander idee is dat acceleratorexperimenten negatief geladen, stabiele 'strangelets' (een hypothetische vorm van nucleaire materie) kunnen creëren of een microscopisch zwart gat kunnen creëren dat in het centrum van de aarde stort en de rest van de planeet begint te consumeren (Dar et al. 1999: 142-148). Dergelijke scenario's lijken onmogelijk op basis van onze beste natuurkundetheorieën. Maar de reden dat we de experimenten doen, is juist omdat we niet weten wat er werkelijk zal gebeuren. Veel overtuigender bewijs is dat de energiedichtheden die haalbaar zijn in moderne versnellers veel lager zijn dan die welke in de natuur worden aangetroffen wanneer kosmische straling met elkaar in botsing komt (Dar et al. 1999: 142-148; Turner, Wilczek 1982: 633-634). Het is echter mogelijkdat andere factoren dan energiedichtheid belangrijk zijn voor deze hypothetische processen, en deze factoren zullen samen worden gebracht in toekomstige nieuwe experimenten.
De belangrijkste reden tot bezorgdheid over 'fysieke rampen' is de observatie op metaniveau dat er voortdurend allerlei gevaarlijke fysieke verschijnselen worden ontdekt, dus zelfs als nu alle fysieke rampen waar we aan denken volkomen onwaarschijnlijk of onmogelijk zijn, kunnen ze nog steeds er zijn meer realistische paden naar een ramp die erop wachten om ontdekt te worden. De hier gegeven zijn niets meer dan illustraties van het algemene geval.
9. Natuurlijk voorkomende ziekte
Wat als aids net zo besmettelijk was als verkoudheid?
Er zijn verschillende kenmerken van de moderne wereld die een wereldwijde pandemie veel waarschijnlijker dan ooit kunnen maken. Reizen, voedselhandel en het stadsleven zijn allemaal aanzienlijk toegenomen in de moderne tijd, waardoor het gemakkelijker wordt voor een nieuwe ziekte om het grootste deel van de wereldbevolking snel te infecteren.
10. Botsing met een asteroïde of komeet
Er is een reëel maar zeer klein risico dat we zullen worden uitgeroeid door een asteroïde of komeetinslag (Morrison et al. 1994).
Om het uitsterven van de mensheid te veroorzaken, moet het getroffen lichaam misschien meer dan 1 km in diameter zijn (en waarschijnlijk 3-6 km.). Er zijn minstens vijf, en misschien meer dan een dozijn massa-uitstervingen geweest. De aarde, en in ieder geval sommige zijn waarschijnlijk veroorzaakt door botsingen. (Leslie 1996: 81 e.v.). In het bijzonder werd het uitsterven van dinosaurussen 65 miljoen jaar geleden geassocieerd met de val van een asteroïde met een diameter van 10-15 km op het schiereiland Yucatan. Aangenomen wordt dat een lichaam met een diameter van 1 km of meer gemiddeld eens in de half miljoen jaar met de aarde in botsing komt. We hebben tot nu toe slechts een klein deel van de potentieel gevaarlijke lichamen gecatalogiseerd.
Als we op tijd een naderend lichaam kunnen zien, hebben we een goede kans het af te buigen door het te onderscheppen met een nucleaire raket (Gold 1999).
11. Niet te stoppen opwarming van de aarde
Er is een scenario dat de uitstoot van broeikasgassen in de atmosfeer een proces kan zijn met sterke positieve feedback. Misschien is dit wat er is gebeurd met Venus, die nu een atmosfeer heeft van en een temperatuur van 450 ° C. Hopelijk hebben we echter de technologische middelen om deze trend tegen te gaan tegen de tijd dat het echt gevaarlijk wordt.
Nick Bostrom
