Meegesleept door de hype over de huidige "crises" waarmee de mensheid wordt geconfronteerd, vergeten we het grote aantal generaties dat, naar we hopen, ons zal komen vervangen. We hebben het niet over die mensen die 200 jaar na ons zullen leven, maar over degenen die duizend of 10 duizend jaar na ons zullen leven.
Ik gebruik het woord "hoop" omdat we worden geconfronteerd met risico's die existentieel worden genoemd en die de mensheid kunnen vernietigen. Deze risico's houden niet alleen verband met grote rampen, maar ook met rampen die de geschiedenis kunnen beëindigen.
Niet iedereen negeert echter de verre toekomst. Mystici als Nostradamus proberen regelmatig een datum voor het einde van de wereld te bepalen. H. G. Wells probeerde een voorspellingswetenschap te ontwikkelen en het is bekend dat hij de toekomst van de mensheid heeft beschreven in The Time Machine. Andere schrijvers hebben andere versies van de verre toekomst bedacht om te waarschuwen, te entertainen of te verzinnen.
Maar zelfs als al deze pioniers en futuristen niet aan de toekomst van de mensheid zouden denken, zou het resultaat hetzelfde blijven. Er was niet veel dat de mens eerder had kunnen doen om ons van een existentiële crisis te redden, of zelfs maar te veroorzaken.
Vandaag bevinden we ons in een meer bevoorrechte positie. Menselijke activiteit geeft geleidelijk vorm aan de toekomst van onze planeet. En hoewel we nog ver verwijderd zijn van het beheersen van rampen, ontwikkelen we al technologieën die de gevolgen ervan kunnen verzachten, of op zijn minst iets kunnen doen.
De toekomst is onvolmaakt
Deze risico's worden echter nog steeds niet goed begrepen. Er heerst onmacht en fatalisme over de genoemde problemen. Mensen praten al millennia over apocalyps, maar weinigen hebben geprobeerd ze te voorkomen. Mensen zijn bovendien niet zo sterk in termen van problemen die nog niet zijn verschenen (vooral vanwege de impact van de beschikbaarheidsheuristiek) - de neiging om de waarschijnlijkheid van die gebeurtenissen te overschatten, waarvan we voorbeelden kennen, en de gebeurtenissen die we onderschatten we kunnen het ons niet meteen herinneren).
Promotie video:
Als de mensheid ophoudt te bestaan, dan zal dit soort verlies op zijn minst gelijk staan aan het verlies van alle levende individuen, evenals de ineenstorting van al hun doelen. In werkelijkheid zal het verlies echter waarschijnlijk veel groter zijn. Het verdwijnen van een persoon betekent het verlies van de betekenis die door vorige generaties is gecreëerd, het verlies van het leven van alle toekomstige generaties (en het aantal toekomstige levens kan astronomisch zijn), evenals al die waarden die ze waarschijnlijk zouden kunnen creëren.
Als bewustzijn en rede er niet meer zijn, kan dit betekenen dat de waarde zelf ophoudt te bestaan in het universum. Dit is een zeer goede morele reden om onvermoeibaar te werken om existentiële bedreigingen te voorkomen. En op deze weg mogen we geen enkele fout maken.
Met dat gezegd heb ik de vijf meest ernstige bedreigingen voor het menselijk bestaan geselecteerd. Er moet echter rekening worden gehouden met enkele aanvullende omstandigheden, aangezien deze lijst nog niet definitief is.
In de afgelopen eeuwen hebben we voor onszelf nieuwe existentiële risico's ontdekt of gecreëerd: in het begin van de jaren zeventig werden supervulkanen ontdekt en vóór het Manhattan-project was een kernoorlog onmogelijk. Daarom mogen we verwachten dat er andere bedreigingen verschijnen. Bovendien kunnen sommige van de risico's die tegenwoordig ernstig lijken, verdwijnen naarmate de kennis zich ophoopt. De waarschijnlijkheid van bepaalde gebeurtenissen verandert ook in de tijd. Soms gebeurt dit omdat we ons zorgen maken over bestaande risico's en de oorzaken ervan aanpakken.
Ten slotte betekent het feit dat iets mogelijk en potentieel riskant is niet dat het de moeite waard is om je zorgen over te maken. Er zijn risico's dat we helemaal niets kunnen doen - bijvoorbeeld de fluxen van gammastraling als gevolg van de explosie van sterrenstelsels. Maar als we ontdekken dat we iets kunnen, veranderen de prioriteiten. Dus met de verbetering van de hygiënische omstandigheden, de komst van vaccins en antibiotica, begon de pest niet te worden gezien als een manifestatie van goddelijke straf, maar als een gevolg van de slechte staat van de gezondheidszorg.
1. Nucleaire oorlog
Hoewel tot dusverre slechts twee atoombommen zijn gebruikt - in Hiroshima en Nagasaki tijdens de Tweede Wereldoorlog - en de voorraden zijn geslonken voor hun toppen in de Koude Oorlog, zou het een vergissing zijn te denken dat een nucleaire oorlog onmogelijk is. In feite lijkt ze niet ongelooflijk te zijn.
De Cubaanse rakettencrisis stond op het punt een nucleaire crisis te worden. Als we ervan uitgaan dat een dergelijke crisis elke 69 jaar voorkomt en er een kans van één op drie is dat dit zou kunnen leiden tot het uitbreken van een nucleaire oorlog, dan neemt de kans op zo'n ramp toe en wordt de bijbehorende coëfficiënt 1 op 200 per jaar.
Om het nog erger te maken, is de Cubaanse rakettencrisis slechts het bekendste geval. De geschiedenis van Sovjet-Amerikaanse nucleaire afschrikking staat bol van crisissituaties en gevaarlijke fouten. De werkelijke kans is niet langer afhankelijk van internationale spanningen, maar de kans op een nucleair conflict is waarschijnlijk niet lager dan een coëfficiënt van 1 op 1000 per jaar.
Een grootschalige nucleaire oorlog tussen de grootmachten zou leiden tot de dood van honderden miljoenen mensen direct op het moment van uitwisseling van stakingen of als gevolg van de gevolgen ervan - het zou een ondenkbare catastrofe zijn. Voor existentieel risico is dit echter nog steeds niet voldoende.
Hetzelfde moet gezegd worden over de risico's die samenhangen met de gevolgen van nucleaire explosies - ze zijn vaak overdreven. Lokaal zijn ze dodelijk, maar wereldwijd vormen ze een relatief beperkt probleem. Kobaltbommen zijn voorgesteld als een hypothetisch doemdagwapen dat in staat is om alles te vernietigen als gevolg van de gevolgen die aan het gebruik ervan zijn verbonden, maar in de praktijk zijn ze erg moeilijk te vervaardigen en duur. En hun creatie is in feite onmogelijk.
De echte bedreiging is de nucleaire winter - dat wil zeggen roetdeeltjes die in de stratosfeer kunnen opstijgen en daardoor een langdurige temperatuurdaling en uitdroging van de planeet veroorzaken. Huidige klimaatsimulaties laten zien dat dit het jarenlang onmogelijk zou maken om een groot deel van de planeet te bewerken.
Als dit scenario uitkomt, zullen miljarden mensen van honger omkomen en zal een klein aantal overlevenden worden blootgesteld aan andere bedreigingen, waaronder ziekten. De grootste onzekerheid is hoe de roetdeeltjes die naar de lucht opstijgen zich zullen gedragen: afhankelijk van hun samenstelling kan het resultaat anders zijn, en tot dusver hebben we geen betrouwbare manier om dit soort gevolgen te meten.
2. Pandemieën veroorzaakt door bio-engineering
Door natuurlijke pandemieën zijn meer doden gevallen dan oorlogen. Het is echter onwaarschijnlijk dat natuurlijke pandemieën een existentiële bedreiging vormen. Meestal zijn er mensen die immuun zijn voor ziekteverwekkers en worden de nakomelingen van de overlevenden nog beter beschermd.
De evolutie ondersteunt ook niet bepaald die parasieten die gastheerorganismen vernietigen, en daarom is syfilis, zoals het zich in Europa verspreidde, veranderd van een wrede moordenaar en een chronische ziekte.
Helaas zijn wij nu zelf in staat ziekten destructiever te maken. Een van de bekendste voorbeelden is hoe de opname van een extra gen in muizenpokken - de muisvariant van pokken - het veel levensbedreigender maakte en in staat was om reeds gevaccineerde individuen te infecteren. Recent werk met aviaire influenza heeft aangetoond dat de besmettelijkheid van de ziekte doelbewust kan worden verhoogd.
Momenteel is het risico dat iemand opzettelijk een of andere kwaadaardige infectie verspreidt, verwaarloosbaar. Naarmate de biotechnologie echter verbetert en goedkoper wordt, zullen steeds meer groepen de ziekte nog gevaarlijker kunnen maken.
Het meeste werk op het gebied van biologische wapens wordt uitgevoerd door staten die iets onder controle willen krijgen, aangezien de vernietiging van de mensheid militair niet zinvol is. Er zullen echter altijd mensen zijn die sommige dingen komen doen, simpelweg omdat ze het kunnen. Anderen hebben misschien meer verheven doelen.
Zo probeerden leden van de religieuze groepering Aum Shinrikyo het begin van de apocalyps te versnellen door het gebruik van biologische wapens, niet alleen door hun meer succesvolle aanval met zenuwgas. Sommige mensen geloven dat de situatie op aarde zal verbeteren als er geen mensen meer op de aarde zijn, enzovoort.
Het aantal sterfgevallen als gevolg van het gebruik van biologische wapens en epidemische ziekten doet denken dat ze zich ontwikkelen volgens een machtswet - in een groot aantal gevallen zijn er weinig slachtoffers, maar in een klein aantal gevallen zijn er veel slachtoffers. Gezien de momenteel beschikbare gegevens lijkt het risico van een wereldwijde pandemie door bioterrorisme klein.
Maar dit geldt alleen voor bioterrorisme: regeringen hebben met behulp van biologische wapens aanzienlijk meer mensen gedood dan bioterroristen (ongeveer 400 duizend mensen werden het slachtoffer van het Japanse biologische oorlogsvoeringprogramma tijdens de Tweede Wereldoorlog). Technologie wordt steeds krachtiger, en daarom zal het in de toekomst gemakkelijker worden om nog meer ziekteverwekkers aan te maken.
3. Superintelligentie
Intelligentie is krachtig. De marginale toename in probleemoplossing en groepscoördinatie is de reden waarom de rest van de apensoort zonder werk zit. Momenteel hangt hun bestaan af van de beslissingen van de persoon, en niet van wat ze doen.
Slim zijn is echte uitmuntendheid voor mensen en organisaties, en daarom wordt er veel moeite gedaan om onze individuele en collectieve intelligentie te verbeteren, van medicijnen om cognitieve vaardigheden te verbeteren tot het ontwikkelen van programma's met betrekking tot kunstmatige intelligentie.
Het probleem is dat intelligente systemen goed presteren bij het bereiken van hun doelen, maar als deze doelen slecht zijn gedefinieerd, hebben ze het vermogen om hun macht te gebruiken om hun catastrofale doelen op een slimme manier te bereiken. Er is geen reden om te denken dat het intellect zelf in staat is om iets of iemand correct en moreel te laten handelen. In feite bestaat de mogelijkheid dat sommige soorten superintelligente systemen morele regels zullen trotseren, zelfs als ze mogelijk zouden zijn.
Nog verontrustender is het feit dat wanneer we dingen proberen uit te leggen aan kunstmatige intelligentie, we geconfronteerd worden met diepe praktische en filosofische problemen. Menselijke waarden zijn vage, complexe kwesties die we nog niet goed kunnen definiëren, en zelfs als we dat zouden kunnen, begrijpen we misschien niet de volledige implicaties van wat we proberen te creëren.
Op software gebaseerde intelligentie kan de kloof met mensen zeer snel dichten en machinecapaciteiten kunnen gevaarlijk worden. Het probleem is dat kunstmatige intelligentie op verschillende manieren in verband kan worden gebracht met biologische intelligentie: het kan sneller werken op snellere computers, delen ervan kunnen op meer computers worden gelokaliseerd, sommige versies ervan kunnen direct worden getest en bijgewerkt, en er is de mogelijkheid om nieuwe algoritmen te introduceren die de prestaties drastisch kunnen verbeteren.
Tegenwoordig gaan velen ervan uit dat een "doorbraak in intelligentie" waarschijnlijk is als de programma's zelf voldoende capaciteit hebben om betere programma's te produceren. Als dit soort sprong plaatsvindt, zal er een groot verschil zijn tussen het slimme systeem (of de mensen die het vertellen wat ze moeten doen) en de rest van de wereld. Een dergelijke situatie zou heel goed tot een ramp kunnen leiden als de doelen niet correct worden gesteld.
Het ongebruikelijke van superintelligentie is dat we niet weten of een snelle en krachtige doorbraak mogelijk is in de ontwikkeling van intelligentie: misschien verbetert onze huidige beschaving als geheel zichzelf in het hoogste tempo. Er is echter voldoende reden om aan te nemen dat sommige technologieën bepaalde dingen veel sneller vooruit kunnen helpen dan de mogelijkheden om hun controle door de moderne samenleving te verbeteren.
Bovendien kunnen we nog niet begrijpen hoe gevaarlijk sommige vormen van superintelligentie kunnen zijn en hoe mitigatiestrategieën zullen werken. Het is erg moeilijk om te speculeren over toekomstige technologieën die we nog niet hebben, of intelligentie die verder gaat dan wat we hebben. Van de genoemde risico's heeft dit de meeste kansen om óf echt grootschalig te worden óf slechts een luchtspiegeling te blijven.
Over het algemeen is dit gebied nog niet voldoende bestudeerd, wat verrassend is. Zelfs in de jaren vijftig en zestig waren de mensen er volledig van overtuigd dat superintelligentie 'in de loop van een generatie' kon worden gecreëerd, maar in die tijd kregen veiligheidskwesties niet de nodige aandacht. Misschien namen mensen hun voorspellingen toen gewoon niet serieus en beschouwden ze het hoogstwaarschijnlijk als een probleem in de verre toekomst.
4. Nanotechnologie
Nanotechnologie gaat over het beheersen van materie met atomaire of moleculaire precisie. Op zichzelf is het niet gevaarlijk en integendeel, het kan voor veel toepassingen heel goed nieuws zijn. Het probleem is dat, net als in de biotechnologie, groeiende kansen ook het potentieel voor misbruik vergroten waartegen zeer moeilijk te verdedigen is.
Het grote probleem is niet de beruchte "grijze klodder" van zelfreplicerende nanomachines die alles verslinden. Hiervoor zijn zeer geavanceerde apparaten nodig. Het is moeilijk om een machine te maken die zichzelf kan reproduceren: biologie is per definitie beter in dit soort taken. Misschien zullen sommige maniakken dit kunnen, maar er zijn meer toegankelijke vruchten aan de boom van destructieve technologieën.
Het meest voor de hand liggende risico is dat automatische precisieproductie ideaal blijkt te zijn voor goedkope fabricage van zaken als wapens. In een wereld waarin veel regeringen de mogelijkheid zullen hebben om grote aantallen autonome of semi-autonome wapensystemen te 'printen' (inclusief de mogelijkheid om hun productie te verhogen), kan de wapenwedloop erg intens worden - en het resultaat is verhoogde instabiliteit, en daarom kan het erg verleidelijk zijn om een eerste aanval te lanceren tot het moment waarop de vijand een groot voordeel krijgt.
Wapens kunnen ook heel klein van formaat en zeer nauwkeurig zijn: ze kunnen 'slim gif' zijn dat niet alleen als zenuwgas kan werken, maar ook hun slachtoffers kan selecteren, of alomtegenwoordige micro-robots (gnatbots), miniatuurbewakingssystemen om de bevolking gehoorzaam te houden - dit is allemaal heel goed mogelijk. Daarnaast kunnen kernwapens en klimaatinstallaties in handen vallen van indringers.
We kunnen de waarschijnlijkheid van een existentieel risico van toekomstige nanotechnologie niet inschatten, maar blijkbaar kunnen ze behoorlijk destructief zijn, simpelweg omdat ze kunnen geven wat we willen.
5. Mysterieus onbekend
De meest alarmerende mogelijkheid is dat er iets dodelijks in de wereld is, maar we weten niet wat het is.
Stilte in de hemel kan hiervan het bewijs zijn. Is de afwezigheid van aliens te wijten aan het feit dat leven en intelligentie zeer zeldzaam zijn, of omdat slim leven de neiging heeft te worden vernietigd? Als er een toekomstig Groot Filter is, dan zouden andere beschavingen het moeten hebben opgemerkt, maar zelfs dat hielp niet.
Wat zo'n dreiging ook is, het zou bijna onvermijdelijk zijn, zelfs als je je bewust was van het bestaan ervan, ongeacht wie je bent of wat je werkelijk bent. We weten niets over dit soort bedreigingen (geen van de bovenstaande bedreigingen werkt op deze manier), maar ze kunnen bestaan.
Merk op dat de aanwezigheid van iets onbekends niet betekent dat we er niet over kunnen redeneren. Een artikel van Max Tegmark en Nick Bostrom laat zien dat een gegeven reeks risico's een verhouding zou moeten hebben van minder dan één op een miljard per jaar, gebaseerd op de relatieve leeftijd van de aarde.
Het zal je misschien verbazen dat klimaatverandering en meteoorinslagen niet op deze lijst staan. Het is onwaarschijnlijk dat de klimaatverandering, hoe verschrikkelijk het ook is, de hele planeet onbewoonbaar zal maken (maar het kan een extra bedreiging vormen als onze verdediging niet effectief blijkt). Meteoren kunnen ons natuurlijk van de aardbodem vegen, maar in dit geval moeten we heel grote verliezers zijn.
Typisch bestaat een bepaald type zoogdier al ongeveer een miljoen jaar. Het belangrijkste natuurlijke uitstervingspercentage is dus ongeveer één op de miljoen per jaar. Dit is aanzienlijk lager dan het risico van een nucleaire oorlog, die 70 jaar later nog steeds de grootste bedreiging vormt voor ons voortbestaan.
Beschikbaarheidsheuristieken dwingen ons de risico's die vaak in de media worden besproken te overschatten en die risico's te bagatelliseren waarmee de mensheid nog niet is geconfronteerd. Als we ook na een miljoen jaar willen blijven bestaan, moeten we deze situatie corrigeren.
Anders Sandberg
Populaire wetenschap
