Bijna iedereen die zelfs maar een beetje in het onderwerp kunstmatige intelligentie heeft gedoken, moet tot de conclusie komen dat kunstmatige intelligentie ons ofwel naar een vreselijke apocalyps zal leiden, ofwel rechtstreeks naar een fantastische utopie. En er zijn praktisch geen tussenliggende opties. Dit wordt natuurlijk deels gedicteerd door het feit dat luide slogans als "Het einde is nabij!" of bijvoorbeeld "Utopia komt eraan!" Maar nog steeds…
Het komt deels neer op hoe mensen denken over verandering, vooral grote verandering. Millennialisme heeft niets te maken met geboren zijn in de jaren 90, een "millennial" zijn en de serie over Buffy de vampierwinnaar herinneren. Het is een manier van denken over de toekomst die wordt geassocieerd met een diepgeworteld gevoel van bestemming. Millennialisme is "de verwachting dat onze wereld zal worden vernietigd en vervangen door een volmaakte wereld en dat er een verlosser zal verschijnen die alle kwaad zal vernietigen en in staat zal zijn de rechtvaardigen te troosten."
Dienovereenkomstig houden de overtuigingen van millennials nauw verband met de ideeën van schepping en vernietiging. Onder hen - ideeën van apocalyptische, enorme, seismische verschuivingen die het weefsel van de oude wereld kunnen vernietigen en iets compleet nieuws kunnen bouwen. Een soortgelijk geloofssysteem bestaat in veel grote wereldreligies, en zelfs in de niet-zo-agnostische en atheïstische religies, die in technologie geloven in plaats van in goddelijke essenties.
Beschouw bijvoorbeeld eens hoe futuristen anticiperen op een technologische singulariteit. Volgens Ray Kurzweil is de singulariteit verwant aan het creëren van het paradijs. Iedereen zal onsterfelijk zijn, omdat er biotechnologie zal verschijnen die onze ziekten kan genezen; en onze hersenen kunnen naar de cloud worden geüpload; lijden en ongelijkheid zullen als verschijnselen verdwijnen. "Vernietiging van de wereld" wordt vervangen door Silicon Valley's favoriete term: ontwrichting, een radicale verandering in de industrie. En, zoals het geval is met andere millenniumovertuigingen, is je uiteindelijke mening sterk afhankelijk van wat je verwacht: de geboorte van een utopie of het einde van de wereld.
Er zijn veel goede redenen om sceptisch te zijn over dit soort denken. Misschien wel de meest overtuigende van deze redenen is dat alle overtuigingen van millennials eenvoudigweg de houding van mensen ten opzichte van verandering weerspiegelen; kijk maar eens hoeveel variaties van deze overtuigingen er in de wereld zijn gegroeid.
Deze overtuigingen zijn terug te vinden in aspecten van de christelijke theologie, hoewel ze in hun moderne vorm populair werden in de negentiende en twintigste eeuw. Ideeën zoals eeuwig verdriet, vele jaren van ontbering en lijden, en de Opname, wanneer de rechtvaardigen zullen worden opgewekt en het kwaad zal worden gestraft. Na al deze vernietiging zal de wereld opnieuw worden geschapen, of zullen mensen naar de hemel gaan.
Ondanks dogmatisch atheïsme waren er ook veel vergelijkbare overtuigingen in het marxisme. De enige vraag heeft betrekking op de geschiedenis. Net zoals gelovigen op zoek zijn naar signalen die kunnen duiden op de vervulling van alle profetieën, zoeken marxisten naar tekenen dat we ons in de laatste fase van het kapitalisme bevinden. Ze geloven dat de samenleving vernederend is en onvermijdelijk tot op de bodem zal degenereren - in feite, zoals christenen ook denken.
Zoals het marxisme betoogt, wanneer de uitbuiting van de arbeidersklasse door de rijken onhoudbaar is, verzamelt de arbeidersklasse en werpt ze de onderdrukker omver. "Verdriet" wordt vervangen door "revolutie". Soms worden revolutionaire figuren zoals Lenin of Marx zelf geprezen als messiassen die het millennium dichterbij brengen; hun retoriek bevat altijd oproepen tot vernietiging van het oude systeem, op de ruïnes waarvan "we de onze zullen bouwen, we zullen een nieuwe wereld bouwen". De rechtvaardige arbeiders zullen krijgen wat ze verdienen, en de boze bourgeoisie zal worden vernietigd.
Promotie video:
Zelfs in de Noorse mythologie is hier een element van, zoals opgemerkt door James Hughes in zijn essay in het boek van Nick Bostrom, Global Catastrophic Risks. In Ragnarok worden zowel mensen als goden verslagen in de laatste apocalyptische strijd, maar aangezien dit allemaal een beetje somber is, voegden de Scandinaviërs het idee toe van een nieuw land waarop overlevenden in harmonie zullen leven.
Doomsday is ook een cultureel parcours geworden. Neem de oude Egyptenaren en hun overtuigingen over het hiernamaals; de heer van de onderwereld, Osiris, weegt het hart van een sterveling samen met een veer. Als het hart van de overledene te zwaar wordt belast door overtredingen, zal de demon het opeten en zal de hoop op een hiernamaals verdwijnen.
Waarschijnlijk zal er iets soortgelijks gebeuren tijdens de singulariteit. Naarmate onze technologie verbetert, en daarom zullen onze kracht, ons hart, het hart van mensen, worden afgewogen tegen veren. Als ze te zwaar blijken te zijn - met domheid, arrogantie, vooroordelen, kwaad - zullen we de test niet doorstaan en vernietigd worden. Maar als we door en uit de singulariteit gaan, wacht de hemel op ons. Net als bij andere geloofssystemen is er geen plaats voor ongelovigen; de hele samenleving zal radicaal veranderen, of je het nu leuk vindt of niet. Technologische bewondering.
Elke grote ontwikkeling lijkt een soortgelijke reactie uit te lokken. En ook nucleaire wapens. Ofwel zal het de druppel zijn en zullen we onszelf vernietigen, ofwel kan kernenergie worden gebruikt om een betere wereld te creëren. In de vroege dagen van het nucleaire tijdperk spraken mensen over elektriciteit "te goedkoop om te tellen". Wetenschappers die aan de bom werkten, dachten vaak dat we met zo'n vernietigende kracht in de handen van mensen gewoon samen zouden moeten komen en als soort zouden moeten samenwerken.
Als we hetzelfde antwoord keer op keer, in verschillende omstandigheden, op verschillende gebieden zien verschijnen, of het nu wetenschap, politiek of religie is, moeten we rekening houden met menselijke vooringenomenheid. We houden van de overtuigingen van millennials, dus wanneer het idee van kunstmatige intelligentie dat de menselijke intelligentie overstijgt, opkomt, leggen we onmiddellijk een bekend patroon op.
We houden niet van feiten. We houden niet van de informatie. We zijn niet zo rationeel als we denken dat we zijn. We creëren verhalen. Natuurkundigen observeren de wereld en we verweven onze eigen waarnemingen in verhalende theorieën, verhalen over kleine biljartballen die hier en daar vliegen en met elkaar botsen, of over ruimte en tijd die buigt, buigt en uitzet. Historici proberen betekenis te geven aan een eindeloze stroom gebeurtenissen. We houden van verhalen: verhalen die ons verleden, ons heden uiteenzetten, en ze bereiden ons ook voor op de toekomst.
Het duizendjarige verhaal is erg mooi en meeslepend. Hij brengt je sociale verandering. Hij kan uw dagelijkse lijden rechtvaardigen als u rouwt. Hij geeft je hoop dat je leven belangrijk en zinvol is. Het geeft je een idee dat dingen in een bepaalde richting gaan, volgens de regels, en niet alleen in chaos. Hij belooft dat de rechtvaardigen zullen worden gered en de ketters zullen worden gestraft, zelfs als er onderweg lijden is. Ten slotte belooft het duizendjarige verhaal de hemel aan het einde van de tunnel.
We moeten voorzichtig zijn met het millenniumverhaal als we nadenken over technologische ontwikkeling, singulariteit en existentiële risico's. We riepen vaak "wolven!" Als ze er niet waren. Misschien staat de wereld zelfs nu niet aan de rand van een ramp. Dit verhaal is natuurlijk niet zo aantrekkelijk. Iedereen wil natuurlijk een betoverend einde.
Maar graaf dieper en je zult ontdekken dat millenniumovertuigingen niet altijd de meest veelbelovende zijn, omdat ze de menselijke factor uit de vergelijking halen. We zullen in grijstinten moeten geloven en de sinistere apocalyps met de roodogige AI en de fantastische utopie met de almachtige AI die dol is op mensen, moeten verlaten.
