Bijna iedereen die zelfs maar een beetje in het onderwerp kunstmatige intelligentie duikt, komt tot de conclusie dat het ons ofwel naar een vurige apocalyps zal leiden, ofwel naar een magische utopie. Er zijn praktisch geen opties tussen. Dit komt natuurlijk deels door het feit dat slogans als "Het einde is nabij!" of "Utopia komt eraan!" Maar nog steeds…
Een deel ervan komt neer op hoe mensen denken over verandering, vooral groot. Millennialisme heeft niets te maken met millennial zijn, geboren zijn in de jaren 90 en de Buffy the Vampire Slayer-serie herinneren. Het is een stijl van denken over de toekomst die wordt geassocieerd met een diepgeworteld gevoel van bestemming. Millennialisme is "de verwachting dat de wereld zal worden vernietigd en vervangen door een volmaakte wereld en dat er een verlosser zal komen die het kwaad zal neerwerpen en de rechtvaardigen zal troosten."
Duizendjarige overtuigingen zijn daarom nauw verbonden met de ideeën van vernietiging en schepping. Onder hen zijn de ideeën van enorme, apocalyptische, seismische verschuivingen die het weefsel van de oude wereld zullen vernietigen en iets compleet nieuws zullen bouwen. Een soortgelijk geloofssysteem bestaat in veel van de grote religies van de wereld, en zelfs in de niet echt atheïstische en agnostische religies die in technologie geloven.
Zie bijvoorbeeld hoe futuristen wachten op een technologische singulariteit. Volgens Ray Kurzweil is de singulariteit de schepping van het paradijs. Iedereen zal onsterfelijk worden dankzij biotechnologie die onze ziekten zal genezen; onze hersenen kunnen naar de cloud worden geüpload; ongelijkheid en lijden zullen als verschijnselen verdwijnen. "Vernietiging van de wereld" wordt vervangen door Silicon Valley's favoriete term: ontwrichting of radicale verandering in de industrie. En net als bij andere millenniumovertuigingen, hangt je uiteindelijke mening af van of je wacht op het einde van de wereld of op de geboorte van een utopie.
Er zijn veel goede redenen om sceptisch te zijn over dit soort denken. Misschien wel de meest overtuigende hiervan is dat de overtuigingen van millennials eenvoudigweg de houding van mensen ten opzichte van verandering weerspiegelen; kijk maar naar hoeveel variaties van deze overtuigingen er in de wereld zijn opgegroeid.
Deze overtuigingen zijn aanwezig in aspecten van de christelijke theologie, hoewel ze in hun moderne vorm populair werden in de 19e en 20e eeuw. Ideeën als eeuwig verdriet - vele jaren van lijden en ontbering - en de Opname, wanneer de rechtvaardigen zullen worden opgewekt en het kwaad zal worden gestraft. Na deze vernietiging zal de wereld opnieuw worden geschapen, of zullen mensen naar het paradijs gaan.
Ondanks dogmatisch atheïsme waren er veel vergelijkbare overtuigingen in het marxisme. De enige vraag heeft betrekking op de geschiedenis. Net zoals gelovigen op zoek zijn naar signalen die duiden op de vervulling van profetie, zoeken marxisten naar signalen dat we ons in de laatste stadia van het kapitalisme bevinden. Ze geloven dat de samenleving onvermijdelijk zal degraderen en degenereren tot op de bodem - in feite, zoals christenen geloven.
Volgens het marxisme, wanneer de uitbuiting van de arbeidersklasse door de rijken onhoudbaar wordt, verzamelt de arbeidersklasse en werpt ze de onderdrukker omver. "Verdriet" wordt vervangen door "revolutie". Soms worden revolutionaire figuren zoals Lenin of Marx zelf geprezen als messiassen die het millennium dichterbij brengen; hun retoriek bevat onvermijdelijk oproepen tot vernietiging van het oude systeem, op de ruïnes waarvan 'we de onze zullen bouwen, we zullen een nieuwe wereld bouwen'. De rechtvaardige arbeiders zullen hun recht krijgen en de boze bourgeoisie zal worden vernietigd.
Promotie video:
Zelfs in de Noorse mythologie is hier een element van, zoals opgemerkt door James Hughes in zijn essay in Nick Bostrom's boek Global Catastrophic Risks. In Ragnarok worden zowel mensen als goden verslagen in de laatste apocalyptische strijd, maar aangezien dit allemaal een beetje somber is, voegden de Scandinaviërs het idee toe van een nieuw land waarop overlevenden in harmonie zullen leven.
Doomsday is ook een cultureel parcours geworden. Neem de oude Egyptenaren en hun overtuigingen over het hiernamaals; de heer van de onderwereld, Osiris, weegt het hart van een sterveling samen met een veer. Als het hart van de overledene te zwaar wordt belast door overtredingen, zal de demon het opeten en zal de hoop op een hiernamaals verdwijnen.
Misschien gebeurt zoiets tijdens de singulariteit. Naarmate onze technologie verbetert, en daarom zullen onze kracht, ons hart, het hart van mensen, worden afgewogen tegen veren. Als ze te zwaar blijken te zijn - met domheid, arrogantie, vooroordelen, kwaad - zullen we de test niet doorstaan en vernietigd worden. Maar als we door en uit de singulariteit gaan, wacht de hemel op ons. Net als bij andere geloofssystemen is er geen plaats voor ongelovigen; de hele samenleving zal radicaal veranderen, of je het nu leuk vindt of niet. Technologische bewondering.
Het lijkt erop dat elke grote ontwikkeling zo'n reactie uitlokt. En ook nucleaire wapens. Ofwel is het de druppel en vernietigen we onszelf, ofwel kan kernenergie worden gebruikt om een betere wereld te creëren. In de vroege dagen van het nucleaire tijdperk spraken mensen over elektriciteit "te goedkoop om te tellen". Wetenschappers die aan de bom werkten, dachten vaak dat we met zo'n vernietigende kracht in de handen van de mens gewoon bij elkaar moesten komen en als soort moesten samenwerken.
Als we hetzelfde antwoord keer op keer zien, in verschillende omstandigheden, op verschillende gebieden, of het nu wetenschap, religie of politiek is, moeten we rekening houden met menselijke vooringenomenheid. We houden van de overtuigingen van millennials, dus wanneer het idee van kunstmatige intelligentie dat de menselijke intelligentie overstijgt, opkomt, leggen we onmiddellijk een bekend patroon op.
We houden niet van feiten. We houden niet van de informatie. We zijn niet zo rationeel als we denken dat we zijn. We creëren verhalen. Natuurkundigen observeren de wereld en we verweven onze eigen waarnemingen in verhalende theorieën, verhalen over kleine biljartballen die hier en daar vliegen en met elkaar botsen, of over ruimte en tijd die buigt, buigt en uitzet. Historici proberen betekenis te geven aan een eindeloze stroom gebeurtenissen. We houden van verhalen: verhalen die ons verleden, ons heden uiteenzetten, en ze bereiden ons ook voor op de toekomst.
Het duizendjarige verhaal is mooi en meeslepend. Hij brengt je sociale verandering. Hij kan uw dagelijkse lijden rechtvaardigen als u rouwt. Hij geeft je hoop dat je leven belangrijk en zinvol is. Het geeft je een idee dat dingen in een bepaalde richting gaan, volgens de regels, en niet alleen in chaos. Hij belooft dat de rechtvaardigen zullen worden gered en de ketters zullen worden gestraft, zelfs als er onderweg lijden is. Ten slotte belooft het duizendjarige verhaal de hemel aan het einde van de tunnel.
We moeten voorzichtig zijn met het millennial-verhaal als we nadenken over technologische ontwikkeling, singulariteit en existentiële risico's. We riepen vaak "wolven!" Als ze er niet waren. Misschien staat de wereld zelfs nu niet aan de rand van een ramp. Dit verhaal is natuurlijk niet zo aantrekkelijk. Iedereen wil natuurlijk een betoverend einde.
Maar graaf dieper en je zult zien dat millenniumovertuigingen niet altijd de meest veelbelovende zijn, omdat ze de menselijke factor uit de vergelijking halen. We zullen in grijstinten moeten geloven en de sinistere apocalyps met de roodogige AI en de fantastische utopie met de almachtige AI die dol is op mensen, moeten verlaten.
Ilya Khel
