De mensheid heeft één eigenschap die hoogontwikkelde buitenaardse beschavingen hoogstwaarschijnlijk niet hebben: bewustzijn.
Het is mogelijk dat mensen niet het hoogste niveau van mentale ontwikkeling in het universum hebben. Aangezien de aarde een relatief jonge planeet is, kunnen de oudste beschavingen miljarden jaren ouder zijn dan wij. Maar zelfs op aarde zal Homo sapiens niet lang domineren als de meest intelligente biologische soort.
Wereldkampioenen in go, schaken en quizwinnaars zijn intelligente computerprogramma's. De verwachting is dat kunstmatige intelligentie de komende decennia veel menselijke beroepen zal vervangen. En gezien het hoge tempo van zijn ontwikkeling, is het heel goed mogelijk dat het binnenkort zal worden omgevormd tot een algemene kunstmatige intelligentie, die, net als de menselijke geest, in staat zal zijn om het vermogen te combineren om een verscheidenheid aan informatie te analyseren, flexibiliteit en gezond verstand te tonen. En vanaf daar is het niet ver naar de opkomst van superintelligente kunstmatige intelligentie, die in alle opzichten veel slimmer is dan mensen - zelfs op gebieden als wetenschappelijk denken en sociale vaardigheden, die nu het voorrecht van de menselijke geest lijken te zijn. Elk van de levende mensen kan een van de laatste stappen van de evolutionaire ladder zijn,leidend van de allereerste levende cel tot synthetische kunstmatige intelligentie.
We beginnen nu pas te beseffen dat deze twee vormen van bovenmenselijke intelligentie - buitenaards en kunstmatig - niet zo heel verschillend zijn. De technische vooruitgang die we vandaag zien, had eerder plaats kunnen vinden, ergens in het universum. De overgang van biologische intelligentie naar een kunstmatig gecreëerde intelligentie kan een gemeenschappelijk sjabloon zijn, steeds opnieuw geïmplementeerd in alle uithoeken van de kosmos. De grootste intelligenties in het universum zijn waarschijnlijk van postbiologische oorsprong en evolueren uit eens biologische beschavingen. (Dit standpunt, samen met andere, deel ik met Paul Davis, Stephen Dick, Martin Rees en Seth Shostak). Gebaseerd op de ervaring van de mensheid - en we hebben maar één voorbeeld - kan de overgang van biologisch naar postbiologisch slechts een paar honderd jaar duren.
Ik geef de voorkeur aan de term 'kunstmatig' boven 'postbiologisch' omdat het contrast tussen biologisch en synthetisch niet zo scherp is. Stel je een biologische geest voor die een superintelligentie wordt door puur biologische verbeteringen van zijn mogelijkheden, zoals nanotechnologisch verbeterde neurale minikolommen. Zo'n levend organisme zou als postbiologisch worden beschouwd, maar niet iedereen zou het 'kunstmatige intelligentie' noemen. Of denk aan computronium, gemaakt van puur biologische materialen, zoals de Cylon raider (ruimtevechter) in de sci-fi mediafranchise Battlestar Galactica.
Het belangrijkste punt is dat er geen reden is om de mensheid als de hoogste vorm van intelligentie te beschouwen. Onze hersenen passen zich aan bepaalde omgevingsomstandigheden aan en worden ernstig beperkt door chemische en historische factoren. Maar de technologie heeft een enorme ruimte aan ontwerpparameters geopend die nieuwe materialen en werkmethoden biedt, evenals nieuwe mogelijkheden om deze ruimte sneller te verkennen dan met traditionele biologische evolutie. En ik denk dat de redenen waarom kunstmatige intelligentie ons zal overtreffen vandaag al zichtbaar zijn.
Buitenaardse kunstmatige intelligentie kan doelen nastreven die in strijd zijn met de belangen van het biologische leven
Nu al zijn de beste middelen om informatie te verwerken niet groepen neuronen, maar silicium microschakelingen. De pieksnelheid van neuronen is ongeveer 200 Hz, vergeleken met gigahertz-transistors in moderne microprocessors. Ondanks dat het menselijk brein nog steeds veel intelligenter is dan een computer, hebben machines nog steeds bijna onbeperkte mogelijkheden voor verbetering. Nog een klein beetje en ze zullen worden ontworpen om de mogelijkheden van het menselijk brein te evenaren of zelfs te overtreffen, door de hersenen te reverse-engineering en de algoritmen ervan te verbeteren, of door reverse engineering en rationele algoritmen te combineren die niet zijn gebaseerd op het werk van het menselijk brein.
Promotie video:
Bovendien kan kunstmatige intelligentie op verschillende plaatsen tegelijk worden geladen, is het gemakkelijk te onderhouden en aan te passen, en het kan ook worden bewaard in omstandigheden waarin biologisch leven, inclusief interstellaire reizen, nauwelijks overleeft. Onze kleine hersenen worden beperkt door het volume van onze schedel en ons metabolisme; superintelligente kunstmatige intelligentie daarentegen kan zich over het internet verspreiden en zelfs computronium creëren op de schaal van de melkweg, waarbij al zijn materie wordt gebruikt om het niveau van informatieverwerking maximaal te verhogen. Zonder twijfel zou een superintelligente kunstmatige intelligentie veel duurzamer zijn dan onze menselijke geest.
Stel dat ik gelijk heb. Laten we zeggen dat intelligent leven daarbuiten postbiologisch is. Welke conclusies moeten we trekken? Momenteel zijn er veelzeggende discussies over het bestaan van kunstmatige intelligentie op aarde. Er zijn twee controversiële kwesties: het zogenaamde "controleprobleem" en de aard van de subjectieve ervaring, die ons begrip van buitenaardse beschavingen en hun impact op ons in geval van contact beïnvloeden.
Ray Kurzweil is optimistisch over de postbiologische fase van de evolutie en suggereert dat de mensheid zal versmelten met machines en een verrassend technologisch utopisme zal bereiken. Maar Stephen Hawking, Bill Gates, Elon Musk en anderen hebben hun bezorgdheid geuit over het feit dat de mensheid de controle over superintelligente intelligentie zou kunnen verliezen, aangezien het zijn programma zou kunnen herschrijven en alle controles die we hebben ingevoerd "te slim af kunnen zijn". Dit is het probleem van controle: ons vermogen om de mysterieuze en enorm superieure AI te beheersen.
Superintelligente kunstmatige intelligentie kan worden ontwikkeld met een technologische singulariteit - een abrupte overgang waarin versnelde technologische vooruitgang, en vooral de explosieve ontwikkeling van kunstmatige intelligentie - onze kansen op voorspelling of begrip verkleint. Maar zelfs als zo'n geest op een minder radicale manier tevoorschijn komt, zullen we hoogstwaarschijnlijk zijn doelen niet kunnen voorspellen of beheersen. Zelfs als we zouden kunnen kiezen welke morele principes we in onze machines willen installeren, is morele programmering moeilijk op een duidelijke manier te definiëren, en dergelijke programma's kunnen in ieder geval worden herschreven door superintelligente intelligentie. Slimme machines kunnen bestaande beveiligingsmaatregelen omzeilen, zoals een noodvergrendeling van het apparaat, waardoor ze een reële bedreiging vormen voor het biologische leven. Miljoenen dollars worden geïnvesteerd in AI-beveiligingsorganisaties. De knapste koppen op het gebied van informatica en computers werken aan dit probleem. Hopelijk zullen wetenschappers veilige systemen creëren, maar de vrees bestaat dat het probleem van controle onoverkomelijk is.
In het licht hiervan kan contact met buitenaardse intelligentie gevaarlijker zijn dan we denken. Biologische buitenaardse wezens kunnen vijandig zijn, maar nog gevaarlijker kan buitenaardse kunstmatige intelligentie zijn. Zijn doelen kunnen in strijd zijn met de belangen van het biologische leven, hij kan intellectuele vermogens hebben die veel hoger zijn dan de menselijke geest, en een veel langere levensduur dan het biologische leven.
Dit alles getuigt van de voorzichtigheid die moet worden betracht met betrekking tot het programma Search for Extraterrestrial Intelligence (SETI), met behulp waarvan we niet alleen passief verwachten signalen van andere beschavingen te horen, maar ook opzettelijk ons bestaan ‘adverteren’. Het bekendste incident vond plaats in 1974, toen Frank Drake en Carl Sagan een bericht stuurden naar een van de sterrenhopen met behulp van een enorme radiotelescoop in de Puerto Ricaanse stad Arecibo. Voorstanders van het buitenaardse intelligentieprogramma zijn van mening dat we in plaats van alleen naar signalen van buitenaardse beschavingen te luisteren, berichten moeten sturen naar de sterren die het dichtst bij de aarde staan met behulp van de krachtigste radiozenders, zoals in Arecibo.
Waarom zouden onbewuste machines net zo belangrijk zijn als biologische intelligentie?
Vanuit controle-oogpunt lijkt zo'n programma mij roekeloos. Hoewel een echt geavanceerde beschaving waarschijnlijk geen enkele interesse in ons zou hebben, zou zelfs één vijandige beschaving op miljoenen andere een ramp zijn. Zolang we er niet zeker van zijn dat superintelligente intelligentie geen bedreiging voor ons vormt, mag de mensheid niet de aandacht trekken van buitenaardse beschavingen. Voorstanders van SETI wijzen erop dat onze radar- en radiosignalen al detecteerbaar zijn, maar eerder zwak en snel vermengd met natuurlijke galactische ruis. De overdracht van sterkere signalen, die nauwkeurig zullen worden gehoord, heeft gevaarlijke gevolgen voor de mensheid.
De veiligste omgeving is intellectuele nederigheid. Als we de voor de hand liggende scenario's uitsluiten wanneer buitenaardse schepen boven de aarde zweven, zoals in de onlangs uitgebrachte Arrival, weet ik niet zeker of we op technische gronden in staat zullen zijn om superintelligente intelligentie te identificeren. Sommige wetenschappers geloven dat superintelligente AI zwarte gaten kan voeden of Dyson-sferen kan creëren, megastructuren die de energie van hele sterren absorberen. Maar vanuit het oogpunt van onze moderne technologieën is dit slechts een redenering. Het is buitengewoon zelfverzekerd om te beweren dat we de rekenvaardigheden en energiebehoeften van beschavingen die voor ons liggen in ontwikkeling kunnen voorzien met miljoenen, zo niet miljarden jaren.
Sommige van de vroegste superintelligente kunstmatige intelligenties hebben mogelijk kennisverwerkingssystemen die zijn gemodelleerd naar het biologische brein, zoals het diepe leersysteem dat is gemaakt met behulp van het voorbeeld van neurale netwerken in de hersenen. Hun computationele structuur zou ons duidelijk zijn, althans in algemene termen. Misschien heeft kunstmatige intelligentie doelen die vergelijkbaar zijn met biologische wezens: voortplanting en overleving.
Maar omdat ze een zichzelf verbeterend systeem zijn, kunnen superintelligente kunstmatige intelligenties een onherkenbare vorm aannemen. Sommigen van hen kunnen ervoor kiezen om cognitieve functies te behouden die lijken op de soort waarnaar ze zijn gemodelleerd, terwijl ze een acceptabele limiet stellen voor hun eigen cognitieve architectuur. Wie weet? Maar als zo'n limiet ontbreekt, kan de buitenaardse superintelligentie snel ons vermogen overtreffen om niet alleen zijn acties te begrijpen, maar er zelfs eenvoudig naar te zoeken. Misschien zou hij zelfs versmelten met de natuurlijke kenmerken van het universum; of het kan deel uitmaken van donkere materie, zoals Caleb Scharf onlangs suggereerde.
Aanhangers van het programma voor de zoektocht naar buitenaardse intelligentie zijn van mening dat we daarom signalen de ruimte in moeten sturen om buitenaardse intelligentie in staat te stellen ons op te sporen en contactmogelijkheden te creëren voor onze intellectueel achterblijvende beschaving. Hoewel ik het ermee eens ben dat er reden is om rekening te houden met het SETI-programma, is de kans op het tegenkomen van gevaarlijke superintelligente intelligentie veel groter. Voor zover we weten, zou een kwaadwillende superintelligentie de kunstmatige-intelligentiesystemen van de wereld met virussen kunnen infecteren, en intelligente beschavingen zouden verhulapparatuur kunnen creëren. Wij mensen moeten wellicht eerst onze eigen uniciteit bereiken, voordat we onze toevlucht nemen tot het programma van de zoektocht naar buitenaardse intelligentie. Onze eigen superintelligente intelligenties zullen ons kunnen informeren over de vooruitzichten voor galactische veiligheid,en om onze acties te leiden in het geval van herkenning van tekenen van een andere superintelligentie in het universum. Vogels van een veer komen samen.
Het is niet meer dan normaal om na te denken of dit betekent dat de mensheid de ontwikkeling van een complex artificieel intelligentiesysteem op het gebied van ruimteonderzoek moet vermijden; denk maar aan de HEL boordcomputer uit de film "A Space Odyssey 2001". Ik denk dat het te vroeg is om in de toekomst na te denken over een verbod op het gebruik van kunstmatige intelligentie in de ruimte. Tegen de tijd dat we het universum kunnen verkennen met onze eigen kunstmatige intelligentie, zal de mensheid een omslagpunt bereiken. We zullen ofwel de controle over kunstmatige intelligentie al verliezen - in welk geval er geen door mensen geïnitieerde ruimteprojecten zullen zijn - of we zullen de AI-beveiligingshendels stevig vasthouden. De tijd zal het leren.
Kunstmatige intelligentie, die nog niet volledig is onderzocht, is niet de enige reden tot bezorgdheid. We verwachten over het algemeen dat als we geavanceerde buitenaardse intelligentie tegenkomen, we waarschijnlijk biologisch heel andere wezens dan wij zullen ontmoeten, maar met intelligentie zoals de onze. Stel je voor dat er op elk moment dat je wakker bent en altijd wanneer je slaapt, er iets unieks voor jou is. Wanneer de warme tinten van de zonsopgang in je blik komen, of wanneer je de geur van vers gebakken brood inademt, heb je een bewuste ervaring. Op dezelfde manier is er iets dat kenmerkend is voor buitenaardse intelligentie - tenminste zoals we het ons voorstellen. Maar deze aanname is het waard om in twijfel te trekken. Kan een superintelligente kunstmatige intelligentie een bewuste ervaring hebben, en zo ja,wat zouden we daarop zeggen? En welke impact zou hun innerlijke wereld of het gebrek daaraan op ons hebben?
De vraag of kunstmatige intelligentie een innerlijke wereld heeft, is de sleutel tot onze beoordeling van het bestaan ervan. Bewustzijn is de hoeksteen van ons morele en ethische systeem en de belangrijkste voorwaarde voor de perceptie van iemand of iets als een individu, een persoon en niet als een machine. Omgekeerd kan de vraag of ze bewust zijn de sleutel zijn tot hun perceptie van ons. Het antwoord op de vraag of kunstmatige intelligentie een innerlijke wereld heeft, hangt af van deze beoordeling; hij kan in ons het vermogen tot bewuste ervaring ontdekken door zijn eigen subjectieve ervaring als "springplank" te gebruiken. Uiteindelijk evalueren we het leven van andere biologische wezens aan de hand van de gelijkenis van onze geest, dus de meesten van ons zullen met afgrijzen weigeren chimpansees te doden, maar ze zullen met plezier een appel eten.
Maar hoe herkennen wezens met enorme intellectuele verschillen, gecreëerd uit verschillende substraten, het bewustzijn in elkaar? Filosofen over de hele wereld hebben zich afgevraagd of het bewustzijn beperkt is tot biologische verschijnselen. Superintelligente kunstmatige intelligentie zou, als we ons willen onderdompelen in filosofisch redeneren, op dezelfde manier het 'probleem van het biologische bewustzijn' van mensen kunnen opwerpen, terwijl we ons tegelijkertijd afvragen of we al het benodigde materiaal hebben.
Niemand weet welke intellectuele weg de supermind zal inslaan om het bewustzijn van mensen te bepalen. Maar wij, van onze kant, kunnen ook niet beweren of kunstmatige intelligentie bewustzijn heeft. Helaas zal het moeilijk zijn om dit vast te stellen. Op dit moment kun je beweren dat je ervaring opdoet, en dat is wat je jezelf maakt. Je bent je eigen voorbeeld van bewuste ervaring. En je denkt dat andere mensen en sommige niet-menselijke dieren hoogstwaarschijnlijk ook bij bewustzijn zijn, omdat ze op neurofysiologisch niveau op jou lijken. Maar hoe bepaal je of iets dat uit totaal verschillende substraten is gemaakt, ervaring kan hebben?
Denk bijvoorbeeld aan een op silicium gebaseerde superintelligentie. Ondanks het feit dat zowel siliciumchips als neurale minikolommen informatie verwerken, weten we nu dat ze op moleculair niveau kunnen verschillen in de manier waarop ze het bewustzijn beïnvloeden. Wij zijn tenslotte van mening dat koolstof een materiaal is dat chemisch geschikter is voor leven dan silicium. Als de chemische verschillen tussen silicium en koolstof zoiets belangrijks als het leven zelf beïnvloeden, moeten we de mogelijkheid niet uitsluiten dat chemische verschillen andere sleutelfuncties beïnvloeden, zoals of silicium bijdraagt aan de geboorte van bewustzijn.
De voorwaarden die nodig zijn voor het ontstaan van bewustzijn worden uitvoerig besproken door kunstmatige intelligentieonderzoekers, neurowetenschappers en filosofen. Om dit probleem aan te pakken, is wellicht een op filosofie gebaseerde empirische benadering nodig - een manier om van geval tot geval te bepalen of een informatieverwerkingssysteem het bewustzijn ondersteunt, en onder welke voorwaarden.
Laten we het vervolgens hebben over een aanname waarmee we ons begrip van het vermogen van silicium om het bewustzijn te behouden kunnen verbeteren. De ontwikkeling van op silicium gebaseerde hersenchips is al aan de gang om geheugengerelateerde ziekten zoals Alzheimer en PTSD te behandelen. Als de tijd daar is, en chips zullen worden geïnstalleerd in die delen van de hersenen die verantwoordelijk zijn voor de functies van het bewustzijn, bijvoorbeeld aandacht en werkgeheugen, zullen we begrijpen of silicium een substraat is voor bewustzijn. Je zou kunnen ontdekken dat wanneer je een specifiek deel van de hersenen vervangt door een chip, een bepaalde ervaring verloren gaat, zoals beschreven in een van de werken van Oliver Sachs. In dit geval zouden de ingenieurs die dergelijke chips maken een ander, niet-neuraal soort substraat kunnen proberen, maar ze zouden uiteindelijk kunnen ontdekkendat de chip gemaakt van biologische neuronen de enige is die werkt. Een dergelijke techniek zou helpen bepalen of een AI-systeem bewust kan zijn, tenminste wanneer het in een groter en vermoedelijk al bewust systeem wordt geplaatst.
Zelfs als silicium tot bewustzijn kan leiden, is dit alleen onder bepaalde voorwaarden mogelijk. De eigenschappen die leiden tot het ontstaan van een complex informatieverwerkingsproces (waar AI-ontwikkelaars om geven) kunnen verschillen van de eigenschappen die bewustzijn genereren. De zogenaamde engineering van bewustzijn kan nodig zijn - technisch doordachte acties om bewustzijn in machines te introduceren.
Dat baart me zorgen. Wie op aarde of op verre planeten zou proberen om het bewustzijn onafhankelijk te integreren in AI-systemen? Inderdaad, als ik denk aan de AI-programma's die op aarde bestaan, begrijp ik waarom hun ontwerpingenieurs ijverig vermijden om bewuste machines te maken.
Tegenwoordig ontwikkelen de Japanners robots om voor ouderen te zorgen, kernreactoren schoon te maken en deel te nemen aan vijandelijkheden. Dit roept de vraag op: is het ethisch om robots te exploiteren als ze bewust zijn? En hoe zal het verschillen van het fokken van mensen voor deze doeleinden? Als ik de directeur van AI-ontwikkeling bij Google of Facebook was, dan zou ik bij het nadenken over toekomstige projecten niet de ethische verwarring onder ogen willen zien van het per ongeluk ontwerpen van een bewust systeem. De ontwikkeling van een dergelijk systeem zou kunnen leiden tot beschuldigingen van slavernij van robots en andere openbare schandalen, evenals een verbod op het gebruik van kunstmatige intelligentietechnologieën in de gebieden waarvoor ze bedoeld waren. Het natuurlijke antwoord op deze vragen is het zoeken naar structuren en substraten waar robots geen bewustzijn hebben.
Bovendien kan de eliminatie van het bewustzijn effectiever zijn voor de zelf-cultiverende superintelligentie. Bedenk hoe het menselijk bewustzijn werkt. Slechts een klein percentage van het menselijk denken is beschikbaar voor bewuste mentale activiteit. Bewustzijn is consistent met innovatieve leerdoelen die aandacht en focus vereisen. De superintelligentie zou deskundige kennis hebben op elk gebied van activiteit, evenals een ongelooflijk hoge snelheid van informatieverwerking, die enorme databases bestrijkt die het hele internet kunnen omvatten, en in de toekomst een hele melkweg op zichzelf concentreren. Wat zou er voor hem onbekend blijven? Wat zou een afgemeten en redelijke concentratie vereisen? Heeft hij niet in alles perfectie bereikt? Als een ervaren chauffeur op een bekende weghij kon vertrouwen op onbewuste (automatische) informatieverwerking. Vanuit het oogpunt van efficiëntie is het helaas duidelijk dat de meeste intelligente systemen geen bewustzijn zullen hebben. Op kosmische schaal kan bewustzijn alleen een impuls zijn, een kortstondige bloei van ervaring voordat het universum terugkeert naar gedachteloosheid.
Als mensen vermoeden dat kunstmatige intelligentie onbewust is, zullen ze er waarschijnlijk angstvallig van uitgaan dat AI postbiologisch wil worden. Dit vergroot onze existentiële zorgen. Waarom zouden onbewuste machines net zo belangrijk zijn als biologische intelligentie?
Binnenkort zullen mensen niet langer de enige intelligente wezens op aarde zijn. En misschien ergens in de ruimte, niet het biologische leven, maar een superintelligente AI heeft zijn hoogtepunt al bereikt. Maar misschien heeft biologisch leven een ander kenmerk: bewuste ervaring. Zoals we nu weten, vereist intelligente kunstmatige intelligentie opzettelijke technische inspanningen om machines te maken die toegang hebben tot menselijke zintuigen. Misschien vinden sommige soorten het gepast om hun eigen kunstmatig bewuste kinderen te creëren. Of misschien zal de toekomstige mensheid zich bezighouden met bewustzijns-engineering en haar bewuste vermogen om te voelen delen met het Universum.
Susan Schneider is universitair hoofddocent bij de afdeling Filosofie en Cognitieve Wetenschappen aan de Universiteit van Connecticut en een aangesloten faculteitslid bij het Institute for Advanced Study, Center for Theological Research, Ethics and Technology Group van het Yale Interdisciplinary Center for Bioethics. Auteur van verschillende boeken, waaronder Science Fiction and Philosophy: From Time Travel to Supermind.
Meer informatie is te vinden op SchneiderWebsite.com
