Ondanks de brede aandacht voor de ontwikkeling van kunstmatige intelligentie, zijn er verschillende mensen in de wereld die geloven dat het potentieel van aanzienlijk verbeterde menselijke intelligentie (AI) veel groter is. De vraag wat er het eerst komt, blijft open, maar men gelooft dat een technologisch geavanceerd brein net zo krachtig (en eerlijk gezegd even gevaarlijk) kan zijn als AI.
De mens als soort heeft zijn denken gedurende vele millennia ontwikkeld. Of in ieder geval geprobeerd het te doen. Om hun cognitieve beperkingen te overwinnen, hebben mensen alles gebruikt wat ze konden, van schriftelijke, taalkundige en meditatieve technieken tot moderne noötropica.
Waarom zou het, in plaats van te proberen algemene kunstmatige intelligentie (AGI) of zelfs kunstmatige superintelligentie (ISI) te ontwikkelen, niet beter zijn om te focussen op het menselijk brein en zijn nog verre van volledig onthulde potentieel? Inderdaad, een aanzienlijke verbetering in de geest - of het nu gaat om genetica, cybernetica of de krachten van externe apparaten - kan leiden tot hetzelfde resultaat dat we verwachten van de creatie van geavanceerde AI.
Het Gizmodo-portaal besloot contact op te nemen met de futuroloog Mikhail Anisimov, de blogger van het Accelerating Future-portaal en de mede-oprichter van het Singularity Summit-evenement, en de waarschijnlijke vooruitzichten voor de ontwikkeling van de richting van het verbeteren van het menselijk brein te achterhalen. Anisimov neemt deze kwestie zeer serieus en vindt dat we net zo goed op onze hoede moeten zijn voor AI als voor AI.
Michael, als we het hebben over toenemende intelligentie, wat bedoelen we dan echt hiermee? Hebben we het over het maken van nieuwe Einsteins? Of is het iets nog ambitieuzers?
Het echte doel van de AI-richting is eerder om "super-Einsteins" te creëren, mensen die veel slimmer zijn dan wie dan ook die ooit op aarde heeft geleefd. En om dit doel te bereiken, moeten er een aantal belangrijke stappen worden gezet.
De eerste stap is om een directe neurale verbinding met informatie tot stand te brengen. Zie het als een soort "telepathische Google-zoekopdracht".
De volgende is de ontwikkeling van hersencomputerinterfaces die het werk van het deel van de hersenen dat verantwoordelijk is voor visuele waarneming zullen verbeteren. Dit zal niet alleen onze visie versterken, maar ook de efficiëntie van informatieverwerking aanzienlijk verhogen. Stel je voor dat je bijna onmiddellijk in je hersenen een complex schema van een object in detail kunt creëren, of nu kun je het schema dat je hebt gezien tot in detail onthouden. Ook is augmentatie vereist in andere delen van de sensorische cortex die verantwoordelijk zijn voor aanraking en gehoor.
Promotie video:
De derde stap zal zijn om de prefrontale cortex te vergroten. Dit is de heilige graal van UI-onderzoek - het verbeteren van de efficiëntie van perceptie en de integratie van sensorische informatie in concepten. Het eindresultaat zal de opkomst zijn van mensen die in staat zijn om bijna onmogelijke intellectuele vermogens te tonen. We hebben het bijvoorbeeld over het vermogen om andere mensen te beheersen met de kracht van de rede, het begrijpen van alle winnende posities op de aandelenmarkt, of bijvoorbeeld het creëren van uitvindingen die de wereld in bijna één dag kunnen veranderen. Dit lijkt misschien onmogelijk, net zoals onze moderne prestaties onmogelijk leken in de ogen van de mensen uit het stenen tijdperk. Maar deze mogelijkheid is echt reëel.
Waar zal AI zich ontwikkelen als we vooruitkijken naar de komende tien jaar? Kan het menselijk brein er echt mee concurreren?
Het menselijk brein kan echt niet teveel worden veranderd. Het is tenslotte al het resultaat van zeven miljoen jaar van evolutionaire optimalisatie en verfijning, die, moet ik toegeven, zeer succesvol waren, gezien de beperkingen ervan. En pogingen om het te 'overklokken' leiden in de regel tot het mislukken ervan, als we het probleem beschouwen, althans vanuit het oogpunt van een voorbeeld van de effecten die gepaard gaan met amfetamineverslaving.
Trailer voor de film Areas of Darkness
Chemische stoffen zijn niet in staat iemands cognitieve vaardigheden te verbeteren. En alles wat wordt gegeven ten gunste van de effectiviteit van de huidige "hersenversnellers" ziet er in feite uiterst controversieel en twijfelachtig uit. Echt succes vereist het gebruik van hersenimplantaten die verbinding maken met miljoenen neuronen. Dit vereist op zijn beurt miljoenen kleine elektroden en een speciaal controlesysteem om ze allemaal te synchroniseren. Tegenwoordig heeft het meest geavanceerde computer-brein interface-ontwerp op zijn best ongeveer 1000 van dergelijke verbindingen. Met andere woorden, moderne ontwikkelingen moeten meer dan duizendvoudig worden opgeschaald om iets echt interessants te bereiken. Zelfs als we rekening houden met de exponentiële groei, duurt het zeker 15 tot 20 jaar voordat er resultaten worden geboekt.
De ontwikkeling van UI is voornamelijk gebaseerd op vooruitgang in de ontwikkeling van nanoproductie. En de resultaten van ingenieurs die werken aan hersencomputerinterfaces, zoals bijvoorbeeld Ed Boyden van het Massachusetts Institute of Technology, zijn volledig afhankelijk van de voortgang in deze richting. Gezien het onbeduidende ontwikkelingsniveau van productietechnologieën op atomair niveau, lijkt zelfassemblage op nano-niveau de meest voor de hand liggende manier om hersencomputerinterfaces met miljoenen elektroden te ontwikkelen. Zelfassemblage op nanoschaal, zo moet worden opgemerkt, is geen atomair nauwkeurige productiemethode, maar het is nauwkeurig genoeg volgens de basisnormen voor fabricage en fotolithografie.
Wat zijn enkele mogelijke psychologische bijwerkingen voor mensen met een aanzienlijk verbeterde intelligentie? Kunnen ze vanuit dit standpunt over het algemeen als mensen worden beschouwd?
Een van de meest voorkomende bijwerkingen is waanzin. Het menselijk brein is een ongelooflijk fijn afgestelde machine. En elke verandering in zijn werkwijze leidt tot wat we gewoonlijk "waanzin" noemen. Er zijn veel verschillende soorten waanzin, veel meer dan gedragspatronen die met gezond verstand werken. Latente waanzin vanuit het oogpunt van de externe omgeving kan bijvoorbeeld vrij gezond lijken, dus zullen we hoogstwaarschijnlijk moeilijkheden ondervinden bij het identificeren van zulke personen die aan waanzin lijden.
Zelfs met volledige geestelijke gezondheid kunnen verschillende bijwerkingen optreden, waaronder toevallen, informatie-overload en mogelijk gevoelens van egomanie en totale vervreemding. Slimme mensen hebben de neiging zich meer vervreemd te voelen van de wereld om hen heen, dus de wetenschap dat jij de slimste op aarde bent, zal dit effect vele malen versterken.
De meeste erg slimme mensen zijn niet erg sociaal en opgewekt, zoals bijvoorbeeld de Amerikaanse wetenschapper Richard Feynman of zoals de moderne Neil DeGrasse Tyson. Hemingway zei ooit: "Een intelligent persoon wordt soms gedwongen dronken te worden om communicatie met dwazen te doorstaan." Maar wat gebeurt er als de alcoholische intoxicatie niet langer voldoende is om kameraadschap en wederzijdse genegenheid te behouden? Dit kan leiden tot verlies van empathie, wat uiteindelijk leidt tot psychopathie.
Dus wat komt er eerst? Versterkte of kunstmatige intelligentie?
Het is erg moeilijk te voorspellen. Er is een grote wens dat verbeterde intelligentie vóór AI zal verschijnen. Al deze kunstwerken en games waarin de hoofdrolspeler zo'n UI bezit, zijn grotendeels verantwoordelijk voor dit verlangen. Het moet echter duidelijk zijn dat de voorkeur voor UI het niet echt gemakkelijker maakt om aan te werken in termen van technologische complexiteit. Maar persoonlijk denk ik dat UI eerder zal komen.
Hoe het ook zij, beide richtingen zijn erg moeilijk te implementeren. Misschien zien we ze pas in de jaren 2060, 2070 of zelfs later. Uiteindelijk zullen beide ontwikkelingsrichtingen hun doelen bereiken. Als je erover nadenkt, is er nu niets verrassends aan intelligentie, dus de noodzaak om het te verbeteren is ongelooflijk groot. En waarschijnlijk zal er een wereldwijde opstand van de Luddieten nodig zijn (deelnemers aan de spontane protesten van het eerste kwart van de 19e eeuw tegen de introductie van machines tijdens de industriële revolutie in Engeland - red.) Om de voortgang van de technologische ontwikkeling te stoppen, die ons tot de gewenste resultaten zal leiden.
Wat zijn de voor- en nadelen van deze twee verschillende ontwikkelingsbenaderingen?
Het belangrijkste voordeel van het kiezen van het AI-ontwikkeltraject ligt in de onevenredig goedkopere en gemakkelijkere ontwikkelingsprocessen. AI op papier en in code is al ontwikkeld. Het blijft alleen om het correct te monteren. Het belangrijkste onderzoek naar UI is op zijn beurt nu gewoon illegaal. Serieus onderzoek naar UI vereist zeer geavanceerde experimenten in neurochirurgie en hersenimplantaten. Hersenenimplantaten kunnen op hun beurt falen en aanvallen, krankzinnigheid of zelfs de dood veroorzaken. Het verbeteren van de menselijke intelligentie in termen van een kwalitatieve manier van zelfverbetering is niet alleen een kwestie van een paar pillen slikken om superkrachten te krijgen. Hier moet je echt experimenteren met hersenimplantaten als je serieuze resultaten wilt behalen.
Het meeste onderzoek op dit gebied is zwaar gecontroleerd en ongelooflijk duur. Alle experimenten met dieren zijn altijd duur. Zo werkt Theodor Berger al jaren aan een hippocampaal implantaat om de geheugenprestaties te herstellen en te verbeteren. In 2004 werden de eerste tests met levend weefsel uitgevoerd, maar sindsdien is nieuws zeer zeldzaam. Natuurlijk komen er om de paar jaar wat aantekeningen in het nieuws, maar ik ben erg sceptisch over het eindresultaat. Kijk nu naar het ontwikkelingsniveau dat we hebben kunnen bereiken bij de ontwikkeling van kunstmatige intelligentie!
Ziet AI er veiliger uit dan AI in termen van voorspelbaarheid en controle? Wat is belangrijker om eerst AI of superkrachtige AI te creëren?
Verbeterde intelligentie wordt gezien als onvoorspelbaarder en oncontroleerbaarder in vergelijking met superkrachtige AI. En op de lange termijn ziet het er zelfs nog gevaarlijker uit. Ik heb onlangs een artikel geschreven over het onderwerp wereldwijde politieke transformatie, veroorzaakt door immense macht geconcentreerd in de handen van een kleine groep mensen met AI of exclusieve toegang tot moleculaire productie. Daarin bedacht ik de term 'Maximilian', wat 'beste van het beste' betekent, om een zeer invloedrijke leider te beschrijven die zelf verbeterde intelligentietechnologie gebruikt om zichzelf boven alle anderen te verheffen.
Cognitief verbeterde Reginald Barkley van Star Trek: The Next Generation in Episode X
Het belangrijkste punt van mijn redenering in het artikel is dat je in het geval van verbeterde intelligentie met mensen te maken hebt en dat een persoon, zoals je weet, onvolmaakt is. Het kan blijken dat mensen met een verbeterde intelligentie misschien een bepaald niveau van menselijke moraliteit zullen behouden, maar hoogstwaarschijnlijk zullen ze al hun macht gaan gebruiken voor hedonistische doeleinden en mogelijk zelfs voor genocide.
Kunstmatige superintelligentie kan op zijn beurt helemaal opnieuw worden gemaakt en eenvoudig worden gemaakt om een reeks eigen motivaties te volgen (die er ook in zullen worden ingebed), die een goede start, stabiliteit en positieve feedback hebben.
Mensen stellen de vraag: "Zou de ISI deze motivaties afwijzen?" Nee, dat doet hij niet, want deze motivaties zullen de kern van zijn waarden vormen, mits ze natuurlijk goed geprogrammeerd zijn. Er zal geen "geest in de auto" zijn die voorgeprogrammeerde motieven kan negeren of verwerpen.
De filosoof Nick Bostrom heeft een verbazingwekkende analyse gedaan in zijn werk The Will of the Superintelligence. Het belangrijkste idee daarin is dat egoïstische doelen niet op zichzelf kunnen verschijnen als het systeem van sleuteltaken van AI in eerste instantie fundamenteel een reeks onzelfzuchtige doelen is en als de essentie van het bestaan van de machine erin bestaat deze onbaatzuchtigheid te behouden. Evolutie heeft aangetoond dat egoïstische doelen een belangrijke rol spelen bij het overleven, vooral als we rekening houden met de evolutionaire constructieve beperkingen van levende organismen, maar dit betekent niet dat we zelf niet in staat zijn om ongeïnteresseerde agenten helemaal opnieuw te programmeren?
Welke (technologische, medische of ethische) moeilijkheden staan de ontwikkeling in de weg?
De grootste uitdaging ligt in het ontwikkelen van geschikte productietechnologieën. Nu zijn we hier niet eens dichtbij. Een andere valkuil is de taak om uit te zoeken waarvoor elk individueel neuron precies verantwoordelijk is, en om de exacte locatie van deze neuronen bij één persoon te bepalen. Nogmaals, daar zijn we nog niet eens in de buurt gekomen.
Ten derde moeten we een snelle manier ontwikkelen om de vele theorieën over hersenfunctie te testen. Ed Boyden noemt dit "high-throughput neurale netwerkscreeningscircuits". De meest geschikte en voor de hand liggende oplossing voor deze vraag kan zijn dat een mens op de een of andere manier bewusteloos wordt gemaakt en ermee experimenteert zonder gewetenswroeging of morele dilemma's. Maar ik heb het gevoel dat dit idee door de meeste ethische commissies op vijandigheid zal stuiten.
Bij gebrek aan een dergelijke mogelijkheid moeten we een manier vinden om een ongekend gedetailleerd model van het menselijk brein te creëren. En we hebben het niet over de harde pogingen van vandaag van het "hersenmodellering" -project waarrond zoveel hype heerst. We hebben het over een ongekend nieuw niveau, dat we pas in 2050-2080 kunnen bereiken. Uit Oxford-analyse blijkt dat het meer over de jaren 2080 gaat. Het lijkt nu natuurlijk allemaal op waarzeggerij op koffiedik, maar nog steeds dichter bij de realiteit.
NIKOLAY KHIZHNYAK
