De reden dat dit (en andere) artikel aan het licht kwam is simpel: misschien is kunstmatige intelligentie niet alleen een belangrijk gespreksonderwerp, maar het belangrijkste in de context van de toekomst. Iedereen die ook maar een beetje doordringt tot de essentie van het potentieel van kunstmatige intelligentie, erkent dat dit onderwerp niet kan worden genegeerd. Sommigen - en onder hen Elon Musk, Stephen Hawking, Bill Gates, niet de meest domme mensen op onze planeet - geloven dat kunstmatige intelligentie een existentiële bedreiging vormt voor de mensheid, vergelijkbaar in omvang met het volledig uitsterven van ons als soort. Nou, leun achterover en zet de puntjes op de i voor jezelf.
"We staan aan de vooravond van veranderingen die vergelijkbaar zijn met het ontstaan van menselijk leven op aarde" (Vernor Vinge).
Wat betekent het om aan de vooravond van een dergelijke verandering te staan?
Het lijkt niets bijzonders te zijn. Maar u moet niet vergeten dat als u zich op zo'n plek in de grafiek bevindt, u niet weet wat er aan uw rechterkant is. Je zou zoiets als dit moeten voelen:
Gevoelens zijn heel normaal, de vlucht verloopt goed.
Promotie video:
De toekomst komt eraan
Stel je voor dat een tijdmachine je naar 1750 bracht, een tijd waarin de wereld constant stroomuitval had, communicatie tussen steden betekende kanonschoten en al het transport op hooi liep. Laten we zeggen dat je daar komt, iemand neemt en hem naar 2015 brengt, laat zien hoe het hier is. We kunnen niet begrijpen hoe het voor hem zou zijn om al deze glimmende capsules langs de wegen te zien vliegen; praat met mensen aan de andere kant van de oceaan; kijk naar sportwedstrijden duizend kilometer verderop; hoor een muzikaal optreden dat 50 jaar geleden is opgenomen; speel met een magische rechthoek die een foto kan maken of een live moment kan vastleggen; bouw een kaart met een paranormale blauwe stip die de locatie aangeeft; kijk naar iemands gezicht en communiceer kilometers ver met hem, enzovoort. Dit alles is onverklaarbare magie voor bijna driehonderd jaar oude mensen. Om nog maar te zwijgen van het internet, het internationale ruimtestation, de Large Hadron Collider, kernwapens en de algemene relativiteitstheorie.
Zo'n ervaring zal voor hem niet verrassend of schokkend zijn - deze woorden brengen niet de hele essentie van mentale ineenstorting over. Onze reiziger kan helemaal sterven.
Maar er is een interessant punt. Als hij teruggaat tot 1750 en jaloers wordt dat we zijn reactie op 2015 wilden zien, kan hij een tijdmachine meenemen en proberen hetzelfde te doen met bijvoorbeeld 1500. Hij zal erheen vliegen, een persoon zoeken, hem ophalen in 1750 en alles laten zien. Een man uit 1500 zal buitengewoon geschokt zijn - maar het is onwaarschijnlijk dat hij zal sterven. Hoewel hij natuurlijk verrast zal zijn, is het verschil tussen 1500 en 1750 veel minder dan tussen 1750 en 2015. Een persoon uit 1500 zal op sommige momenten verrast worden door de natuurkunde, zal verbaasd zijn over wat Europa is geworden onder de harde hiel van het imperialisme, teken een nieuwe kaart van de wereld in zijn hoofd … Maar het dagelijkse leven in 1750 - transport, communicatie, enz. - zal hem waarschijnlijk niet dood verrassen.
Nee, als een man uit 1750 hetzelfde plezier wil hebben als wij, moet hij veel verder gaan - misschien een jaar als dit in 12.000 voor Christus. e., zelfs voordat de eerste landbouwrevolutie de geboorte gaf van de eerste steden en het concept van beschaving. Als iemand uit de wereld van jager-verzamelaars, uit de tijd dat mensen nog meer een andere diersoort waren, de enorme menselijke rijken van 1750 zag met hun hoge kerken, schepen die de oceanen overstaken, hun concept van 'in' een gebouw te zijn, alles deze kennis - hij zou hoogstwaarschijnlijk zijn overleden.
En dan, na de dood, zou hij jaloers zijn geweest en hetzelfde willen doen. Zou 12.000 jaar geleden terugkeren, in 24.000 voor Christus. e., zou een persoon hebben meegenomen en hem te zijner tijd hebben gebracht. En een nieuwe reiziger zou tegen hem zeggen: "Nou, dat is prima, dank je." Omdat in dit geval een persoon uit 12.000 voor Christus. e. men zou 100.000 jaar terug moeten gaan en voor het eerst het vuur en de taal van de plaatselijke aboriginals moeten laten zien.
Als we iemand naar de toekomst moeten vervoeren om hem dood te laten verrassen, moet de vooruitgang een bepaalde afstand afleggen. Het Point of Death Progress (TPP) moet worden bereikt. Dat wil zeggen, als de TSP ten tijde van de jager-verzamelaars 100.000 jaar duurde, vond de volgende stop al plaats in 12.000 voor Christus. e. Daarna was de vooruitgang al sneller en veranderde de wereld radicaal tegen 1750 (ongeveer). Toen duurde het een paar honderd jaar, en hier zijn we dan.
Dit beeld - waar de menselijke vooruitgang sneller gaat naarmate de tijd verstrijkt - noemt futurist Ray Kurzweil de wet van versnelde terugkeer naar de menselijke geschiedenis. Dit gebeurt omdat meer geavanceerde samenlevingen het vermogen hebben om vooruitgang te boeken in een sneller tempo dan minder ontwikkelde samenlevingen. De mensen van de 19e eeuw wisten meer dan de mensen van de 15e eeuw, dus het is niet verwonderlijk dat de vooruitgang in de 19e eeuw sneller ging dan in de 15e eeuw, enzovoort.
Op kleinere schaal werkt dit ook. Back to the Future werd uitgebracht in 1985 en het verleden was in 1955. Toen Michael J. Fox in 1955 terugkeerde in de film, werd hij verrast door de nieuwigheid van televisies, frisdrankprijzen, gebrek aan liefde voor gitaargeluid en variaties in jargon. Het was natuurlijk een andere wereld, maar als de film vandaag werd gefilmd en het verleden in 1985, zou het verschil veel groter zijn. Marty McFly, terug in de tijd van de tijd van personal computers, internet en mobiele telefoons, zou veel irrelevanter zijn dan Marty, die vanaf 1985 naar 1955 ging.
Dit alles is te wijten aan de wet van versnelde rendementen. Het gemiddelde ontwikkelingspercentage van de vooruitgang tussen 1985 en 2015 was hoger dan het tempo van 1955 tot 1985 - omdat in het eerste geval de wereld meer ontwikkeld was, deze verzadigd was met de prestaties van de afgelopen 30 jaar.
Dus hoe meer prestaties, hoe sneller de veranderingen plaatsvinden. Maar zou dat ons niet met bepaalde hints voor de toekomst moeten achterlaten?
Kurzweil suggereert dat de vooruitgang van de hele 20e eeuw in slechts 20 jaar had kunnen worden geboekt op een ontwikkelingsniveau van 2000 - dat wil zeggen, in 2000 was het tempo van vooruitgang vijf keer sneller dan het gemiddelde tempo van vooruitgang in de 20e eeuw. Hij gelooft ook dat de voortgang van de hele 20e eeuw gelijk was aan de voortgang van de periode van 2000 tot 2014, en dat de voortgang van een andere 20e eeuw gelijk zal zijn aan de periode tot 2021 - dat wil zeggen over slechts zeven jaar. Na enkele decennia zal alle vooruitgang van de 20e eeuw meerdere keren per jaar plaatsvinden, en dan - in slechts een maand. Uiteindelijk zal de wet van versnelde rendementen ons naar het punt leiden dat de vooruitgang in de hele 21ste eeuw 1000 keer groter zal zijn dan de vooruitgang in de 20ste eeuw.
Als Kurzweil en zijn aanhangers gelijk hebben, zal 2030 ons op dezelfde manier verrassen als de man uit 1750 ons 2015 zou hebben verrast - dat wil zeggen, de volgende TSP duurt maar een paar decennia - en de wereld van 2050 zal zo anders zijn dan de moderne dat we nauwelijks uitvinden. En dit is geen fantasie. Dit is de mening van veel wetenschappers die slimmer en beter opgeleid zijn dan jij en ik. En als je naar de geschiedenis kijkt, zul je begrijpen dat deze voorspelling volgt uit pure logica.
Waarom halen we dan sceptisch onze schouders op als we te maken krijgen met uitspraken als "de wereld zal over 35 jaar onherkenbaar veranderen"? Er zijn drie redenen voor ons scepticisme over toekomstige voorspellingen:
1. Als het om geschiedenis gaat, denken we in rechte lijnen. Om de voortgang van de komende 30 jaar te visualiseren, kijken we naar de voortgang van de afgelopen 30 jaar als een indicator van hoeveel er waarschijnlijk gaat gebeuren. Als we nadenken over hoe onze wereld in de 21e eeuw zal veranderen, nemen we de vooruitgang van de 20e eeuw en voegen die toe aan het jaar 2000. Dezelfde fout die onze man uit 1750 maakt als hij iemand van 1500 krijgt en hem probeert te verrassen. We denken intuïtief lineair, hoewel we exponentieel zouden moeten zijn. In wezen zou een futurist moeten proberen de voortgang van de komende 30 jaar te voorspellen, niet naar de voorgaande 30, maar te oordelen naar het huidige niveau van vooruitgang. Dan zal de voorspelling nauwkeuriger zijn, maar nog steeds bij de poort. Om correct over de toekomst na te denken, moet je de dingen in een veel sneller tempo zien bewegen dan nu.
2. Het traject van de recente geschiedenis ziet er vaak vertekend uit. Ten eerste lijkt zelfs een steile exponentiële curve lineair als je er kleine delen van ziet. Ten tweede is exponentiële groei niet altijd gelijkmatig en uniform. Kurzweil gelooft dat vooruitgang zich in kronkelige bochten beweegt.
Zo'n curve doorloopt drie fasen: 1) langzame groei (vroege fase van exponentiële groei); 2) snelle groei (explosieve, late fase van exponentiële groei); 3) stabilisatie in de vorm van een specifiek paradigma.
Als je naar het laatste verhaal kijkt, kan het deel van de S-curve waarin je je momenteel bevindt de snelheid van de voortgang voor je waarneming verbergen. Een deel van de tijd tussen 1995 en 2007 werd besteed aan de explosieve ontwikkeling van internet, de introductie van Microsoft, Google en Facebook bij het publiek, de geboorte van sociale netwerken en de ontwikkeling van mobiele telefoons en vervolgens smartphones. Dit was de tweede fase van onze curve. Maar de periode 2008-2015 was minder ontwrichtend, althans op technologisch gebied. Degenen die vandaag aan de toekomst denken, kunnen de afgelopen jaren de tijd nemen om het algehele tempo van de vooruitgang te meten, maar ze zien het grotere geheel niet. In feite kan er nu een nieuwe en krachtige fase 2 aan de gang zijn.
3. Onze eigen ervaring maakt ons chagrijnige oude mensen als het om de toekomst gaat. We baseren onze ideeën over de wereld op onze eigen ervaring, en deze ervaring heeft in het recente verleden voor ons als vanzelfsprekend het groeitempo bepaald. Onze verbeeldingskracht is ook beperkt omdat ze onze ervaring gebruiken om te voorspellen - maar vaker wel dan niet hebben we gewoon niet de tools om de toekomst nauwkeurig te voorspellen. Wanneer we voorspellingen voor de toekomst horen die op gespannen voet staan met onze dagelijkse perceptie van hoe dingen werken, beschouwen we ze instinctief als naïef. Als ik je vertelde dat je 150 of 250 jaar oud zult worden, en misschien ga je helemaal niet dood, dan denk je instinctief dat "dit stom is, ik weet uit de geschiedenis dat in die tijd iedereen stierf". Zo is het: niemand leefde om zulke jaren te zien. Maar geen enkel vliegtuig vloog vóór de uitvinding van het vliegtuig.
Dus hoewel scepsis u redelijk lijkt, is het vaker wel dan niet verkeerd. We moeten accepteren dat als we ons wapenen met pure logica en wachten op de gebruikelijke historische zigzaglijnen, we moeten toegeven dat er de komende decennia heel, heel, heel veel moet veranderen; veel meer dan intuïtief. De logica schrijft ook voor dat als de meest geavanceerde soort op de planeet enorme sprongen voorwaarts blijft maken, steeds sneller, de sprong op een gegeven moment zo ernstig zal zijn dat hij het leven zoals we dat kennen drastisch zal veranderen. Iets soortgelijks gebeurde tijdens het evolutieproces, toen de mens zo slim werd dat hij het leven van elke andere soort op planeet Aarde volledig veranderde. En als je wat tijd besteedt aan het lezen van wat er nu gebeurt in wetenschap en technologie, zou je dat kunnenbegin bepaalde aanwijzingen te zien over wat de volgende gigantische sprong zal zijn.
De weg naar superintelligentie: wat is AI (kunstmatige intelligentie)?
Zoals zovelen op deze planeet ben je gewend om kunstmatige intelligentie te zien als een dom sciencefiction-idee. Maar de laatste tijd hebben veel serieuze mensen hun bezorgdheid getoond over dit stomme idee. Wat is er verkeerd?
Er zijn drie redenen die tot verwarring leiden over de term AI:
1. We associëren AI met films. "Star Wars". "Terminator". "A Space Odyssey of 2001". Maar net als robots is de AI in deze films fictie. Hollywood-tapes verdunnen dus het niveau van onze waarneming, AI wordt vertrouwd, vertrouwd en, natuurlijk, slecht.
2. Dit is een breed toepassingsgebied. Het begint met een rekenmachine in je telefoon en het ontwikkelen van zelfrijdende auto's tot iets ver in de toekomst dat een revolutie teweeg zal brengen in de wereld. AI staat voor al deze dingen, en het is verwarrend.
3. We gebruiken AI elke dag, maar realiseren het ons vaak niet eens. Zoals John McCarthy, de uitvinder van de term "kunstmatige intelligentie" in 1956, zei: "Als het eenmaal werkt, noemt niemand het meer AI." AI is meer een mythische voorspelling over de toekomst geworden dan iets echts. Tegelijkertijd zit er in deze naam en een vleugje iets uit het verleden dat nooit werkelijkheid is geworden. Ray Kurzweil zegt dat hij mensen hoort die AI associëren met feiten uit de jaren 80, wat kan worden vergeleken met "beweren dat het internet samen met dotcoms in de vroege jaren 2000 stierf".
Laten we duidelijk zijn. Denk eerst niet meer aan robots. De robot die de container is voor de AI bootst soms de menselijke vorm na, soms niet, maar de AI zelf is de computer in de robot. AI is een brein, en een robot is een lichaam, als hij überhaupt een lichaam heeft. De software en gegevens van Siri zijn bijvoorbeeld kunstmatige intelligentie, de vrouwelijke stem is de personificatie van deze AI en er zijn geen robots in dit systeem.
Ten tweede heb je waarschijnlijk de term "singulariteit" of "technologische singulariteit" gehoord. Deze term wordt in de wiskunde gebruikt om een ongebruikelijke situatie te beschrijven waarin de gebruikelijke regels niet meer werken. In de natuurkunde wordt het gebruikt om het oneindig kleine en dichte punt van een zwart gat te beschrijven, of het oorspronkelijke punt van de oerknal. Nogmaals, de wetten van de fysica werken er niet in. In 1993 schreef Vernor Vinge een beroemd essay waarin hij de term toepaste op een moment in de toekomst waarop de intelligentie van onze technologieën de onze overtreft - op welk punt het leven zoals we het kennen voor altijd zal veranderen en de gebruikelijke regels van zijn bestaan niet langer zullen werken. … Ray Kurzweil heeft deze term verder verfijnd door erop te wijzen dat de singulariteit zal worden bereikt wanneer de wet van versnellende terugslag een extreem punt bereikt,wanneer de technologische vooruitgang zo snel gaat dat we de prestaties ervan bijna oneindig snel opmerken. Dan leven we in een compleet nieuwe wereld. Veel experts gebruiken deze term echter niet meer, dus laten we hem niet vaak gebruiken.
Ten slotte, hoewel er veel soorten of vormen van AI zijn die voortkomen uit het brede concept van AI, zijn de belangrijkste categorieën AI afhankelijk van het kaliber. Er zijn drie hoofdcategorieën:
1. Enorm gerichte (zwakke) kunstmatige intelligentie (AI). UII is gespecialiseerd in één gebied. Onder deze AI's zijn er die de wereldkampioen schaken kunnen verslaan, maar dat is alles. Er is er een die de beste manier kan bieden om gegevens op uw harde schijf op te slaan, en dat is alles.
2. Algemene (sterke) kunstmatige intelligentie. Soms ook wel AI op menselijk niveau genoemd. AGI verwijst naar een computer die zo slim is als een persoon - een machine die in staat is om elke intellectuele handeling uit te voeren die inherent is aan een persoon. AGI creëren is veel moeilijker dan AGI, en daar zijn we nog niet op aangekomen. Professor Linda Gottfredson beschrijft intelligentie als "in algemene zin mentaal potentieel, dat onder andere het vermogen omvat om te redeneren, plannen, problemen op te lossen, abstract te denken, complexe ideeën te begrijpen, snel te leren en te leren van ervaring". AGI zou dit allemaal net zo gemakkelijk moeten kunnen doen als u.
3. Kunstmatige superintelligentie (ISI). Nick Bostrom, filosoof en AI-theoreticus uit Oxford, definieert superintelligentie als "intelligentie die veel slimmer is dan de beste menselijke geesten op vrijwel elk gebied, inclusief wetenschappelijke creativiteit, algemene wijsheid en sociale vaardigheden." Kunstmatige superintelligentie omvat zowel een computer die iets slimmer is dan een persoon, als een computer die biljoenen keren slimmer is in welke richting dan ook. ISI is de reden voor de groeiende belangstelling voor AI, evenals het feit dat de woorden "uitsterven" en "onsterfelijkheid" vaak voorkomen in dergelijke discussies.
Tegenwoordig hebben mensen op veel manieren de allereerste fase van het AI-kaliber - AI - al overwonnen. De AI-revolutie is een reis van AGI via AGI naar ISI. Dit pad overleven we misschien niet, maar het zal zeker alles veranderen.
Laten we eens nader bekijken hoe de leidende denkers in het veld dit pad zien en waarom deze revolutie sneller zou kunnen plaatsvinden dan u misschien denkt.
Waar zijn we in deze stroom?
Gerichte kunstmatige intelligentie is machine-intelligentie die bij het uitvoeren van een specifieke taak gelijk is aan of groter is dan de menselijke intelligentie of efficiëntie. Enkele voorbeelden:
“Auto's zitten boordevol ICD-systemen, van computers die bepalen wanneer het antiblokkeersysteem moet worden geactiveerd, tot een computer die de parameters van het brandstofinjectiesysteem bepaalt. De zelfrijdende auto's van Google, die momenteel worden getest, zullen robuuste AI-systemen bevatten die de wereld om hen heen voelen en erop reageren.
- Uw telefoon is een kleine ICD-fabriek. Wanneer je de kaarten-app gebruikt, ontvang je aanbevelingen voor het downloaden van apps of muziek, bekijk je het weer voor morgen, praat je met Siri of doe je iets anders: je gebruikt AI.
- Uw spamfilter voor e-mail is een klassiek type AI. Het begint met uitzoeken hoe u spam kunt scheiden van bruikbare e-mails en leert vervolgens hoe het uw e-mails en voorkeuren verwerkt.
- En dit ongemakkelijke gevoel toen je gisteren op zoek was naar een schroevendraaier of een nieuw plasma in een zoekmachine, en vandaag aanbiedingen van handige winkels op andere sites ziet? Of wanneer het sociale netwerk je aanbeveelt om interessante mensen als vrienden toe te voegen? Dit zijn allemaal AI-systemen die samenwerken, uw voorkeuren bepalen, gegevens over u van internet halen en steeds dichter bij u komen. Ze analyseren het gedrag van miljoenen mensen en trekken op basis van deze analyses conclusies om de diensten van grote bedrijven te verkopen of hun dienstverlening te verbeteren.
- Google Translate is een ander klassiek AI-systeem dat indrukwekkend goed is in bepaalde dingen. Spraakherkenning ook. Wanneer uw vliegtuig landt, wordt de terminal ervoor niet door een persoon geïdentificeerd. De ticketprijs is hetzelfde. De beste dammen, schaken, backgammon, noedels en andere spellen ter wereld worden tegenwoordig vertegenwoordigd door eng gerichte kunstmatige intelligentie.
- Google Zoeken is een gigantische AI die ongelooflijk slimme methoden gebruikt om pagina's te rangschikken en SERP's te bepalen.
En dat is alleen in de consumentenwereld. Geavanceerde IMD-systemen worden veel gebruikt in de militaire, productie- en financiële industrieën; in medische systemen (denk aan IBM's Watson) enzovoort.
De weg van AGI naar AGI: waarom is het zo moeilijk?
Niets onthult de complexiteit van menselijke intelligentie meer dan proberen een computer te maken die net zo slim is. Wolkenkrabbers bouwen, de ruimte in vliegen, de geheimen van de oerknal - dit is allemaal onzin vergeleken met het herhalen van ons eigen brein of het op zijn minst begrijpen. Het menselijk brein is momenteel het meest complexe object in het bekende universum.
U vermoedt misschien niet eens wat de moeilijkheid is om AGI te creëren (een computer die in het algemeen slim zal zijn als persoon, en niet slechts op één gebied). Het bouwen van een computer die twee getallen van tien cijfers in een fractie van een seconde kan vermenigvuldigen, is een fluitje van een cent. Iemand creëren die naar een hond en een kat kan kijken en kan vertellen waar de hond is en waar de kat is, is ongelooflijk moeilijk. Een AI creëren die een grootmeester kan verslaan? Gedaan. Probeer hem nu een alinea uit een zes jaar oud boek te laten voorlezen en niet alleen de woorden te begrijpen, maar ook hun betekenis. Google besteedt miljarden dollars om dit te doen. Met complexe dingen - zoals berekeningen, het berekenen van financiële marktstrategieën, het vertalen van een taal - kan de computer hier gemakkelijk mee omgaan, maar met eenvoudige dingen - visie, beweging, perceptie - nee. Zoals Donald Knuth het uitdrukte: “AI doet nu bijna allesdat 'denken' vereist, maar niet kan omgaan met wat mensen en dieren doen zonder na te denken. '
Als je nadenkt over de redenen hiervoor, zul je je realiseren dat dingen die ons eenvoudig lijken om te doen, alleen zo lijken omdat ze voor ons (en dieren) zijn geoptimaliseerd gedurende honderden miljoenen jaren van evolutie. Wanneer u naar een object reikt, voeren de spieren, gewrichten, botten van uw schouders, ellebogen en handen onmiddellijk lange ketens van fysieke operaties uit, synchroon met wat u ziet, en bewegen ze uw arm in drie dimensies. Het lijkt je simpel, want de ideale software in je brein is verantwoordelijk voor deze processen. Deze eenvoudige truc maakt de procedure voor het registreren van een nieuw account door een krom geschreven woord (captcha) in te voeren voor jou eenvoudig en voor een kwaadwillende bot. Voor ons brein is dit niet moeilijk: je moet gewoon kunnen zien.
Aan de andere kant zijn grote getallen vermenigvuldigen of schaken nieuwe activiteiten voor biologische wezens, en we hadden niet genoeg tijd om ons daarin te verbeteren (niet miljoenen jaren), dus het is niet moeilijk voor een computer om ons te verslaan. Denk er maar eens over na: zou je liever een programma maken dat grote getallen kan vermenigvuldigen, of een programma dat de letter B herkent in zijn miljoenen spellingen, in de meest onvoorspelbare lettertypen, met de hand of met een stok in de sneeuw?
Een eenvoudig voorbeeld: als je dit bekijkt, beseffen jij en je computer dat dit afwisselende vierkanten zijn met twee verschillende tinten.
Maar als je het zwart verwijdert, beschrijf je meteen het complete plaatje: cilinders, vlakken, driedimensionale hoeken, maar een computer kan dat niet.
Hij beschrijft wat hij ziet als een verscheidenheid aan tweedimensionale vormen in verschillende tinten, wat in principe waar is. Je brein doet een hoop werk om diepte, schaduwspel, licht in een foto te interpreteren. In de onderstaande afbeelding ziet de computer een tweedimensionale wit-grijs-zwarte collage, terwijl er in werkelijkheid een driedimensionale steen is.
En alles wat we zojuist hebben geschetst, is het topje van de ijsberg als het gaat om het begrijpen en verwerken van informatie. Om hetzelfde niveau te bereiken met een persoon, moet een computer het verschil in subtiele gezichtsuitdrukkingen begrijpen, het verschil tussen plezier, verdriet, tevredenheid, vreugde en waarom Chatsky goed is en Molchalin niet.
Wat moeten we doen?
De eerste stap om AGI op te bouwen: de rekenkracht vergroten
Een van de noodzakelijke dingen die moeten gebeuren om AGI mogelijk te maken, is het vergroten van de kracht van computerhardware. Als een artificieel intelligentiesysteem net zo slim moet zijn als de hersenen, moet het qua ruwe rekenkracht overeenkomen met de hersenen.
Een manier om dit vermogen te vergroten, is door het totale aantal berekeningen per seconde (OPS) dat de hersenen kunnen produceren, en u kunt dit aantal bepalen door de maximale OPS voor elke hersenstructuur te berekenen en ze samen te voegen.
Ray Kurzweil concludeerde dat het voldoende is om een professionele schatting te maken van de OPS van één structuur en het gewicht ervan in verhouding tot het gewicht van de hele hersenen, en deze vervolgens proportioneel te vermenigvuldigen om de algehele schatting te verkrijgen. Het klinkt een beetje dubieus, maar hij deed het vaak met verschillende schattingen van verschillende gebieden en kwam altijd met hetzelfde aantal: ongeveer 10 ^ 16 of 10 biljard OPS.
De snelste supercomputer ter wereld, de Chinese Tianhe-2, heeft dit aantal al overtroffen: hij kan ongeveer 32 biljard bewerkingen per seconde uitvoeren. Maar "Tianhe-2" beslaat 720 vierkante meter ruimte, verbruikt 24 megawatt energie (onze hersenen verbruiken slechts 20 watt) en kost 390 miljoen dollar. We hebben het niet over commercieel of wijdverbreid gebruik.
Kurzweil suggereert dat we de gezondheid van computers beoordelen aan de hand van hoeveel OPS je kunt kopen voor $ 1.000. Wanneer dat aantal het menselijke niveau bereikt - 10 biljard OPS - zou AGI wel eens een deel van ons leven kunnen worden.
De wet van Moore - de historisch betrouwbare regel dat de maximale rekenkracht van computers elke twee jaar verdubbelt - houdt in dat de ontwikkeling van computertechnologie, net als de beweging van de mens door de geschiedenis, exponentieel groeit. Als we dat in overeenstemming brengen met de duizend-dollarregel van Kurzweil, kunnen we ons nu 10 biljoen OPS veroorloven voor $ 1.000.
De exponentiële groei van computers: 20e - 21e eeuw. Aan de rechterkant is een rekenliniaal en daarop - de hersenen van een insect, een muis, een persoon en alle mensen; links - berekeningen per seconde voor $ 1000; hieronder - jaar.
Computers voor $ 1.000 omzeilen de hersenen van een muis in hun rekenkracht en zijn duizend keer zwakker dan mensen. Dit lijkt een slechte indicator totdat we ons herinneren dat computers in 1985 een biljoen keer zwakker waren dan het menselijk brein, een miljard keer in 1995 en een miljoen in 2005. Tegen 2025 zouden we een betaalbare computer moeten hebben die kan wedijveren met de rekenkracht. onze hersenen.
Het brute vermogen dat nodig is voor AGI is dus al technisch beschikbaar. Binnen 10 jaar zal het China verlaten en zich over de hele wereld verspreiden. Maar rekenkracht alleen is niet voldoende. En de volgende vraag: hoe voorzien we intelligentie op menselijk niveau van al deze kracht?
De tweede stap om AGI te creëren: het intelligentie geven
Dit deel is behoorlijk lastig. In werkelijkheid weet niemand echt hoe we een machine intelligent moeten maken - we proberen nog steeds uit te vinden hoe we een intelligentie op menselijk niveau kunnen creëren die een kat van een hond kan onderscheiden, een in de sneeuw getrokken B isoleert en een tweederangs film analyseert. Er zijn echter een handvol vooruitstrevende strategieën, en op een gegeven moment zou een daarvan moeten werken.
1. Herhaal de hersenen
Deze optie is alsof wetenschappers in hetzelfde klaslokaal zitten met een kind dat erg intelligent is en goed in het beantwoorden van vragen; en zelfs als ze ijverig proberen de wetenschap te begrijpen, komen ze er niet eens in de buurt om het slimme kind in te halen. Uiteindelijk besluiten ze: naar de hel, we schrijven de antwoorden op zijn vragen gewoon af. Het is logisch: we kunnen geen supercomplexe computer bouwen, dus waarom zou je niet een van de beste prototypes in het universum als basis nemen: ons brein?
De wetenschappelijke wereld werkt er hard aan om erachter te komen hoe onze hersenen werken en hoe evolutie zoiets ingewikkelds heeft gecreëerd. Volgens de meest optimistische schattingen zullen ze dit pas in 2030 kunnen doen. Maar als we eenmaal alle geheimen van de hersenen, de efficiëntie en kracht ervan begrijpen, kunnen we ons laten inspireren door de methoden voor het creëren van technologie. Een van de computerarchitecturen die de werking van de hersenen nabootst, is bijvoorbeeld een neuraal netwerk. Ze begint met een netwerk van transistor "neuronen" die met elkaar zijn verbonden door input en output, en weet niets - zoals een pasgeboren baby. Het systeem "leert" door te proberen taken uit te voeren, handgeschreven tekst te herkennen en dergelijke. De verbindingen tussen transistors worden versterkt als het antwoord juist is en verzwakt als het antwoord niet juist is. Na vele cycli van vragen en antwoorden vormt het systeem slimme neurale weefsels,geoptimaliseerd voor specifieke taken. De hersenen leren op een vergelijkbare manier, maar op een veel complexere manier, en terwijl we het blijven bestuderen, ontdekken we ongelooflijke nieuwe manieren om neurale netwerken te verbeteren.
Nog extremer plagiaat betreft een strategie die volledige hersenemulatie wordt genoemd. Doel: om een echt brein in dunne plakjes te snijden, scan je ze allemaal, reconstrueer je het driedimensionale model nauwkeurig met behulp van software en vertaal je het vervolgens naar een krachtige computer. Dan hebben we een computer die officieel alles kan doen wat de hersenen kunnen: het hoeft alleen maar te leren en informatie te verzamelen. Als ingenieurs slagen, kunnen ze een echt brein met zo'n ongelooflijke nauwkeurigheid nabootsen dat, eenmaal gedownload naar een computer, de echte identiteit en het geheugen van de hersenen intact blijven. Als het brein van Vadim was voordat hij stierf, zal de computer ontwaken in de rol van Vadim, die nu een AGI op menselijk niveau zal zijn, en wij, op onze beurt, zullen Vadim in een ongelooflijk intelligente ISI veranderen.waar hij zeker blij mee zal zijn.
Hoe ver zijn we verwijderd van het volledig nabootsen van de hersenen? In werkelijkheid hebben we zojuist de hersenen van een millimeter platworm nagebootst, die in totaal 302 neuronen bevat. Het menselijk brein bevat 100 miljard neuronen. Als het je zinloos lijkt om dit aantal te bereiken, denk dan eens aan de exponentiële groeisnelheid van de vooruitgang. De volgende stap is de emulatie van het brein van de mier, dan zal er een muis zijn en dan is een mens binnen handbereik.
2. Probeer de sporen van evolutie te volgen
Als we besluiten dat de antwoorden van het slimme kind te complex zijn om af te schrijven, kunnen we proberen in zijn voetsporen te treden op het gebied van leren en examenvoorbereiding. Wat weten we? Het is heel goed mogelijk om een computer te bouwen die zo krachtig is als een brein - de evolutie van onze eigen hersenen heeft dit bewezen. En als de hersenen te complex zijn om na te bootsen, kunnen we proberen evolutie na te bootsen. Het punt is dat, zelfs als we de hersenen kunnen nabootsen, het misschien lijkt op het bouwen van een vliegtuig door belachelijke handbewegingen te maken die de bewegingen van de vleugels van vogels nabootsen. Vaker wel dan niet slagen we erin om goede machines te maken met een machinegerichte benadering in plaats van een exacte imitatie van de biologie.
Hoe evolutie simuleren om AGI te bouwen? Deze methode, "genetische algoritmen" genaamd, zou ongeveer zo moeten werken: er moet een productief proces zijn en de evaluatie ervan, en het zal zich keer op keer herhalen (op dezelfde manier waarop biologische wezens "bestaan" en "worden geëvalueerd" op basis van hun vermogen om zich voort te planten). Een groep computers zal taken uitvoeren en de meest succesvolle computers zullen hun kenmerken delen met andere computers, "output". De minder succesvolle zullen genadeloos in de vuilnisbak van de geschiedenis worden gegooid. Door vele, vele iteraties zal dit natuurlijke selectieproces betere computers opleveren. De uitdaging ligt in het creëren en automatiseren van veredelings- en evaluatiecycli zodat het evolutieproces vanzelf verloopt.
De keerzijde van het kopiëren van evolutie is dat evolutie miljarden jaren nodig heeft om iets te doen, en we hebben er maar een paar decennia voor nodig.
Maar we hebben veel voordelen, in tegenstelling tot evolutie. Ten eerste heeft het niet de gave van een vooruitziende blik, het werkt bij toeval - het geeft bijvoorbeeld nutteloze mutaties af - en we kunnen het proces controleren binnen het kader van de opgestelde taken. Ten tweede heeft evolutie geen doel, inclusief het verlangen naar intelligentie - soms wint een bepaalde soort in de omgeving niet ten koste van intelligentie (omdat de laatste meer energie verbruikt). Wij kunnen daarentegen streven naar meer intelligentie. Ten derde, om intelligentie te kiezen, moet de evolutie een aantal verbeteringen van derden aanbrengen - zoals het herverdelen van energieverbruik door cellen - we kunnen het overschot gewoon verwijderen en elektriciteit gebruiken. We zullen ongetwijfeld sneller zijn dan evolutie - maar nogmaals, het is niet duidelijk of we die kunnen overtreffen.
3. Laat computers aan zichzelf over
Dit is de laatste kans wanneer wetenschappers volledig wanhopig zijn en een programma voor zelfontplooiing proberen te programmeren. Deze methode kan echter de meest veelbelovende van allemaal blijken te zijn. Het idee is dat we een computer creëren die twee basisvaardigheden zal hebben: AI verkennen en veranderingen op zichzelf coderen - waardoor het niet alleen meer kan leren, maar ook zijn eigen architectuur kan verbeteren. We kunnen computers opleiden tot hun eigen computeringenieurs, zodat ze zichzelf kunnen ontwikkelen. En hun belangrijkste taak zal zijn om erachter te komen hoe ze slimmer kunnen worden. We zullen hier meer in detail over praten.
Dit alles kan heel snel gebeuren
Snelle vooruitgang in hardware en experimenten met software lopen parallel, en AGI kan snel en onverwachts opduiken om twee belangrijke redenen:
Wanneer zullen computers de mens overtreffen in denkvermogen? Het volume van Lake Michigan (in vloeibare ounces) is gelijk aan het volume van onze hersenen (in bewerkingen per seconde). De rekenkracht verdubbelt elke 18 maanden. In dit tempo zult u lange tijd geen resultaten zien, maar dan gebeurt alles onmiddellijk.
2. Als het op software aankomt, lijkt vooruitgang misschien traag, maar dan verandert één doorbraak onmiddellijk de snelheid van vooruitgang (goed voorbeeld: in de dagen van het geocentrische wereldbeeld was het moeilijk voor mensen om het werk van het universum te berekenen, maar de ontdekking van heliocentrisme maakte alles veel gemakkelijker). Of, als het gaat om een computer die zichzelf verbetert, kunnen dingen extreem traag lijken, maar soms scheidt slechts één verandering in het systeem het van een duizendvoudige efficiëntie in vergelijking met een menselijke of een oudere versie.
De weg van AGI naar ISI
Op een gegeven moment zullen we zeker AGI krijgen - algemene kunstmatige intelligentie, computers met een algemeen menselijk intelligentieniveau. Computers en mensen zullen samenleven. Of ze zullen niet.
Het punt is dat AGI met hetzelfde niveau van intelligentie en rekenkracht als mensen nog steeds aanzienlijke voordelen zal hebben ten opzichte van mensen. Bijvoorbeeld:
Uitrusting
Snelheid. Hersenneuronen werken op 200 Hz, terwijl moderne microprocessors (die aanzienlijk langzamer zijn dan wat we zullen krijgen tegen de tijd dat de AGI wordt gecreëerd) werken op een frequentie van 2 GHz, of 10 miljoen keer sneller dan onze neuronen. En de interne communicatie van de hersenen, die kan bewegen met een snelheid van 120 m / s, is aanzienlijk slechter dan het vermogen van computers om optica te gebruiken en de snelheid van het licht.
Grootte en opslag. De grootte van de hersenen wordt beperkt door de grootte van onze schedels en kan niet groter worden, anders zal interne communicatie met een snelheid van 120 m / s te lang duren om van de ene structuur naar de andere te reizen. Computers kunnen worden uitgebreid tot elke fysieke grootte, meer hardware gebruiken, RAM vergroten, langetermijngeheugen - dit alles gaat onze mogelijkheden te boven.
Betrouwbaarheid en duurzaamheid. Niet alleen het computergeheugen is nauwkeuriger dan het menselijk geheugen. Computertransistors zijn nauwkeuriger dan biologische neuronen en zijn minder vatbaar voor achteruitgang (en ze kunnen inderdaad worden vervangen of gerepareerd). De hersenen van mensen worden sneller moe, terwijl computers non-stop kunnen werken, 24 uur per dag, 7 dagen per week.
Software
Mogelijkheid tot bewerken, moderniseren, een breder scala aan mogelijkheden. In tegenstelling tot het menselijk brein kan een computerprogramma eenvoudig worden gecorrigeerd, bijgewerkt of ermee geëxperimenteerd. Gebieden waar de menselijke hersenen zwak zijn, kunnen ook worden opgewaardeerd. Human vision-software is uitstekend ontworpen, maar vanuit technisch oogpunt zijn de mogelijkheden nog steeds zeer beperkt - we zien alleen in het zichtbare spectrum van licht.
Collectief vermogen. Mensen zijn superieur aan andere soorten in termen van grote collectieve intelligentie. Beginnend met de ontwikkeling van taal en de vorming van grote gemeenschappen, door de uitvindingen van schrijven en drukken, en nu gestimuleerd door tools zoals internet, is de collectieve intelligentie van mensen een belangrijke reden waarom we onszelf de kroon van de evolutie kunnen noemen. Maar computers zullen nog steeds beter zijn. Het wereldwijde netwerk van kunstmatige intelligenties die aan één programma werken, voortdurend synchroniseren en zichzelf ontwikkelen, stelt u in staat onmiddellijk nieuwe informatie aan de database toe te voegen, waar u deze ook krijgt. Zo'n groep zal ook in staat zijn om naar één doel als geheel toe te werken, omdat computers niet lijden onder de speciale meningen, motivatie en eigenbelang die mensen wel hebben.
De AI, die waarschijnlijk AGI wordt door geprogrammeerde zelfverbetering, zal 'intelligentie op menselijk niveau' niet als een belangrijke mijlpaal zien - deze mijlpaal is alleen belangrijk voor ons. Hij zal geen reden hebben om op dit dubieuze niveau te stoppen. En gezien de voordelen die zelfs AGI op menselijk niveau zal hebben, is het vrij duidelijk dat menselijke intelligentie er een korte flits voor zal zijn in de race naar intellectuele superioriteit.
Deze ontwikkeling van evenementen kan ons heel, heel erg verbazen. Het is een feit dat, vanuit ons standpunt, a) het enige criterium dat ons in staat stelt de kwaliteit van intelligentie te bepalen, de intelligentie van dieren is, die standaard lager is dan die van ons; b) voor ons zijn de slimste mensen ALTIJD slimmer dan de domste. Min of meer als volgt:
Dat wil zeggen, terwijl de AI gewoon ons ontwikkelingsniveau probeert te bereiken, zien we hoe het slimmer wordt en het niveau van het dier nadert. Als hij het eerste menselijke niveau bereikt - Nick Bostrom gebruikt de term "country idioot" - zullen we verrukt zijn: "Wow, hij is al een idioot. Koel! " Het enige is dat in het algemene spectrum van de intelligentie van mensen, van de dorpsidioot tot Einstein, het bereik klein is - daarom, nadat de AI het niveau van de idioot bereikt en AGI wordt, wordt hij plotseling slimmer dan Einstein.
En wat gebeurt er daarna?
Explosie van intelligentie
Ik hoop dat je het interessant en leuk vond, want vanaf dat moment wordt het onderwerp dat we bespreken abnormaal en griezelig. We moeten even stilstaan en onszelf eraan herinneren dat elk feit dat hierboven en hieronder wordt vermeld, echte wetenschap is en echte voorspellingen voor de toekomst, gemaakt door de meest vooraanstaande denkers en wetenschappers. Houd gewoon in gedachten.
Dus, zoals we hierboven hebben aangegeven, bevatten al onze moderne modellen voor het bereiken van AGI de optie wanneer AI zichzelf verbetert. En zodra hij AGI wordt, worden zelfs de systemen en methoden waarmee hij opgroeide slim genoeg om zichzelf te verbeteren - als ze dat willen. Een interessant concept komt naar voren: recursieve zelfverbetering. Zo werkt het.
Een bepaald AI-systeem op een bepaald niveau - zeg maar de dorpsgek - is geprogrammeerd om zijn eigen intelligentie te verbeteren. Na zich te hebben ontwikkeld - zeg maar tot het niveau van Einstein - begint een dergelijk systeem zich al te ontwikkelen met het intellect van Einstein, het kost minder tijd om zich te ontwikkelen en de sprongen komen meer en meer voor. Ze zorgen ervoor dat het systeem beter presteert dan elke persoon, en ze worden groter en groter. Terwijl het zich snel ontwikkelt, stijgt AGI naar hemelse hoogten in zijn intelligentie en wordt het een superintelligent ISI-systeem. Dit proces wordt een explosie van intelligentie genoemd, en het is het duidelijkste voorbeeld van de wet van versnelde terugkeer.
Wetenschappers discussiëren over hoe snel AI AGI zal bereiken - de meesten geloven dat we AGI zullen krijgen tegen 2040, in slechts 25 jaar, wat heel, heel weinig is volgens de normen van technologische ontwikkeling. Voortbordurend op de logische keten is het niet moeilijk aan te nemen dat ook de overgang van AGI naar ISI zeer snel zal verlopen. Min of meer als volgt:
“Het heeft decennia geduurd voordat het eerste AI-systeem zijn laagste niveau van algemene intelligentie bereikte, maar het gebeurde uiteindelijk. De computer kan de wereld om je heen begrijpen als vierjarige. Plots, letterlijk een uur na het bereiken van deze mijlpaal, produceert het systeem een geweldige fysica-theorie die de algemene relativiteitstheorie en de kwantummechanica verenigt, wat geen mens kan doen. Na anderhalf uur wordt AI ISI, 170.000 keer slimmer dan welke mens dan ook."
We hebben niet eens de juiste termen om superintelligentie van deze omvang te beschrijven. In onze wereld betekent "slim" een persoon met een IQ van 130, "dom" - 85, maar we hebben geen voorbeelden van mensen met een IQ van 12.952. Onze heersers zijn daar niet voor ontworpen.
De geschiedenis van de mensheid vertelt ons duidelijk en duidelijk: samen met het intellect komt kracht en kracht. Dit betekent dat wanneer we kunstmatige superintelligentie creëren, het het machtigste wezen in de geschiedenis van het leven op aarde zal zijn, en dat alle levende wezens, inclusief de mens, volledig in hun macht zullen zijn - en dit kan over twintig jaar gebeuren.
Als onze magere hersenen Wi-Fi konden uitvinden, dan kan iets slimmer dan wij honderd, duizend, een miljard keer gemakkelijk de positie van elk atoom in het universum op een bepaald moment berekenen. Alles wat magie kan worden genoemd, elke macht die wordt toegeschreven aan een almachtige godheid - dit alles zal ter beschikking staan van de ISI. Technologie creëren om veroudering tegen te gaan, elke ziekte te behandelen, honger en zelfs de dood te beëindigen, het weer te beheersen - alles wordt plotseling mogelijk. Een onmiddellijk einde aan al het leven op aarde is ook mogelijk. De slimste mensen op onze planeet zijn het erover eens dat zodra kunstmatige superintelligentie in de wereld verschijnt, dit de verschijning van God op aarde zal markeren. En een belangrijke vraag blijft.
Gebaseerd op materiaal van waitbutwhy.com, samengesteld door Tim Urban. Het artikel maakt gebruik van materiaal uit de werken van Nick Bostrom, James Barratt, Ray Kurzweil, Jay Niels-Nilsson, Stephen Pinker, Vernor Vinge, Moshe Vardy, Russ Roberts, Stuart Armstrog en Kai Sotal, Susan Schneider, Stuart Russell en Peter Norvig, Theodore Modis Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Auteur: Ilya Khel
Deel twee: uitsterven of onsterfelijkheid?
