Misschien wel een van de moeilijkste tests van machine-intelligentie was het schaakspel dat bijna 20 jaar geleden plaatsvond tussen de Deep Blue-computer en de wereldkampioen schaken Garry Kasparov. De auto heeft gewonnen. Op dit moment is de serie games in het logicaspel go ten einde, waar de AI AlphaGo van DeepMind (eigenaar van Google) en de legendarische go-kampioen uit China Li Si Dol streden. In vier van de vijf spellen won de machine, waarmee hij zijn superioriteit ten opzichte van de mens in dit spel aantoonde. Het ongelooflijk complexe spel tussen mens en AI laat zien dat machine-intelligentie zich in deze tijd zeer sterk heeft ontwikkeld. Het lijkt erop dat de noodlottige dag, waarop machines echt slimmer worden dan mensen, nu dichterbij is dan ooit. Het lijkt er echter op dat velen het helemaal niet begrijpen, maar zich zelfs vergissen over de gevolgen die ons in de toekomst kunnen wachten.
We onderschatten enkele zeer ernstige en zelfs gevaarlijke gevolgen van de ontwikkeling van kunstmatige intelligentie. Vorig jaar bracht SpaceX-mede-oprichter Elon Musk een verklaring uit waarin hij zijn bezorgdheid uitsprak over de mogelijke slavernij van de wereld door kunstmatige intelligentie, wat op zijn beurt leidde tot een enorme hoeveelheid opmerkingen van zowel voor- als tegenstanders van deze mening.
Voor zo'n fundamenteel revolutionaire toekomst die ons misschien te wachten staat, is het verrassend dat er vandaag zo veel meningsverschillen zijn over de vraag of het überhaupt zal gebeuren en wat het uiteindelijk zal blijken te zijn. Het is vooral vreemd om de ongelooflijke voordelen te ontkennen die we kunnen behalen door het creëren van een echt slimme AI, uiteraard rekening houdend met alle mogelijke risico's. Al deze vragen zijn ongelooflijk moeilijk om de antwoorden te krijgen die je nodig hebt, aangezien AI, in tegenstelling tot andere uitvindingen van de mensheid, deze mensheid echt kan "verjongen" of volledig kan vernietigen.
Nu is het moeilijk te begrijpen wat te geloven en waarop te hopen. Dankzij pioniers op het gebied van informatica, neurowetenschappers en theoretici van AI-ontwikkeling begint een duidelijk beeld echter langzaam duidelijk te worden. Hieronder vindt u een lijst met de meest voorkomende misvattingen en mythen over kunstmatige intelligentie.
We zullen nooit AI creëren met humanoïde intelligentie
De werkelijkheid suggereert op haar beurt dat we al computers hebben die op sommige gebieden evenaren en zelfs de menselijke capaciteiten overtreffen. Schaak of ga hetzelfde spel, handel op aandelenbeurzen of de rol van een virtuele gesprekspartner. Computers en de algoritmen die ze besturen, worden in de loop van de tijd alleen maar beter en het is slechts een kwestie van tijd voordat ze gelijk worden aan de menselijke capaciteiten.
Promotie video:
Gary Marcus, onderzoeker aan de New York University, zei ooit dat "vrijwel iedereen" die met AI werkt, gelooft dat machines ons ooit zullen overtreffen:
"Het enige geschil tussen supporters en sceptici is de timing van dit evenement."
Futuristen zoals Ray Kurzweil geloven dat dit in de komende decennia kan gebeuren, terwijl anderen zeggen dat het enkele eeuwen zal duren.
AI-sceptici zijn niet overtuigend in hun bewijs dat het creëren van kunstmatige intelligentie als iets unieks en in technologisch opzicht sterk lijkt op een echt levend menselijk brein, ergens buiten de realiteit ligt. Ons brein is ook een machine. Biologische machine. Het bestaat in dezelfde wereld en gehoorzaamt aan dezelfde natuurkundige wetten als al het andere. En na verloop van tijd zullen we het hele principe van zijn werk volledig doorgronden.
AI zal bewustzijn hebben
Er is een algemene consensus dat machine-intelligentie bewust zal zijn. Dat wil zeggen, AI zal op dezelfde manier denken als een mens. Bovendien zijn sommige critici, bijvoorbeeld Microsoft mede-oprichter Paul Allen, van mening dat vanwege een onvolledige theoretische basis die de mechanismen en principes van zelfbewustzijn beschrijft, we nog niet eens algemene kunstmatige intelligentie hebben gecreëerd, dat wil zeggen intelligentie die in staat is om intellectuele taken uit te voeren waarmee een persoon kan omgaan. Volgens Murray Shanahan, assistent-professor bij de afdeling Cognitive Robotics van Imperial College London, moeten we de twee echter niet gelijk stellen.
"Zelfbewustzijn is beslist een heel interessant en belangrijk onderwerp van onderzoek, maar ik geloof niet dat zelfbewustzijn een verplicht kenmerk van mensachtige kunstmatige intelligentie zou moeten zijn", zegt Shanahan.
"Over het algemeen gebruiken we de term 'zelfbewustzijn' alleen om verschillende psychologische en cognitieve eigenschappen aan te duiden die gewoonlijk bij een persoon met elkaar verband houden."
Het is mogelijk om je een heel slimme auto voor te stellen die een of meer van deze eigenschappen mist. Op een dag zullen we in staat zijn om een werkelijk ongelooflijk intelligente AI te bouwen, maar tegelijkertijd verstoken van het vermogen tot zelfbewustzijn, evenals subjectief en bewust begrip van de wereld om ons heen. Shanahan merkt op dat de eenwording van intelligentie en zelfbewustzijn in de machine nog steeds mogelijk zal zijn, maar we moeten niet uit het oog verliezen dat dit twee totaal verschillende concepten van elkaar zijn.
En hoewel een van de varianten van de "Turing Test", waarin een machine aantoonde dat hij niet anders is dan een persoon, met succes is doorstaan, betekent dit niet dat deze machine bewustzijn heeft. Vanuit ons (menselijke) oogpunt lijkt geavanceerde kunstmatige intelligentie ons misschien iets dat zelfbewustzijn bezit, maar de machine zelf zal zich niet meer van zichzelf bewust zijn dan dezelfde steen of rekenmachine.
We moeten niet bang zijn voor AI
In januari van dit jaar deelde Facebook-oprichter Mark Zuckerberg zijn mening over hoe we niet bang moeten zijn voor AI, eraan toevoegend dat deze technologie wereldwijd enorme voordelen kan opleveren. De waarheid is dat hij slechts gedeeltelijk gelijk heeft. We zullen inderdaad geweldige voordelen kunnen oogsten met AI die we tot onze beschikking hebben (van zelfrijdende auto's tot nieuwe ontdekkingen in de geneeskunde), maar niemand kan garanderen dat elke toepassing van AI nuttig zal zijn.
Een zeer intelligent systeem zal misschien alles weten wat nodig is voor bepaalde taken (bijvoorbeeld het oplossen van een complexe wereldwijde financiële situatie of het hacken van de computersystemen van de vijand), maar buiten zeer gespecialiseerde taken is het potentieel van AI nog volkomen onduidelijk en daarom potentieel gevaarlijk. Het systeem van DeepMind is bijvoorbeeld gespecialiseerd in het spel van go, maar het heeft geen mogelijkheid (en reden) om gebieden buiten dit rijk te verkennen.
Flame computervirus, wiens taak het was om de landen in het Midden-Oosten op te sporen
Veel van deze systemen kunnen ernstige veiligheidsrisico's opleveren. Een goed voorbeeld is het krachtige en zeer sluwe Stuxnet-virus, een gemilitariseerde worm die door het Amerikaanse en Israëlische leger is gemaakt om Iraanse kerncentrales te infiltreren en aan te vallen. Alleen dit kwaadaardige programma heeft op de een of andere manier (per ongeluk of opzettelijk) een van de Russische kerncentrales geïnfecteerd.
Een ander voorbeeld is het Flame-virus, ontwikkeld voor gerichte cyberspionage in het Midden-Oosten. Het is gemakkelijk voor te stellen hoe de "toekomstige versies" van de Stuxnet- en Flame-virussen onafhankelijk de hun toegewezen taken zullen overstijgen en in staat zullen zijn om bijna de hele infrastructuur van een land te infecteren. En ze zullen het heel stil en onmerkbaar doen.
Kunstmatige superintelligentie zal te slim zijn om fouten te maken
Richard Luzmore, wiskundige, kunstmatige intelligentie-onderzoeker en oprichter van het roboticabedrijf Surfing Samurai Robots, gelooft dat de meeste AI-doemscenario's onwaarschijnlijk lijken, omdat ze allemaal in grote lijnen zijn gebaseerd op wat AI ooit zal zeggen: "Ik begrijp die vernietiging people is een fout in mijn programmacode, maar ik moet de taak nog volgen."
Luzmore gelooft dat als AI zich volgens dit scenario gedraagt, het te maken zal krijgen met logische tegenstrijdigheden die de gehele opgebouwde kennisbasis in twijfel zullen trekken en uiteindelijk zullen leiden tot zijn eigen besef van zijn domheid en nutteloosheid.
De onderzoeker is ook van mening dat de mensen die zeggen dat "AI alleen doet wat in het programma is opgenomen" zich vergissen, net als die mensen die ooit dezelfde woorden zeiden, maar dan tegenover computers., waarin wordt verklaard dat computersystemen nooit universaliteit zullen hebben.
Peter McIntyre en Stuart Armstrong, beiden verbonden aan het Institute for the Future of Humanity aan de Universiteit van Oxford, zijn het op hun beurt niet eens met deze mening, met het argument dat het gedrag van AI verplicht zal zijn en grotendeels wordt gerechtvaardigd door de programmacode. Wetenschappers geloven niet dat AI nooit fouten zal maken of, integendeel, te dom zal zijn om precies te begrijpen wat we van hen willen.
"Kunstmatige superintelligentie (ISI) is per definitie een agent wiens intelligentie de beste geesten van de mensheid op bijna alle gebieden vele malen zal overtreffen", zegt McIntyre.
"Hij zal zeker begrijpen wat we van hem willen."
McIntyre en Armstrong geloven dat AI alleen die taken zal uitvoeren waarvoor het is geprogrammeerd, maar als het zich op de een of andere manier vanzelf ontwikkelt, zal het hoogstwaarschijnlijk proberen erachter te komen hoeveel zijn acties zullen verschillen van menselijke taken en er inherent aan zijn. wetten.
McIntyre vergelijkt de toekomstige situatie van mensen met die van muizen. Muizen hebben een krachtig instinct om voedsel en onderdak te vinden, maar hun doelen komen vaak in conflict met iemand die ze niet in zijn huis wil zien.
"Net als onze kennis van muizen en hun verlangens, kan het superintelligentiesysteem ook alles over ons weten en weten wat we willen, maar tegelijkertijd zal het volkomen onverschillig staan tegenover onze verlangens."
Eenvoudige oplossing elimineert AI-besturingsproblemen
Zoals te zien is in de film "From the Machine", zal het erg moeilijk zijn om de AI te besturen, die veel slimmer zal zijn dan wij
Als we aannemen dat we op een dag superintelligentie zullen creëren die slimmer zal zijn dan mensen, dan zullen we het hoofd moeten bieden aan een serieus probleem, het probleem van controle. Futuristen en theoretici op het gebied van kunstmatige intelligentie hebben nog niet kunnen uitleggen hoe we ISI kunnen beheren en beheersen nadat het is opgericht. Het is ook onduidelijk hoe we ervoor kunnen zorgen dat hij vriendelijk zal zijn tegen mensen. Meer recentelijk suggereerden onderzoekers van het Georgia Institute of Technology (VS) naïef dat AI menselijke waarden en kennis van sociale normen kan leren en absorberen door simpelweg eenvoudige sprookjes te lezen. Ja, ja, eenvoudige kinderverhalen en verhalen die ouders ons in de kindertijd voorlezen. Maar in werkelijkheid zal alles veel gecompliceerder blijken te zijn dan dit alles.
"Er zijn veel zogenaamde 'oplossingen' voorgesteld voor de kwestie van de controle van kunstmatige intelligentie", zegt Stuart Armstrong.
Een voorbeeld van dergelijke oplossingen kan het programmeren van de ISI zo zijn dat het constant probeert een persoon te behagen of te behagen. Een alternatief zou zijn om concepten zoals liefde of respect in de broncode te integreren. En om een dergelijke ontwikkeling van het scenario te voorkomen, volgens welke AI al deze concepten kan vereenvoudigen en deze wereld kan waarnemen door het prisma van deze supersimplified concepten, door het alleen in zwart en wit te verdelen, kan het worden geprogrammeerd om intellectuele, culturele en sociale diversiteit te begrijpen en te accepteren.
De drie wetten van robotica die door Isaac Asimov zijn gemaakt, passen perfect in het concept van fictie, maar in werkelijkheid hebben we iets uitgebreider nodig om de kwestie van controle aan te pakken.
Helaas zijn deze oplossingen te eenvoudig en zien ze eruit als een poging om alle complexiteit van menselijke voorkeuren en antipathieën binnen het kader van één algemene definitie of concept te passen, of een poging om de hele complexiteit van menselijke waarden in één woord, zin of idee te passen. Probeer bijvoorbeeld binnen dit kader een consistente en adequate definitie te geven voor zoiets als "respect".
“Je moet natuurlijk niet denken dat zulke simpele opties totaal nutteloos zijn. Velen van hen bieden een goede reden om na te denken en stimuleren misschien de zoektocht naar een oplossing voor het ultieme probleem”, zegt Armstrong.
"Maar we kunnen er niet alleen op vertrouwen zonder complexer werk, zonder helder onderzoek en het zoeken naar de gevolgen van het gebruik van bepaalde oplossingen."
We zullen worden vernietigd door kunstmatige superintelligentie
Niemand kan garanderen dat AI ons ooit zal vernietigen, net zoals niemand met zekerheid kan zeggen dat we geen manieren zullen vinden om AI voor onze eigen doeleinden te controleren en te gebruiken. Zoals de Amerikaanse expert op het gebied van kunstmatige intelligentie Eliezer Yudkowski ooit zei: "AI kan je niet liefhebben of haten, maar je bent gemaakt van atomen die het voor iets anders zou kunnen gebruiken."
De Oxford-filosoof Nick Bostrom schrijft in zijn boek "Superintelligence: Ways, Dangers and Strategies" dat echte superintelligentie zich ooit zal kunnen realiseren, wat het gevaarlijker zal maken dan welke uitvinding dan ook die ooit door de mens is gemaakt. Vooraanstaande moderne denkers zoals Elon Musk, Bill Gates en Stephen Hawking (van wie velen geloven dat "AI de ergste fout in de geschiedenis van de mensheid zou kunnen zijn") zijn het waarschijnlijker met deze mening eens en slaan nu al alarm.
Peter McIntyer gelooft dat mensen voor de meeste taken die superintelligentie zichzelf kan opleggen, eruit zullen zien als een extra schakel.
"AI zal op een dag kunnen concluderen - en er moet worden opgemerkt dat het dit behoorlijk correct zal berekenen - dat mensen het niet willen gebruiken om de winstgevendheid van een bepaald bedrijf koste wat het kost te maximaliseren, ongeacht de gevolgen voor consumenten, het milieu en levende wezens. Daarom zal hij een enorme stimulans hebben om een plan en strategie te ontwikkelen, waardoor een persoon niet in staat zal zijn om de oplossing van de taak te verstoren door deze te veranderen of zelfs de AI uit te schakelen."
Volgens McIntyer, als de taken van de AI precies het tegenovergestelde zijn van die van ons, zal dit uitstekende redenen zijn om ons niet te laten stoppen. En als we bedenken dat het niveau van zijn intelligentie veel hoger zal zijn dan die van ons, zal het echt heel, heel moeilijk zijn om hem te stoppen, als het enigszins mogelijk is.
Het is echter onmogelijk om nu iets met zekerheid te zeggen, en niemand zal kunnen zeggen met welke vorm van AI we te maken zullen krijgen en hoe deze de mensheid kan bedreigen. Zoals Elon Musk ooit zei, zou AI eigenlijk kunnen worden gebruikt om andere AI's te besturen, volgen en besturen. En misschien zullen er menselijke waarden en een aanvankelijke vriendelijkheid voor mensen in worden geïntroduceerd.
Kunstmatige superintelligentie zal vriendelijk zijn
De filosoof Immanuel Kant geloofde dat intelligentie sterk verweven is met de principes van moraliteit. In zijn werk Singularity: A Philosophical Analysis nam neurowetenschapper David Chalmers Kants beroemde idee als basis en probeerde het toe te passen om de vorming van kunstmatige superintelligentie te analyseren.
“Als de principes die in dit document worden beschreven correct zijn, dan mag men, naast de scherpe ontwikkeling van AI, een scherpe ontwikkeling van morele principes verwachten. Verdere ontwikkeling zal leiden tot de opkomst van ISI-systemen, die supermoraal en superintelligentie zullen hebben. Daarom mogen we alleen welwillende eigenschappen van hun kant verwachten."
De waarheid is dat het idee van een geavanceerde AI met morele principes en uitzonderlijke deugdzaamheid geen steek houdt. Zoals Armstrong opmerkt, is de wereld vol slimme oorlogsmisdadigers. Intellect en moraliteit in een persoon zijn bijvoorbeeld op geen enkele manier met elkaar verbonden, daarom vraagt de wetenschapper zich af of een dergelijke relatie zal bestaan in andere vormen van intelligentie.
“Slimme mensen die zich immoreel gedragen, hebben de neiging om veel meer problemen en pijn te veroorzaken dan hun minder intelligente tegenhangers. Intelligentie geeft hen de mogelijkheid om geavanceerder te zijn in hun slechte in plaats van goede daden”, zegt Armstrong.
McIntyre legt uit dat het vermogen van een agent om een bepaalde taak uit te voeren niets te maken heeft met wat die taak is.
“We zullen veel geluk hebben als onze AI's moreler worden, niet alleen slim. Op geluk vertrouwen is natuurlijk het laatste bij een dergelijke kwestie, maar misschien zal het geluk onze positie in de toekomst bepalen”, aldus de onderzoeker.
De risico's verbonden aan AI en robotica zijn hetzelfde
Dit is een bijzonder veel voorkomende misvatting die in de media wordt gebruikt, maar ook in Hollywood-blockbusters zoals The Terminator.
Als kunstmatige superintelligentie zoals Skynet bijvoorbeeld echt de hele mensheid wil vernietigen, dan is het onwaarschijnlijk dat hij paramilitaire androïden met machinegeweren in elke hand zal gebruiken. Zijn sluwe en efficiënte manier van denken zal hem in staat stellen te begrijpen dat het veel handiger zou zijn om bijvoorbeeld een nieuw type biologische plaag of bijvoorbeeld een nanotechnologische ramp te gebruiken. Of misschien zal hij gewoon de atmosfeer van onze planeet veroveren en vernietigen. AI is potentieel gevaarlijk, niet alleen omdat de ontwikkeling ervan nauw verband houdt met de ontwikkeling van robotica. De reden voor zijn potentiële gevaar ligt in de methoden en middelen waarmee hij zijn aanwezigheid aan de wereld bekend kan maken.
AI in sciencefiction weerspiegelt onze toekomst
Zonder twijfel hebben schrijvers en sciencefictionschrijvers jarenlang de sciencefictionomgeving gebruikt als een springplank voor gissingen over onze werkelijke toekomst, maar de daadwerkelijke oprichting van ISI en de werkelijke gevolgen hiervan liggen nog buiten de horizon van onze echte kennis. Bovendien laat zo'n kunstmatige en duidelijk onmenselijke aard van AI ons niet eens toe om met enige nauwkeurigheid aan te nemen wat deze AI werkelijk zal zijn.
In de meeste sci-fi-werken staat AI zo dicht mogelijk bij de mens.
“Voor ons ligt eigenlijk een heel spectrum van de meest uiteenlopende soorten geest. Zelfs als we alleen de menselijke vorm aannemen. Uw geest is bijvoorbeeld verre van identiek aan die van uw buurman. Maar deze vergelijking is slechts een druppel in de zee van alle mogelijke diversiteit aan geesten die er kunnen bestaan ”, zegt McIntyre.
De meeste sciencefiction-ficties zijn natuurlijk primair gemaakt om een verhaal te vertellen, niet om zo wetenschappelijk overtuigend mogelijk te zijn. Als het allemaal andersom was (wetenschap is belangrijker dan de plot), dan zou het volgen van dergelijke werken oninteressant zijn.
“Stel je voor hoe saai al deze verhalen zouden zijn, waar AI, zonder zelfbewustzijn, het vermogen om te verheugen, lief te hebben of te haten, alle mensen praktisch zonder enige weerstand vernietigt om het doel te bereiken, wat overigens ook niet erg interessant kan zijn. voor de lezer of kijker”, zegt Armstrong.
AI zal onze banen overnemen
Het vermogen van AI om de processen die we handmatig uitvoeren te automatiseren, en het potentieel om de hele mensheid te vernietigen, zijn niet hetzelfde. Volgens Martin Ford, auteur van Rise of the Robots: Technology and the Threat of a Jobless Future, worden deze concepten echter vaak vergeleken en gecombineerd tot een samenhangend geheel. Het is natuurlijk geweldig dat we proberen te anticiperen op de gevolgen van het creëren van AI tot nu toe, maar alleen als deze inspanning ons niet afleidt van de problemen die we over een paar decennia kunnen tegenkomen als we niets doen. En een van de belangrijkste problemen is massa-automatisering.
Weinigen zullen beweren dat een van de uitdagingen van kunstmatige intelligentie zal zijn om een manier te vinden om veel banen te automatiseren, van fabrieksopdrachten tot enkele administratieve banen. Sommige experts voorspellen dat de helft van alle banen, althans in de VS, in de nabije toekomst mogelijk zal worden geautomatiseerd.
Maar dit betekent helemaal niet dat we dergelijke wijzigingen niet kunnen accepteren. Het is belangrijk om te begrijpen dat het verlangen om zichzelf te bevrijden van onnodige fysieke en psychologische stress op het werk eigenlijk al heel lang een droom van onze menselijke soort is.
“Over een paar decennia zal AI inderdaad mensen in veel banen vervangen. En dat is eigenlijk best goed. Zelfrijdende auto's zullen bijvoorbeeld vrachtwagenchauffeurs vervangen, wat op zijn beurt niet alleen de kosten van het verzenden van goederen verlaagt, maar ook de kosten van de goederen zelf. Als je als vrachtwagenchauffeur werkt, blijf je natuurlijk de laatste, maar in dit geval is de kans groter dat alle anderen een salarisverhoging ontvangen. En hoe meer dit geld kan worden bespaard, hoe meer dit geld kan worden besteed aan andere goederen en diensten waarmee mensen op hun werk zullen worden betrokken."
Hoogstwaarschijnlijk zal kunstmatige intelligentie zoeken naar nieuwe manieren van welzijn en mensen voeden terwijl ze andere dingen doen. Vooruitgang in de ontwikkeling van AI gaat gepaard met successen op andere gebieden. Zeker in de maakindustrie. In de toekomst zal dit alles de bevrediging van onze basisbehoeften waarschijnlijk aanzienlijk vereenvoudigen in plaats van compliceren.
