Bezorgd over de ontwikkeling van kunstmatige intelligentie die door hem is gemaakt, ontwikkelt Google een "knop" die AI kan uitschakelen in geval van gevaar en bedreiging voor een persoon. Dit nieuws, dat in juni 2016 door verslaggevers werd verspreid, zorgde voor meer bezorgdheid over de toekomstige relaties tussen robots en mensen.
In 2016 meldden gezaghebbende westerse publicaties dat Google een 'grote rode knop' aan het ontwikkelen was om AI te stoppen in het geval dat kunstmatige intelligentie de mensheid bedreigt. Volgens journalisten werken specialisten van de Google-divisie - Deep Mind - hiervoor samen met wetenschappers van Oxford University. £ 400 miljoen is toegewezen voor onderzoek. "Als de agent (AI) in realtime onder menselijke controle werkt, heeft de operator een grote rode knop nodig die kan worden ingedrukt om ongewenste acties van de agent te voorkomen", leggen de online publicaties uit.
Eerder werd er inderdaad een document met de titel "Safely Interruptible Agents" op het web geplaatst. De auteurs zijn Lauren Orso van Deep Mind en Stuart Armstrong van Oxford University. Het document beschrijft een mogelijke toekomstige buurt van mensen met kunstmatige intelligentie, die zich verzetten tegen de verlangens en aspiraties van de mensheid, zoals het fantastische Skynet en de Terminator. Dit lijkt niet gek, aangezien nog niet zo lang geleden het oudste en grootste Amerikaanse advocatenkantoor Baker & Hostetler een robotadvocaat "inhuurt" om te helpen bij de procedure. Kunstmatige intelligentie wordt mogelijk gemaakt door de supercomputer IBM Watson. Wat Deep Mind betreft, was de echte nieuwsheld eerder de kunstmatige intelligentie ontwikkeld door het bedrijf Alpha Go, dat een van de sterkste go-spelers versloeg, grootmeester Lee Sedol. Deze overwinning was de aanleiding voor een forse impuls van Zuid-Korea om zijn eigen kunstmatige intelligentie te ontwikkelen en hiervoor aanzienlijke middelen uit het budget vrij te maken. Hieraan moet worden toegevoegd dat het hoofd van Deep Mind, Demis Hassabis, mensen aanspoorde voorzichtig te zijn met de informatie die aan het publiek werd vrijgegeven. In zijn Twitter-account merkte hij op dat het bedrijf, ondanks geruchten die over het internet zwerven, de toekomst van de kunstmatige intelligentie van Alpha Go nog niet voorspelt. "Als we besluiten, zullen we een officiële verklaring afleggen", legt het hoofd van het bedrijf uit.het bedrijf voorspelt de toekomst van kunstmatige intelligentie Alpha Go nog niet. "Als we besluiten, zullen we een officiële verklaring afleggen", legt het hoofd van het bedrijf uit.het bedrijf voorspelt de toekomst van kunstmatige intelligentie Alpha Go nog niet. "Als we besluiten, zullen we een officiële verklaring afleggen", legt het hoofd van het bedrijf uit.
Europees kampioen Fan Hui speelt go / wikipedia.
Elon Musk: "We zijn al cyborgs"
De bezorgdheid over aankomende complicaties in de relatie tussen robots en mensen neemt toe. Bovendien zijn het de belangrijkste aanhangers van wetenschappelijke en technologische vooruitgang die over deze angst spreken. Bijvoorbeeld Elon Musk, die in augustus 2014 aankondigde dat kunstmatige-intelligentietechnologie "gevaarlijker is dan kernwapens". En een paar maanden later, toen hij met studenten van het Massachusetts Institute of Technology sprak, noemde de maker van Tesla en SpaceX AI 'de grootste bedreiging voor ons bestaan'. Tegelijkertijd, tegen het einde van 2015, was Musk zelf medeoprichter van het non-profit onderzoeksbedrijf OpenAI, waarbij hij zijn doel verklaarde door de noodzaak om het proces van het creëren van kunstmatige intelligentie te openen. "Als je een 'knop' hebt die slechte dingen in de wereld kan doen, wil je die niet delen," legde Musk uit.
Eind mei 2016 sprak Elon Musk tijdens de jaarlijkse Recode-conferentie over een bepaald project, of misschien over het idee van "neuraal kant", dat het risico zou moeten verkleinen dat de mensheid een favoriet speeltje wordt in de ijzeren handen van robots. “Je hebt bijvoorbeeld het limbisch systeem, de hersenschors, en dit is het derde systeem, de digitale laag die goed samenwerkt met je lichaam. Omdat de hersenen in symbiose werken met het limbisch systeem, zal deze digitale laag in harmonie werken met de rest van het lichaam,”zei Musk. Dit neurale systeem moet het niveau van ontvangst en overdracht van informatie door een persoon verhogen, het vermogen om het te verwerken. "We zijn al cyborgs", zei Musk, terwijl hij uitlegde dat het internet, mobiele telefoons en andere gadgets in feite superkrachten hebben ontwikkeld bij mensen. “Maar we zijn beperkt in het ontvangen en verzenden van informatie. Vooral in het programma ",Voegde Musk eraan toe. Mensen kunnen vrij veel informatie ontvangen en interpreteren, maar het genereren van deze informatie is veel moeilijker. Een persoon kan alleen snel spreken, snel schrijven of typen. "Neuraal kant", door een persoon aan te sluiten op een digitaal communicatiesysteem, zou deze biologische beperking kunnen overwinnen. Musk legde niet uit of dit "kant" in het lichaam zou worden geïmplanteerd of op natuurlijke wijze zou worden gekweekt, zoals door genbewerking, maar merkte op dat het "door aderen en slagaders" zou kunnen gaan die banen voor neuronen verschaffen.zou deze biologische beperking kunnen overwinnen. Musk ging niet in op de vraag of dit "kant" in het lichaam zou worden geïmplanteerd of op natuurlijke wijze zou worden gekweekt, zoals door genbewerking, maar merkte op dat het "door aderen en slagaders" zou kunnen gaan die banen voor neuronen verschaffen.zou deze biologische beperking kunnen overwinnen. Musk ging niet in op de vraag of dit "kant" in het lichaam zou worden geïmplanteerd of op natuurlijke wijze zou worden gekweekt, zoals door genbewerking, maar merkte op dat het "door aderen en slagaders" zou kunnen gaan die banen voor neuronen verschaffen.
Promotie video:
Er is echter ook een tegenovergesteld standpunt. Alphabet (Google), voorzitter van de raad van bestuur Eric Schmidt, was in een interview met Tech Insider sceptisch over de toespraken van zowel Elon Musk als zijn collega Stephen Hawking, die eerder ook waarschuwde voor de mogelijke hegemonie van AI. “Stven Hawking is zeker een genie, maar hij is geen computerexpert. Elon is ook een geweldig persoon, maar hij is ook meer een natuurkundige dan een computerwetenschapper,”zei Schmidt. Over een mogelijk scenario van de toekomst, waarin robots de mensheid vernietigen, stelde hij het volgende: “Zo'n scenario beschrijft eenvoudig het scenario waarin computers zo slim worden dat ze op een gegeven moment, bijvoorbeeld door een bug in het programma, besluiten de mensheid te vernietigen. Mijn vraag aan jou is deze: denk je niet nadat mensen dit zullen opmerken en computers gaan afsluiten? We zullen een race hebben tussen mensen die computers uitzetten en AI die verwoed probeert te verhuizen naar een apparaat dat nog niet is uitgeschakeld. En zo verder tot de laatste computer. En we kunnen het niet uitschakelen. Het is een film, een film. De huidige stand van zaken in de wereld ondersteunt een dergelijk scenario niet."
Grootschalige robotisering
Neil Jacobstein, medevoorzitter van NASA's Singularity University, vertelde PCmag dat internationale bedrijven tussen 2011 en 2015 meer dan $ 3 miljard hebben geïnvesteerd in AI-onderzoek. Naast grote investeerders, waaronder Facebook en Google, zijn er ook een aantal minder bekende startups. Zo houdt Brighterion zich bezig met het gebruik van kunstmatige intelligentie bij cloudanalyse en industriële IoT, leidt Feedzai robots op om fraude bij banktransacties op te sporen, gebruikt Experfy AI om zakelijke problemen van handelaars effectief op te lossen, enzovoort. Dat wil zeggen, de omvang van de ontwikkeling van kunstmatige intelligentie in de wereld is nu niet beperkt tot een dozijn grote spelers op de IT-markt - het is veel groter. In zijn interview zette Jacobstein in wezen de gedachte van Musk voort:ook aandringen op de noodzaak om het menselijk brein te ontwikkelen om het synthetische tegen te gaan. “We hebben allemaal dezelfde problemen. De hersenen zijn beperkt in snelheid, geheugen, bandbreedte en vooroordelen,”zei Neil Yakobstein.
Volgens de wetenschapper gaat de trend in de ontwikkeling van AI nu richting het creëren van een kunstmatige neocortex (een nieuwe cortex, die het grootste deel van de cortex bij mensen vormt, in tegenstelling tot lagere zoogdieren) en de hippocampus. Het brein van de robot zal dus als een mens zijn, maar dan vele malen krachtiger en sneller. “AI wordt steeds krachtiger en we moeten beslissen hoe we ons zullen gedragen in het kader van de voortdurende co-evolutie. Zowel in termen van de taken die we stellen aan kunstmatige intelligentie, als in termen van hoe we onze relaties willen opbouwen zonder het menselijk gevoel van eigenwaarde te verliezen,”legt Yakobstein uit. Volgens de wetenschapper zal de interactie van mens en robot aanvankelijk een "eliteproces" zijn, maar daarna zal het het dagelijkse leven binnendringen, zoals mobiele telefoons dat ooit deden. "Via een smartphone krijgen je hersenen toegang tot alle kennis van de wereld en krachtige kunstmatige intelligentie,het verwerken van digitale informatie. Je hebt al een symbiose met AI,”concludeerde Jacobstein.
Vlees van vlees
Het kan echter blijken dat de bedreiging voor de mensheid niet afkomstig zal zijn van een reeks klieren en draden, maar van organisch "vlees van vlees". Eind mei 2016 was de wetenschappelijke wereldgemeenschap geïntrigeerd door de vroegere "geheime bijeenkomst op Harvard", waarvan de deelnemers een kunstmatig menselijk genoom willen creëren en bijgevolg de mens zelf vanaf nul. De details van de bijeenkomst op de pagina's van WordsSideKick.com werden verteld door afgestudeerde van Harvard University, moleculair bioloog gespecialiseerd in genbewerking, Jeff Bessen. Het bleek dat we het niet hebben over een of ander geesteskind van Frankenstein. Meer dan 130 wetenschappers, industriëlen en ethici kwamen bijeen op Harvard om het Human Genome Project (HGP) te bespreken. De naam is in feite een verwijzing naar een soortgelijk project,waardoor het in 2003 mogelijk was om het menselijk genoom volledig te sequencen. Dat project begon in 1990 onder leiding van James Watson onder auspiciën van de Amerikaanse National Health Organization, en het doel was om de sequentie van nucleotiden te bepalen waaruit DNA bestaat en om 20 tot 25 duizend genen in het menselijk genoom te identificeren.
Het ontstaan van het genoom heeft zijn eigen geschiedenis. In 2010 ontcijferde de Amerikaanse bioloog John Craig Venter het eerste genoom van een micro-organisme - de bacterie Haemophilus influenzae - en kondigde hij de oprichting aan van een kunstmatige cel. Venter introduceerde 's werelds eerste kunstmatige organisme, een synthetische bacterie genaamd Cynthia. Sindsdien hebben wetenschappers systematisch geprobeerd verder te komen in het onderzoek, waaronder de organisator van de Harvard-bijeenkomst - de Amerikaanse geneticus Jeff Bouquet, die als eerste een functioneel eukaryotisch chromosoom in gist creëerde.
Aan dergelijk werk zijn echter kosten verbonden. De oprichting van een synthetische bacterie voor dezelfde Venter kostte meer dan $ 40 miljoen en kostte jaren werk. Deskundigen zijn van mening dat de productie van één menselijk genoom onder de huidige omstandigheden ongeveer $ 90 miljoen zal kosten. Als het bedrijf echter "in bedrijf wordt genomen" en de bewezen technologieën worden toegepast, kan dit bedrag tegen 2036 worden teruggebracht tot $ 100 duizend. Bovendien is er een industrieel probleem: de capaciteit van alle laboratoria die in de wereld actief zijn, is volgens Jeff Bessen vandaag niet voldoende om één menselijk genoom te creëren.
Van leren tot creëren
Zoals Jeff Bessen opmerkte, riepen wetenschappers tijdens de bijeenkomst van Harvard op tot een verschuiving van het lezen van het genoom naar het creëren van het uit de bouwstenen van DNA. Zoals bedacht door de meesterbreinen van HGP, waaronder geneticus George Church, zijn Amerikaanse collega Jeff Bouquet en biotechnologie-advocaat bij Autodesk Nancy Kelly, is het mogelijk om "het menselijk genoom volledig in een cellijn te synthetiseren". Het proces van het maken van kunstmatig DNA is volgens Jeff Bessen vergelijkbaar met het proces van offsetdruk - het belangrijkste is om alles in de juiste volgorde te plaatsen. Het resultaat is chemisch identiek aan het natuurlijke macromolecuul. De wereldmarkt voor gesynthetiseerd DNA (we hebben het over de bestaande creatie van individuele DNA-elementen, niet een compleet genoom) wordt nu geschat op ongeveer een miljard dollar per jaar. Een kunstmatig macromolecuul heeft praktische toepassingen:dit is het cultiveren van menselijke organen voor transplantatie, het creëren van immuniteit tegen virussen, oncologische ziekten, het creëren van nieuwe medicijnen, enzovoort. De aanwezigen op Harvard spraken de hoop uit dat hun werk zal helpen "een veiligere, goedkopere en effectievere therapie te ontwikkelen".
De geheime aureool rond deze bijeenkomst kan gemakkelijk worden verklaard: het project is ethisch complex genoeg en het is niet bekend hoe de ideeën van de wetenschappers door het grote publiek zullen worden waargenomen. In het bijzonder hebben de organisatoren nu hun veto uitgesproken over eventuele opmerkingen over de vergadering vóór de officiële publicatie van de vergaderresultaten.
Er zijn echt veel vragen voor HGP. "Hoe goed zal het zijn om het Einstein-genoom te bestuderen en vervolgens te creëren?" - Verbijsterde bio-ingenieur van Stanford Drew Andy. Dr. Church en bio-ingenieur Andy werken trouwens al heel lang samen - samen hebben ze het bedrijf Gen9 opgericht, waarvan de specialisatie duidelijk is uit de naam. Sommige deskundigen zijn van mening dat de deelname van zakenmensen aan de bijeenkomst en de vermeende particuliere financiering van het project uiteindelijk zullen leiden tot "de privatisering van de technologie voor genetische modificatie". Er is ook gesuggereerd dat onderzoekers ondergrondse plannen uitbroeden om mensen te klonen met behulp van synthetisch DNA. Volgens Jeff Bessen kan de chemische productie van het menselijk genoom - de verzameling genetische instructies in elke cel - inderdaad een nieuwe betekenis geven aan de term 'reageerbuisbaby'. "Als zo'n technologie bestond,het genoom van elke persoon zou kunnen worden ontcijferd en vervolgens op verzoek van iemand kunnen worden gesynthetiseerd”, waarschuwt Bessen.
Klonen uit de toekomst
De angst is niet echt ongegrond. Chinese wetenschappers, die eind 2015 een "kloonfabriek" -project presenteerden, lieten later weten bereid te zijn mensen te klonen. De Chinese Boyalife Group zal 's werelds grootste kloonfaciliteit bouwen in samenwerking met de Zuid-Koreaanse Sooam Biotech Research Foundation en de Chinese Academy of Sciences in Tianjin, Noord-China. Volgens wetenschappers zal het productievolume van gekloonde koeien tegen 2020 één miljoen per jaar bedragen. In de toekomst wil de "kloonfabriek" zich ook bezighouden met de productie van racepaarden en politiehonden met gespecialiseerde vaardigheden (toegenomen reukvermogen en zoeken). Een ander interessegebied voor de onderneming is het klonen van primaten voor medische experimenten. Daarom werd de verklaring van het management van de toekomstige fabriek over haar bereidheid om van primaten op mensen over te gaan logisch.“De technologie is er al. Als het officieel is toegestaan, denk ik niet dat iemand er beter mee om zal gaan dan Boyalife,”vertelde Xu Xiaochong, uitvoerend directeur van de toekomstige fabriek, aan verslaggevers. Hij benadrukte dat het bedrijf geen experimenten heeft uitgevoerd op het gebied van het klonen van mensen.
En toch, ondanks de noodzaak om ethische kwesties aan te pakken, is het creëren van het menselijk genoom volgens Bessen nog steeds een droom. “Tegenwoordig is er geen effectieve manier om een kunstmatig genoom in een menselijke cel te transplanteren. Zelfs de meest indrukwekkende prestaties in dit opzicht, zoals het "gist" -project van Dr. Bouquet, zijn honderden keren kleiner in omvang dan de huidige uitdaging. Het genoom maken van de fruitvlieg of nematode is tien keer eenvoudiger en ethischer, het kan dezelfde vragen beantwoorden die ze willen krijgen door het menselijk genoom te synthetiseren”, meent de moleculair bioloog.
Het "Laatste Avondmaal" van Harvard, zei hij, legde een ander probleem in de moderne wetenschap bloot: het conservatisme. Journalisten leerden over het project op internet, op sociale netwerken. Officiële informatie heeft nog een lange weg te gaan. “Ooit wachtten mijn collega's en ik zes maanden op de publicatie van de vereiste wetenschappelijke publicatie”, voegt Bessen toe. Volgens de wetenschapper moeten zijn collega's nu kritisch een balans vinden tussen de controle over publicaties en het recht van journalisten om hun werk te doen, wat uiteindelijk invloed heeft op wetenschappelijke informatie.
Alexander Kornev