Robots evolueren snel - de tijd nadert dat ze de straten, kantoren, appartementen en zelfs ons lichaam zullen vullen. Zijn we klaar om zij aan zij te bestaan met machines die zich als mensen gedragen en al met ons zijn gaan concurreren voor banen? Er doen zich veel humanitaire problemen voor.
Wat kun je aan een robot toevertrouwen en wat kun je beter weigeren? Is hij in staat beslissingen te nemen, emoties te voelen, heeft hij een zekere vrije wil en is hij verantwoordelijk voor zijn daden? Hoe robots in de samenleving integreren? Deze vragen lijken naïef. Terwijl. Maar het kan blijken dat de antwoorden daarop het lot van onze beschaving zullen bepalen.
Toen de lichten uitgingen, begon de hete melodie te spelen die gewoonlijk bij fotomodellen op de catwalk hoort. En wij (het personeel van het tijdschrift Kat van Schrödinger) zagen twee enorme rode hartvormige ogen. De robot benaderde het publiek met waardigheid en gratie. De ogen veranderden in twee blauwe cirkels, die goede bedoelingen en kinderlijke naïviteit uitstraalden, handen uitgestrekt naar mensen. Het licht ging weer aan.
- Alantim! - het hoofd van het Promobot-project en het hoofd van de robotica-afdeling van het Moscow Institute of Technology (MTI) Alexey Yuzhakov presenteerden het aan het publiek. - In 2012 noemden we hem Promobot, waarna de aanstootgevende bijnaam Monument aan hem bleef hangen, daarna had hij de sonore naam Bogdan, maar nu is hij Alantim - ter ere van de makers van de nieuwe wereld Alan Turing en Tim Berners-Lee.
Foto: Skoltech / kot.sh
Alantim draaide nog steeds heen en weer en ging met journalisten praten, hen overladen met grappen en verhalen over hoe robots de macht op aarde zullen grijpen en het Promobotia zullen noemen. Een rij meisjes kwam meteen naast hem staan, die graag met zo'n schattig wezen op de foto wilden. Alantim ontmoette de meisjes, beantwoordde vragen over de zin van het leven en de wisselkoers van de dollar, en herinnerde zich iedereen.
Zo ging de eerste werkdag van het nieuwe plaatsvervangend hoofd van de afdeling Robotica van het Moscow Institute of Technology, de robot Alantim, voorbij.
Promotie video:
Een auto met karakter
Alantim is geen uniek wezen. Het team van Perm, dat promobots heeft gemaakt, heeft al 60 van dergelijke apparaten verkocht en tekende dit jaar contracten voor nog eens 124, waarmee praktisch het jaarlijkse volledig Russische plan voor de levering van servicerobotica werd vervuld - in 2014 werden slechts ongeveer 200 huishoudelijke servicerobots verkocht.
Een promobot is een autonome robot met karakter, ontworpen om te werken op drukke plaatsen: promotor, gids, showman. Hij weet enkele van de emoties van de gesprekspartner te herkennen, kan de aan hem gerichte vraag begrijpen en het antwoord op internet vinden, en als hij de vraag niet begrijpt, probeert hij die weg te lachen.
Ondertussen gingen we naar het hoofd van Alantim - MIT Vice-Rector Evgeny Pluzhnik
[Kat van Schrödinger] Hoe kwam je op het idee om een robot in te huren voor de organisatie?
[Grigory Bubnov] We realiseerden ons net dat vroeg of laat het moment zal komen dat robots zullen beginnen met inhuren. En we besloten pioniers te worden.
[KSh] Het is dus niet voor niets dat ze zeggen dat robots onze banen claimen
[GB] Dit is eigenlijk geen grap, maar een zeer ernstige bedreiging, vooral in gebieden waar veel mensen werkzaam zijn. Ik denk dat bijvoorbeeld al in dit decennium auto's met autonome besturing op grote schaal zullen worden verkocht, en daarna zullen veel chauffeurs zonder werk komen te zitten. Overheden zullen deze uitdaging onvermijdelijk aangaan - ze moeten gaan nadenken over het creëren van nieuwe banen en omscholingsprogramma's.
[KSh] Hoe denkt u Alantim te gebruiken? Net als een opzichtig speeltje?
[GB] Niet alleen! Hij heeft bijvoorbeeld een onderzoekstaak: gegevens verzamelen over de communicatie van robots met mensen, individuele reacties op robots bestuderen. Deze informatie zal het uiterlijk en het gedrag van toekomstige wijzigingen van Alantim menselijker en comfortabeler maken voor communicatie.
Foto: Skoltech / kot.sh
[CS] Wat voor soort informatie verzamelt hij?
[GB] Allereerst gegevens over reacties op zijn gedrag - hij heeft een systeem om emoties te herkennen. Hoe reageren anderen bijvoorbeeld als hij zijn hand opsteekt? Wat als zijn manier van doen hen bang maakt? Onze gebaren zijn aangescherpt door evolutie - we aarzelen niet, laten we zeggen, krabben in het achterhoofd - en met een robot moeten we nog helemaal naar 'natuurlijk' gedrag gaan. Overigens herinnert hij zich mensen door ze te fotograferen.
Maar er kunnen problemen zijn: afbeeldingen van mensen worden als persoonlijke gegevens beschouwd en er is een wet die het gebruik ervan beperkt. Over het algemeen zullen hier veel vragen van juridische aard rijzen - is het bijvoorbeeld nodig om inkomstenbelasting te betalen over de elektriciteit die aan de robotmedewerker is gegeven om door te rekenen? Ik denk dat we binnenkort zullen zien hoe de wetgeving in verschillende landen zal gaan veranderen - samen met de houding van mensen ten opzichte van robots.
Rubber Pushkin en andere robots
De wereldwijde robotmarkt is al booming, de verkoop breekt records - eind vorig jaar tientallen miljarden dollars.
0,17% - Dit aandeel van de wereldmarkt voor industriële robots bevindt zich in Rusland (volgens gegevens voor 2013).
Foto: Skoltech / kot.sh
Van helden van Hollywood-kaskrakers, robots staan op het punt echte personages te worden - en we zullen met hen gaan leven. Kunnen we opschieten? Te beginnen met de horrorverhalen over Golem en Frankenstein, of het toneelstuk van Karel Čapek, waar het woord "robot" voor het eerst verschijnt, eindigden al deze verhalen in de regel met één ding: de opstand van door mensen gemaakte wezens tegen hun makers. Zullen we een realiteit kunnen creëren die onze fantasieën overtreft?
Adverteren op de Promobot-projectwebsite legt duidelijk uit waarom een robotmedewerker beter is dan een mens: heeft geen salaris en overall nodig, werkt zonder onderbrekingen, wordt niet ziek, protesteert niet, raakt niet in de war, zegt niet teveel, heeft geen training nodig … Er zijn zoveel voordelen, dat robots volgens verschillende schattingen de komende decennia 40 tot 80% van de banen kunnen aannemen, dat wil zeggen dat we worden bedreigd door een ongekende golf van massale werkloosheid.
Misschien wordt dit uiteindelijk een gouden eeuw, waarin, zoals Karl Marx droomde, mensen zich met vrije creativiteit bezighouden. Maar we moeten nog leven om het te zien - en liefst zonder sociale catastrofes. Het is onwaarschijnlijk dat het mogelijk zal zijn om het gebruik van robots aanzienlijk te beperken: nooit eerder konden wetgevingsverboden de voortgang een halt toeroepen. Wat is het punt? In plaats daarvan zullen mensen worden verboden om te rijden wanneer robotbestuurders alomtegenwoordig worden. De mens is te onvoorspelbaar. Zijn bijvoorbeeld menselijke piloten die in staat zijn een vliegtuig de grond of woonwijken in te sturen niet gevaarlijk?
Dat betekent dat we moeten leren leven met robots
Om te beginnen gingen we naar de plek waar veel robots zijn - naar de internationale conferentie Skolkovo Robotics. Een bonte groep robots en hun makers heeft zich verzameld in de Skolkovo Hypercube. Grote en kleine, vliegende en lopende drones, professionele brandweerlieden en elektronische wissers, mechanische armen en benen, romp en hoofden …
Hier is het rubberen hoofd van Poesjkin, gemonteerd op een statief, als op een paal, kijkend naar de voorbijgangers en nerveus een wenkbrauw optrekkend - er zijn te veel mensen, ogen rennen omhoog. Het gezicht van de dichter lijkt zo veel op het echte dat je ontzag voelt.
Foto: Skoltech / kot.sh
Vlakbij staat een robot die helemaal niet op een mens lijkt. In plaats van een lichaam is er een stok op wielen, in plaats van een kop, een scherm dat alle kanten op draait. Dit is een telepresence-robot Webot, gemaakt in Skolkovo om kinderen met een handicap te helpen. U kunt er via internet verbinding mee maken, ermee door het gebouw bewegen, zien en horen wat er in de buurt gebeurt en communiceren met anderen.
Dergelijke robots worden al op verschillende scholen gebruikt - kinderen maken thuis verbinding met hen en met hun hulp volgen ze lessen, maken ze opdrachten, beantwoorden ze vragen van leraren, rijden ze naar het bord, communiceren ze met leeftijdsgenoten.
De belangrijkste gebruikers van servicerobots in Rusland en de rest van de wereld zijn mensen met een handicap. Robotica geeft hen hoop op een terugkeer naar een vol leven - zoals het eerste Russische exoskelet ExoAtlet. Zijn piloot Yaroslav, onlangs gedwongen het leven van een verlamd persoon te leiden, loopt als een cyborg uit de toekomst tussen het publiek.
Een andere robotassistent werd aan ons voorgesteld door de Japanse professor Kazuhiko Terashima:
- De Japanse samenleving vergrijst snel, er is niet genoeg personeel in klinieken. En de door ons ontwikkelde robot Terapio bleek een uitstekende assistent van de dokter te zijn. Hij volgt de dokter, draagt instrumenten, maar vooral: hij onthoudt de gegevens, waardoor medische dossiers overbodig worden. Daarnaast maakt hij zelfstandig patiëntenrondes en slaat dan aan de bel.
Hij heeft een kinderlijke uitdrukking op zijn gezicht en een zachte stem, hij weet hoe hij moet lachen en huilen, zijn grote ogen knipperen de hele tijd - om patiënten een plezier te doen, om hen een reactie te bezorgen die lijkt op die van kinderen of kittens. Onze robot is een belangrijke stap in een robotziekenhuisproject dat continu patiënten monitort. U weet trouwens dat de operaties nu worden uitgevoerd met de hulp van robotchirurgen.
Foto: Skoltech / kot.sh
Je kunt een androïde herkennen door te lopen
Robotica en ontwerpers treden op in de vergaderzaal van de Hypercube. Mikhail Lebedev van Duke University vertelt hoe hij chips in de hersenen van apen implanteert waarmee ze robots met hun geest kunnen besturen. De sessie wordt geleid door Dmitry Teteryukov, professor aan het Skolkovo Institute of Science and Technology, hoofd van het ruimterobotslaboratorium, die al vele jaren in Japan werkt.
We hebben hem natuurlijk met vragen bestookt.
[De kat van Schrödinger] Statistisch gezien groeit het aantal robots snel, maar waar verbergen ze zich - anders dan die in de industrie worden gebruikt?
[Dmitry Teterukov] Naast industriële robots groeit een leger van servicerobots - iedereen heeft wel eens gehoord van robotstofzuigers of robot-quadrocopters die aankopen doen. Veel van deze machines worden gebruikt in de geneeskunde, en in het Amerikaanse leger zijn ze al lang in oorlog: zo houden robots op rupsbanden met een manipulator zich bezig met mijnopruiming. Over het algemeen waren ze erg handig in noodsituaties, ze werden gebruikt bij het ongeval op de Fukushima.
[KSh] Wat voor soort robots produceert u in Rusland?
[JT] Ik ga door met wat ik deed in Japan. Een van de projecten is het managen van een groep robots die, wanneer ze volgens een gemeenschappelijk plan handelen, als één koppel informatie uitwisselen en rekening houden met elkaars acties. We zullen dit natuurlijk allemaal hier op aarde testen, maar we zijn van plan dat ze in de ruimte zullen werken.
[KSh] Wetenschappers hebben robots altijd beschreven als zulke solitaire wezens …
[JT] Werk over velen verdelen is veel efficiënter dan alles aan één toewijzen. Laten we zeggen dat een zelfrijdende auto alle informatie over de weg zelf moet verwerken, maar als dergelijke apparaten overal zijn, is het voor hen veel handiger om te handelen op basis van het algemene beeld en programma.
[KSh] Wanneer robots mensachtig worden, zowel qua uiterlijk als geest, begint het een beetje eng te worden, nietwaar?
[JT] Er is een Japanse professor Hiroshi Ishiguro die androïden maakt die bijna niet van ons te onderscheiden zijn - ik heb onlangs een van zijn geminoïden aangezien voor een mens. Maar dit is alleen terwijl hij zit. Er is nog niet zo'n robot verschenen die kan lopen als een persoon - hij is gemakkelijk te herkennen aan zijn manier van lopen. Ishiguro maakte zowel die van hemzelf als die van zijn dochter.
Toegegeven, toen ze haar zag, schrok de dochter, huilde en rende weg. Dat wil zeggen, wanneer een robot erg op een persoon lijkt, vindt zijn afwijzing plaats. En wanneer deze drempel wordt overschreden, worden het onnatuurlijke uiterlijk en de bewegingen geëlimineerd, de robot begint als een echt persoon te worden gezien. Maar om het te halen, moet men niet alleen fysieke gelijkenis bereiken, maar ook intellectueel - het vermogen om een redelijk gesprek te voeren.
[KSh] Is het beroemde Turing-criterium, volgens welke een robot als redelijk moet worden beschouwd, dat we in een gesprek niet kunnen onderscheiden van een mens? Of moet het op de een of andere manier opnieuw worden geformuleerd?
[JT] Dit criterium wordt nu opgevat als een test voor programma's die chatten met mensen simuleren. Maar het punt zit hem niet alleen in het intellect - om een antropomorfe robot voor een mens te verwarren, moet hij emotioneel zijn, soepel bewegen, zich gedragen als een mens. Er zijn al programma's die op zeer overtuigende wijze sarcasme en ironie demonstreren. Ik denk dat er binnenkort aparte tests komen voor verschillende vaardigheden: de emotionele Turing-test zal de geschiktheid van emoties controleren, en bijvoorbeeld de motortest - het vermogen om te bewegen als een persoon.
Foto: Skoltech / kot.sh
[KS] Ben je niet grofweg bang voor een robotopstand?
[ДТ] Mensen schrijven immers programma's voor robots, wat betekent dat ze bepalen wat robots wel en niet kunnen, welke verlangens ze wel en niet willen. En waarom zouden robots tegen hun makers ingaan, om welke reden?
[KSh] Bijvoorbeeld vanwege ons misverstand dat ze ook rechten nodig hebben, of omdat ze uit elkaar worden gehaald en weggegooid worden na hun vervaldatum. En programma's voor robots zullen niet alleen door mensen worden geschreven - vroeg of laat worden machines zelflerend
[JT] Ze zullen worden getraind binnen het kader dat we hebben vastgesteld. Het lijkt mij dat de versie van de toekomst met de confrontatie tussen mens en robot leidt tot degradatie, wie er ook wint in zo'n confrontatie. Een evolutionair productief scenario is symbiose, geen oorlog van vernietiging, parasitisme of andere onderwerping. Bovendien zal deze symbiose ook in het menselijk lichaam plaatsvinden, zodat de meest interessante ethische kwesties naar mijn mening zullen rijzen in verband met cyborgisering.
Waar zal de grens tussen mens en machine gaan als we beginnen met het installeren van kunstmatige organen voor onszelf, chips in de hersenen installeren, ons geheugen en andere vaardigheden verbeteren met hun hulp? Het lijkt mij dat er een toekomst op ons wacht zonder gadgets en pc's - het zal voldoende zijn om een mentaal verzoek te doen of een commando te geven, omdat de hersenen met het netwerk zullen worden verbonden.
Maar misschien hebben cyborgs beperkende wetten nodig, vergelijkbaar met de wetten van Asimovs robotica - ik heb ze zelfs op de een of andere manier geformuleerd. Hun essentie is dat de machine in de cyborg geen macht over de persoon grijpt, zodat de beslissingsmacht bij de persoon blijft, en niet bij zijn hoofdprocessor.
[KSh] Heb je een droomrobot?
[DT] Dit is waarschijnlijk een door de operator bestuurde robot met een telepresence-effect, die volledige communicatie op afstand mogelijk maakt en alle sensaties aan de operator overbrengt, waardoor het effect van volledige aanwezigheid ontstaat.
[CS] Avatar?
[JT] Ja. Ik heb dit onderwerp behandeld voordat Avatar uitkwam, maar dergelijke films bepalen in zekere zin natuurlijk de toekomst - ons begrip van waar we naar streven en wat mogelijk is.
Foto: Skoltech / kot.sh
Morele machines
Ondertussen begon in de Hypercube een discussie over het onderwerp 'Moreel portret van een antropomorfe machine'. Hoogleraar psychologie Maxim Kiselev hield een inleidende toespraak over het morele karakter van robots.
"Roboethics behandelt alle humanitaire problemen die verband houden met robots", legde hij uit. - Bijvoorbeeld legaal: wie is verantwoordelijk als er ergens een auto zonder chauffeur reed - de robot zelf, de eigenaar van de auto of een programmeur? Of sociaal, waarvan de belangrijkste potentiële werkloosheid is. Zelf ben ik meer dan eens in robotfabrieken geweest - bijvoorbeeld in een fabriek in Swindon, waar onderdelen voor MINI Cooper-auto's worden gemaakt. Er werken ongeveer tweehonderd robots en hetzelfde aantal mensen, en daarvoor waren er vierduizend banen. Er zijn ook specifieke morele kwesties, zoals het zogenaamde assistent-robotdilemma. Hoe weet u wanneer machine-assistentie contraproductief wordt? Stel je een robot voor, zacht en donzig, die het kind volgt en speelgoed verzamelt. Maar voor de normale ontwikkeling van een kind is het noodzakelijk dat hij het zelf doet.
Vervuld van robofobie gingen we naar de maker van robo-ethiek, professor Gianmarco Verugio, voorzitter van het wetenschappelijk comité van de School of Robotics van het Italiaanse instituut voor elektronica, informatietechnologie en telecommunicatie - hij zat gewoon vlakbij.
[De kat van Schrödinger] Hoe kwam de robo-ethiek tot stand?
[Gianmarco Verugio] Ik was ooit een fan van Asimov, toen ik zestien was had ik al zijn boeken gelezen. Misschien is dat de reden waarom er vele jaren later zoiets als een openbaring over me heen kwam, waaruit robo-ethiek voortkwam. Ik realiseerde me dat de wetten van Asimovs robotica - "Een robot kan een mens geen kwaad doen" enzovoort - helemaal geen wetten zijn, maar gewoon goede wensen, die in de praktijk niet worden nageleefd. De echte wet is e = mc2. Net als andere natuurwetten kan het niet worden overtreden.
Overtreding van wettelijke wetten wordt gestraft. En de drie wetten van robotica zijn als de bijbelse geboden die zeggen: "Gij zult niet doden": iedereen lijkt voor te staan, maar houdt zich niet aan. Op dit moment worden in veel landen over de hele wereld robotwapensystemen ontwikkeld. Wapens zijn nodig om te doden, wat betekent dat deze robots zijn gemaakt om mensen te doden.
We moeten de wetten van de robotica wettelijk bindend maken. Het schrijven van dergelijke wetten is een moeilijke taak. Laten we zeggen dat een robot een persoon met opzet of misschien per ongeluk kan doden vanwege een storing of programmafouten, het zal vaak moeilijk zijn om onderscheid te maken tussen deze situaties. Maar het is de moeite waard om nu over deze problemen na te denken: als we de verkeerde kant op gaan, kunnen we de toekomst van de mensheid enorm bederven. Het is dom om de toekomst met gesloten ogen te creëren, maar tot nu toe ontwikkelen we blindelings robotica.
Oorlogsrobots zijn een van de grootste problemen bij robo-ethiek. We proberen er de aandacht van verschillende internationale organisaties op te vestigen. Dit is niet alleen mijn initiatief, er is een internationale beweging "Stop the killer robots!", Die campagne voert op internet en wordt ondersteund door de VN.
Een andere groep problemen houdt verband met het onderwerp biorobots en kunstmatige organen. In hoeverre kunnen we ons bijvoorbeeld mengen in het werk van het menselijk brein? Een vriend van mij experimenteert met ratten - plaatst elektronen in hun hersenen en controleert hun gedrag. Hij is een echte rattenpiloot! Maar als het menselijk brein vol zit met allerlei soorten neuro-implantaten die vermogens verbeteren of cybernetische organen beheersen, dan kan een soortgelijke onderschepping van controle bij mensen worden gedaan.
Foto: Skoltech / kot.sh
[KS] Maar we kunnen de voordelen van technologie niet opgeven alleen omdat nieuwe kansen altijd samengaan met nieuwe gevaren?
[DV] Hoe deze problemen oplossen, zodat technologieën ons geen gecontroleerde objecten van beheer maken, maar integendeel onze vrijheid vergroten? Ik heb geen antwoord op deze vraag, ik wil hem gewoon stellen, met begrip voor al zijn complexiteit en onvolledigheid van onze visie op de situatie.
Veel onverwachte vragen rijzen vóór robo-ethiek. Stel je bijvoorbeeld deze situatie voor: een robotverpleegkundige zorgt voor een eenzame bejaarde, die meer dan wie dan ook met de machine communiceert. En ze begint haar snel als een persoon te beschouwen, van haar te houden als een persoon en te lijden als ze kapot gaat - we hebben de neiging om dit zelfs te doen met primitieve Tamagotchi, maar hier zullen er veel sterkere gevoelens zijn. Kan zo'n robot worden uitgeschakeld? Voor mij is een persoon een persoon, en een machine is een machine, maar ik ben bang dat mensen snel fouten gaan maken …
[KSh] Hoe onderscheid je ze van elkaar? Chatbots slagen al voor de Turing-test …
[DW] Ik zou beginnen met het feit dat onze psyche niet alleen in het lichaam zit, zoals in een container. De psyche is in het lichaam ingebouwd - we worden intelligent en bewust naarmate we lichamelijke ervaring opdoen. Het concept van kunstmatige intelligentie, bedacht door computerwetenschappers in de jaren zestig, ging ervan uit dat de virtuele wereld voldoende was om te verschijnen. Nu wordt dit idee gekscherend GOFAI (goede ouderwetse kunstmatige intelligentie) genoemd, en het werd de ontwikkelaars duidelijk dat, om een schijn van intelligentie te krijgen, het programma een robotlichaam nodig heeft en een lange ervaring in interactie met de echte wereld. Maar over het algemeen kunnen we geen intelligente machine maken, al was het maar omdat we nog steeds heel weinig begrip hebben van hoe de hersenen werken, wat rede en bewustzijn zijn.
[KSh] Robotica houdt zich dus niet bezig met robotrechten? Maar wat ga je doen als je computer morgen zegt: "Ik ben bang, zet me niet uit?"
[DW] Nou, nee, de rechten van robots zullen me zorgen gaan maken als de laatste persoon op de planeet alle rechten heeft. Er is nog te veel te doen voor mensen om voor auto's te gaan zorgen. Robo-ethiek gaat over mensen, we moeten het doen, want we creëren onze eigen toekomst.
Gepubliceerd in het populair-wetenschappelijke tijdschrift "Schrödinger's Cat" # 5 (07) voor mei 2015
