Hoofdstuk uit een boek uitgegeven door het Polytechnisch Museum
Mens en robot - waar ligt de grens tussen hen en welke gevaren brengt onze nabijheid met zich mee? Op basis van persoonlijke ervaring, talloze interviews en gegevens uit het laatste onderzoek, biedt de meest gerespecteerde wetenschapper in het veld, David Mindell, een kijkje achter de schermen bij de meest innovatieve toepassingen van robotica. Indicaror. Ru publiceert een hoofdstuk uit zijn boek “Rise of the Machines Is Cancelled! Mythes over robotisering”.
Door de mens bediend - op afstand - autonoom
Diep 's nachts, hoog boven de Atlantische Oceaan in de uitgestrekte open ruimte tussen Brazilië en Afrika, werd een lijnvliegtuig voor passagiers bij slecht weer betrapt. Het bevroren ijs verstopte buisjes in de neus van het vliegtuig, die de snelheid bepaalden en gegevens naar de computers stuurden die het vliegtuig besturen. Computers konden zonder deze informatie blijven vliegen, maar het programma dat erin was ingebed, voorzag niet in een dergelijke afstemming. Het automatische fly-by-wire-systeem gaf het op en stopte, waardoor de controle overging op de mensen - de piloten die in de cockpit van de voering zaten: de 32-jarige Pierre-Cedric Bonin en de 37-jarige David Robert. Bonin en Robert, allebei ontspannen en een beetje moe, werden verrast toen ze plotseling ontdekten dat ze bij slecht weer en zelfs 's nachts handmatig op grote hoogte moesten vliegen op grote hoogte. En in gunstiger omstandigheden zou het een moeilijke taak zijn waar piloten de laatste tijd niet voor staan. De commandant van de bemanning, de 58-jarige Marc Dubois, vloog op dat moment niet met het vliegtuig, maar rustte in de cabine. De piloten moesten kostbare tijd besteden om hem in de cockpit te roepen. Ondanks het feit dat op het moment dat de computers waren uitgeschakeld, het vliegtuig zich op een rechte horizontale vlucht bevond, hadden de piloten moeite om de magere luchtparameters te begrijpen. Een van hen trok de bedieningshendel naar zich toe, de ander duwde hem naar voren. Het passagiersvliegtuig bleef ongeveer een minuut recht en horizontaal vliegen en begon toen te vallen. De piloten moesten kostbare tijd besteden om hem in de cockpit te roepen. Ondanks het feit dat op het moment dat de computers waren uitgeschakeld, het vliegtuig zich op een rechte horizontale vlucht bevond, hadden de piloten moeite om de magere luchtparameters te begrijpen. Een van hen trok de bedieningshendel naar zich toe, de ander duwde hem naar voren. Het passagiersvliegtuig bleef ongeveer een minuut recht en horizontaal vliegen en begon toen te vallen. De piloten moesten kostbare tijd besteden om hem in de cockpit te roepen. Ondanks het feit dat op het moment dat de computers waren uitgeschakeld, het vliegtuig zich op een rechte horizontale vlucht bevond, hadden de piloten moeite om de magere luchtparameters te begrijpen. Een van hen trok de bedieningshendel naar zich toe, de ander duwde hem naar voren. Het passagiersvliegtuig bleef ongeveer een minuut recht en horizontaal vliegen en begon toen te vallen.en begon toen te vallen.en begon toen te vallen.
Op 1 juni 2009 vloog Air France-vlucht 447 in een spiraal de oceaan in, waarbij meer dan 200 passagiers en bemanningsleden omkwamen. Hij verdween bijna spoorloos in de golven. In een wereldwijd onderling verbonden systeem van internationale luchtvaartmaatschappijen is het ondenkbaar dat het vliegtuig zomaar zou verdwijnen. Er werd grootschalig gecoördineerd zoekwerk georganiseerd. Slechts een paar dagen later werden sporen van het vliegtuig gevonden op de oceaanbodem. Niettemin, om het grootste deel van het wrak van het vliegtuig en de zwarte dozen te vinden, waardoor het mogelijk zou zijn om de oorzaak van de tragedie vast te stellen, was het noodzakelijk om zoekopdrachten uit te voeren op een uitgestrekt gebied van de oceaanbodem, dat hopeloos langzaam bewoog. Meer dan twee jaar later, op een diepte van 3,2 km, bijna op het punt waar het vliegtuig in het oceaanoppervlak neerstortte,een autonoom onderwatervoertuig genaamd de Remus 6000 gleed geruisloos door de duisternis onder de monsterlijke druk van de waterkolom. De robot in de vorm van een torpedo bewoog iets sneller dan een voetganger en behield een constante hoogte van ongeveer 60 m boven de bodem. In deze positie ontving zijn akoestische scanner de duidelijkste beelden. Het akoestische signaal reisde ongeveer 800 meter in alle richtingen, de robot verzamelde gigabytes aan informatie via de teruggestuurde signalen.de robot verzamelde gigabytes aan informatie via de teruggestuurde signalen.de robot verzamelde gigabytes aan informatie via de teruggestuurde signalen.
Het oppervlak was bergachtig, dus de oceaanbodem steeg sterk. Ondanks zijn kunstmatige intelligentie raakte de robot af en toe het oppervlak, meestal zonder enige gevolgen. Drie van deze robots werkten harmonieus samen: terwijl twee van hen onder water zochten, bevond de derde zich aan boord van het schip aan de oppervlakte. Zo'n 'pitstop' duurde drie uur, waarin de mensen die de robot bedienden informatie herschreven, de batterijen oplaadden en nieuwe zoekplannen opstelden. Op het schip werkte een team van twaalf ingenieurs van het Woods Hole Oceanographic Research Institute, geleid door Mike Purcell, die pionier was in het ontwerp en de ontwikkeling van zoekvoertuigen, in ploegendienst van twaalf uur. Ze waren geladen zoals elk Formule 1-monteurteam.
Toen het apparaat naar de oppervlakte kwam, kostten het de ingenieurs ongeveer 45 minuten om de verzamelde informatie naar een computer te downloaden, en daarna nog een half uur om het te verwerken, zodat het snel op de monitor kon worden bekeken. Franse en Duitse rechercheurs en vertegenwoordigers van Air France keken over hun schouders. Hun acties leken berekend en voorzichtig, maar de spanning hing in de lucht: de inzet was te hoog in termen van nationale trots van de Fransen, en in termen van de reputatie van de Airbus-fabrikant, en in termen van de veiligheid van alle vliegreizen.
Promotie video:
Verschillende eerdere expedities waren niet succesvol. In Frankrijk, Brazilië en de rest van de wereld wachtten de families van de slachtoffers op nieuws. Het ontcijferen van informatie van een akoestische scanner vereist een zorgvuldige analyse die niet volledig kan worden vertrouwd door een computer. Purcell en zijn ingenieurs vertrouwden op jarenlange ervaring. Op hun beeldschermen keken ze kilometer na kilometer naar de rotsbodem. Dit routinewerk duurde vijf dagen, totdat de eentonigheid ervan werd onderbroken: een opeenhoping van puin verscheen op het scherm en toen bereikten de wetenschappers het rampgebied - ze ontvingen een sterk signaal van objecten van kunstmatige oorsprong in de oceaanwoestijn. Dat namen ze tenminste aan, maar konden het nog steeds niet met zekerheid zeggen. De ingenieurs hebben de voertuigen opnieuw geprogrammeerd zodat ze terugkeerden naar het rampgebied en er heen en weer doorheen reden. Dit keer moesten de robots zo dichtbij komen dat de camera's foto's konden maken op een hoogte van ongeveer 9 meter boven de bodem in het licht van de zijverlichting. Toen de voertuigen de beelden naar de oppervlakte brachten, zagen ingenieurs en onderzoekers het gebied van de ramp en kregen ze het antwoord: ze vonden het wrak van een passagiersvliegtuig dat een graf werd voor honderden mensen. Al snel keerde een ander team terug naar de plaats van de tragedie met een ander type robot: een op afstand bestuurbaar onderwatervoertuig. Al snel keerde een ander team terug naar de plaats van de tragedie met een ander type robot: een op afstand bestuurbaar onderwatervoertuig. Al snel keerde een ander team terug naar de plaats van de tragedie met een ander type robot: een op afstand bestuurbaar onderwatervoertuig.
Het was een zwaar apparaat dat speciaal was ontworpen om op diepte te werken. Het was met een kabel verbonden met het schip. Met behulp van kaarten die waren gegenereerd op basis van een succesvolle zoekopdracht, lokaliseerde de ROV de zwarte dozen - de voicerecorder en datalogger van het vliegtuig - en tilde ze naar de oppervlakte. De verslagen van de laatste minuten van de gedoemde piloten werden teruggevonden in de diepten van de oceaan, en nu konden de onderzoekers de fatale omstandigheden nabootsen die tot de verwarring aan boord van het robotvliegtuig leidden. Toen begon het onderwatervoertuig aan een trieste missie - om de overblijfselen van de doden op te halen.
De crash van Air France-vlucht 447 en een operatie om het wrak te vinden, verbindt moderne automatisering en robotica in twee extreme omgevingen: aan de rand van de stratosfeer en in de diepten van de zee. Het vliegtuig viel in de oceaan als gevolg van fouten in menselijke interactie met geautomatiseerde systemen. Vervolgens werden de fragmenten ervan ontdekt door mensen die op afstand bestuurde en autonome robots gebruikten.
Hoewel de woorden "geautomatiseerd" en "autonoom" (in hun meest gebruikelijke betekenis) impliceren dat dergelijke systemen onafhankelijk werken, was het falen of succes in beide gevallen niet te wijten aan het afzonderlijk handelen van machines en mensen, maar aan de gecombineerde werking van machines. en mensen. Menselijke piloten vochten voor het leven van een vliegtuig dat was geautomatiseerd voor meer veiligheid en betrouwbaarheid; veel onderling verbonden schepen, satellieten en vrij drijvende boeien hielpen bij het lokaliseren van de crashlocatie; ingenieurs verwerkten informatie die ze van robots hadden ontvangen en reageerden erop.
Geautomatiseerde en autonome voertuigen keerden voortdurend terug naar hun makers - mensen - voor informatie, energie en richting. De tragedie van Air France-vlucht 447 maakte duidelijk dat we onszelf opnieuw maken door onze omgeving voortdurend aan te passen en aan te passen. Hoe konden piloten zo verslaafd raken aan computers dat ze een perfect werkend vliegtuig op zee lieten vallen? Wat is de rol van de mens op gebieden als transport en transport, onderzoek en militaire activiteiten, wanneer steeds meer taken van primair belang lijken te worden uitgevoerd door machines? Het extreme standpunt is dat mensen bijna "buiten gebruik raken", dat robots "letterlijk één software-update nodig hebben" om volledig autonoom te worden, zoals Scienti fi c American onlangs schreef. Deze mening vertelt onsdat robots oprukken - we ontmoeten ze steeds vaker in een vertrouwde omgeving. Bezorgdheid over de onbekende en dubieuze mogelijkheden van kunstmatige intelligentie komt voort uit de overtuiging dat we aan de vooravond staan van 'superintelligentie'. Onze wereld staat aan de vooravond van verandering, in feite verandert ze al onder invloed van robots en automatisering.
Plots verschijnen er nieuwe projecten die oude dromen belichamen van slimme machines die ons helpen onze professionele taken te vervullen, fysieke arbeid en routinetaken in het dagelijks leven vergemakkelijken. Robots die bestaan en dicht bij de mens werken op fysiek, cognitief en emotioneel niveau, worden een steeds groter en veelbelovend onderzoeksonderwerp. Autonomie - de droom dat robots zich ooit als volledig onafhankelijke entiteiten zullen gedragen - blijft een bron van inspiratie, innovatie en angst. De opwinding wordt veroorzaakt door de ernst van het experiment; de precieze vormen van deze technologieën zijn verre van compleet, en nog minder zeker zijn hun sociale, psychologische en cognitieve implicaties.
Hoe zullen onze robots ons veranderen? Naar welk beeld en welke gelijkenis zullen we ze maken? Wat blijft er over van onze traditionele werkterreinen - wetenschapper, advocaat, dokter, soldaat, manager en zelfs chauffeur en conciërge - wanneer deze taken door machines worden uitgevoerd? Hoe gaan we wonen en werken? We hoeven niet te speculeren: voor het grootste deel is deze toekomst al vandaag aangebroken, zo niet in het dagelijks leven, dan in extreme omstandigheden, waar we al decennia lang robots en automatisering gebruiken. De mens kan niet alleen bestaan in de bovenste lagen van de atmosfeer, in de diepten van de oceaan, in de ruimte. Vanwege de noodzaak om mensen naar deze gevaarlijke omstandigheden te sturen, werden robotica en automatisering in deze gebieden eerder gecreëerd en geïmplementeerd dan in andere activiteitengebieden die ons meer bekend zijn.
In extreme omgevingen wordt de relatie tussen mens en robot op sterkte getest. In zo'n omgeving verschijnen de meest innovatieve ontwikkelingen. Hier hebben ingenieurs de grootste vrijheid om te experimenteren. Ondanks fysieke isolatie begonnen hier de cognitieve en sociale effecten van verschillende apparaten zich voor het eerst te manifesteren. Met mensenlevens, dure apparatuur en missiekritieke missies op het spel, moet de autonomie altijd worden beperkt door overwegingen van veiligheid en betrouwbaarheid. In dergelijke omstandigheden verdwijnen de ijdelheid en de zaken van het dagelijks leven tijdelijk naar de achtergrond, en we ontdekken dat uit de omringende duisternis fragmentarische, spookachtige allegorieën van het menselijk leven in de wereld van de technologie kiezen. Sociale en technologische processen in de cockpit van een vliegtuig of in een diepzeevoertuig verschillen niet fundamenteel van soortgelijke processen in een fabriek, op kantoor of in een auto. Maar in extreme omstandigheden verschijnen ze explicieter en zijn ze daarom gemakkelijker te begrijpen.
Elke vlucht van een vliegtuig is een verhaal, net als elke oceanografische expeditie, ruimtevlucht of militaire operatie. Door deze verhalen van specifieke mensen en machines kunnen we gegevens over subtiele dynamiek samenvoegen. In extreme omstandigheden krijgen we een idee van onze nabije toekomst, wanneer dergelijke technologieën kunnen worden geïntroduceerd in gebieden van menselijke activiteit zoals wegvervoer, gezondheidszorg, onderwijs, enz. Apparaten die op afstand of autonoom door een persoon worden bestuurd, openen kwalitatief nieuwe mogelijkheden voor interactie tussen mensen en machines, nieuwe vormen van aanwezigheid en nieuwe ervaringen, terwijl we tegelijkertijd onze aandacht vestigen op de gevaren, ethische aspecten en ongewenste gevolgen van het leven rond slimme machines. We zien een toekomst waarin menselijke aanwezigheid en kennis belangrijker zullen worden,dan ooit, maar op een bepaalde manier ongebruikelijk en onbekend. En deze auto's zijn gewoon geweldig.
Ik ben niet de enige die mijn hele leven al vliegtuigen, ruimteschepen en onderzeeërs heeft bewonderd. In feite werden de helden van de verhalen die ik hieronder zal vertellen niet alleen geleid door de zoektocht naar praktische voordelen, ze werden ook gedreven door een passie voor nieuwe technologieën. Het is geen toeval dat dergelijke verhalen vaak zijn beschreven in sciencefictionwerken over mensen en machines. De verhalen van mensen en machines die op de grens van hun mogelijkheden met elkaar omgaan, zijn boeiende, verrassende en wakkerende hoop voor wie we kunnen worden. Dit enthousiasme komt soms tot uiting in een naïef geloof in het perspectief van technologie. Maar geleidelijk leidt zo'n interesse ons naar de belangrijkste filosofische en humanistische vragen:wie zijn we? Hoe zijn we verbonden met ons werk en met elkaar? Hoe vergroten onze creaties onze ervaring? Hoe kunnen we leven in deze veranderende wereld? Deze vragen komen vanzelf op als je begint te praten met de mensen die robots en machines maken en besturen. Ik wil de informatie met u delen die ik uit de eerste hand heb ontvangen, uit de meest gedetailleerde interviews en de resultaten van het laatste onderzoek van het Massachusetts Institute of Technology en andere organisaties, in het kader waarvan tests van robotica en automatisering worden uitgevoerd in de extreme omstandigheden van de diepten van de oceaan, tijdens luchtvluchten (civiel en militair) en in de ruimte. Dit is geen denkbeeldige toekomst, maar wat er vandaag gebeurt: we zullen zien hoe mensen robots besturen en informatie ontvangen via autonome apparaten, we zullen analyseren hoe deze interacties hun werk beïnvloeden,levenservaring, vaardigheden en capaciteiten.
Ons verhaal begint waar ik zelf begon - in de diepten van de oceaan. Vijfentwintig jaar geleden, toen ik ingenieur was die ingebedde computers en gereedschappen voor diepzeerobots ontwikkelde, was ik verbaasd te ontdekken dat deze techniek de oceanografie, wetenschappelijke methoden en zelfs de aard van het oceanograafberoep op onvoorspelbare manieren verandert. Door dit begrip heb ik twee parallelle carrières gehad. Als wetenschapper heb ik de interacties tussen mensen en machines bestudeerd, van gepantserde schepen tijdens de Amerikaanse Burgeroorlog tot de computers en software die de Apollo-astronauten hielpen om op de maan te landen.
Als ingenieur heb ik de gegevens van dit onderzoek geïntegreerd in moderne projecten - het ontwikkelen van robots en apparaten voor gebruik in nauwe interactie met mensen. In sommige verhalen kom ik voor als deelnemer, in andere - als waarnemer, en in andere - in beide gedaanten tegelijk. Door de jaren van ervaring opdoen, zoeken en praten met mensen, raakte ik ervan overtuigd dat we van gedachten moeten veranderen over robots. Zelfs de taal waarin we erover spreken is eerder ontleend aan science fiction van de 20e eeuw en heeft niets te maken met de technische verworvenheden van onze tijd. Op afstand bestuurbare vliegtuigen worden bijvoorbeeld drones genoemd, alsof het hersenloze automaten zijn, terwijl ze in feite strikt worden bestuurd door mensen.
Robots worden vaak gepresenteerd (en verkocht) als volledig autonome tussenpersonen, maar zelfs de huidige beperkte autonomie bestaat vaak alleen in de menselijke verbeelding. De robots die we zo breed en gevarieerd gebruiken, zijn nauwelijks automaten voor dreigingen - ze zijn net als wij ingebed in sociale en technische netwerken. Hieronder zullen we vele voorbeelden bekijken van hoe we samenwerken met onze machines. Het draait allemaal om de combinaties. Het is tijd om na te denken over welke functies moderne robots eigenlijk uitvoeren om onze relatie met deze vaak verbazingwekkend bekwame creaties van menselijke handen beter te begrijpen. Ik bied je een door onderzoek onderbouwde empirische conclusie: ongeacht wat robots in het laboratorium doen, in werkelijkheid, waar mensenlevens en echte hulpbronnen op het spel staan,we streven ernaar om hun autonomie te beperken tot het grote aantal vereiste goedkeuringen en mogelijkheden voor menselijk ingrijpen.
Ik beweer niet dat machines slim zijn, en ik zeg niet dat ze op een dag misschien niet slim genoeg zijn. Mijn mening is eerder dat dergelijke machines niet geïsoleerd zijn van mensen. Laten we drie mythen uit de 20e eeuw noemen die verband houden met robotica en automatisering. De eerste mythe is lineaire vooruitgang - het idee dat technologie zal evolueren van directe menselijke controle naar afstandsbediening en vervolgens naar volledig autonome robots. De woorden van de filosoof Peter Singer, die zich constant uitspreekt ter verdediging van autonome systemen, vat de essentie van deze mythe samen. Hij schrijft dat "het vermogen van de mensen om controle te houden over wat er gebeurt, teniet wordt gedaan door zowel degenen aan het roer als rechtstreeks door de technologie, en daarom zullen mensen binnenkort worden uitgesloten van de controlekring." Maar er is geen reden om aan te nemendat de evolutie dit pad zal volgen, dat "technologie zelf", zoals Singer schrijft, tot iets soortgelijks zal leiden. Er zijn zelfs aanwijzingen dat mensen geleidelijk dieper in contact komen met hun machines.
We merken constant dat mensen, op afstand bestuurd door hen, en autonome voertuigen zich parallel ontwikkelen en elkaar beïnvloeden. Onbemande luchtvaartuigen zouden bijvoorbeeld niet in het nationale luchtruim van de VS kunnen vliegen zonder passende wijzigingen aan bemande voertuigen. Of om een ander voorbeeld te nemen: nieuwe ontwikkelingen in robotica op het gebied van ruimtevaartonderhoud worden weerspiegeld in het werk van astronauten met de Hubble Space Telescope. De meest ontwikkelde (en complexe) technologieën zijn niet de technologieën die los van mensen werken, maar die die het diepst in het sociale systeem zijn verankerd en sneller reageren op wat erin gebeurt. De tweede is de substitutiemythe, het idee dat machines geleidelijk alle taken zullen gaan overnemen die mensen uitvoeren. Deze mythe is een twintigste-eeuwse versie van wat ik het fenomeen Iron Horse noem.
Aanvankelijk dachten mensen dat de spoorwegen de behoefte aan paarden zouden wegnemen, maar treinen hebben laten zien dat ze zeer onbelangrijke paarden zijn. Spoorwegen namen hun plaats in toen mensen leerden met hun hulp totaal nieuwe dingen te doen. Onderzoekers van menselijke factoren en cognitieve wetenschappers stellen dat automaten zelden menselijke taken 'mechaniseren'. Ze hebben eerder de neiging om de taak moeilijker te maken, vaak door de werkdruk te verhogen (of te herverdelen). Op afstand bestuurde luchtvaartuigen voeren niet dezelfde taken uit als bemande luchtvaartuigen; ze krijgen nieuwe functies. Op afstand bestuurde robots op Mars repliceren niet het werk van geologen in het veld;zij en de mensen die met hen werken, leren veldonderzoek te doen in een nieuwe omgeving met behulp van mechanismen op afstand.
Ten slotte hebben we nog een derde mythe: de mythe van volledige autonomie, het utopische idee dat robots nu of in de toekomst volledig onafhankelijk kunnen handelen. Ja, automaten kunnen natuurlijk enkele van de taken op zich nemen die voorheen door mensen werden uitgevoerd, en ze zijn inderdaad in staat om gedurende een beperkte tijd onafhankelijk te reageren op veranderingen in de omgeving. Maar machines die niet afhankelijk zijn van menselijke leiding zijn nutteloze machines. Alleen steen kan echt autonoom zijn (maar zelfs steen is gemaakt en op zijn plaats geplaatst dankzij zijn omgeving). Automatisering verandert de mate van menselijke betrokkenheid bij de bediening van een machine, maar elimineert de noodzaak ervan niet volledig. In elk systeem, zelfs een schijnbaar autonoom systeem, kunnen we altijd een interface vinden waardoor een persoon zijn werk kan controleren,lees informatie en waardoor het nuttig wordt. Om een van de meest recente rapporten van het Amerikaanse Department of Defense Science Council te citeren: "Er zijn geen volledig autonome systemen, net zoals er geen volledig autonome soldaten, matrozen, vliegeniers of mariniers zijn."
Om in termen van de 21e eeuw te denken en onze opvattingen over robotica, automatisering en vooral het nieuwere idee van autonomie te veranderen, moeten we begrijpen hoe menselijke intenties, plannen en aannames de essentie van de machine die ze creëren, veranderen. Elke operator die zijn apparaat bestuurt, werkt samen met ontwerpers en programmeurs, wiens aanwezigheid in de machine onveranderlijk is - zelfs in de vorm van structurele elementen of coderegels die vele jaren geleden zijn gemaakt. De boordcomputers van Air France-vlucht 447 konden het vliegtuig blijven besturen met beperkte vliegsnelheidsgegevens, maar mensen hadden ze geprogrammeerd om te voorkomen dat ze dit zouden doen. Zelfs als de software acties onderneemt die niet kunnen worden voorspeld, gedraagt het zich binnen het kader van de schema's en beperkingen die zijn vastgelegd door de makers. Dat,hoe het systeem is ontwikkeld, door wie en voor welke doeleinden, bepaalt de mogelijkheden en manieren van interactie met de mensen die het gebruiken. Mijn doel is om weg te komen van deze mythen en het concept van autonomie in de context van de 21ste eeuw te begrijpen.
Met de onderstaande verhalen wil ik het publieke discours hervormen en een conceptmap voor een nieuw tijdperk maken. Om zo'n kaart te maken, sprekend over apparaten en robots in dit boek, zal ik werken met de begrippen door mensen bestuurd, op afstand en autonoom. De eerste is een analogie van het niet altijd toepasselijke woord "bemand", daarom betekent "gecontroleerd" in sommige gevallen "gecontroleerd door een persoon in het voertuig". Dit zijn natuurlijk oude en bekende soorten apparaten, zoals schepen, vliegtuigen, treinen en auto's - de machines waarmee mensen reizen. Meestal worden door mensen bestuurde systemen helemaal niet als robots beschouwd, hoewel ze steeds meer lijken op robots met mensen erin. Remote, een afgekorte vorm van op afstand bediend voertuig, geeft eenvoudig aan waar de bestuurder zich bevindt ten opzichte van het voertuig. Zelfs wanneer de cognitieve taak van het besturen van het systeem op afstand bijna volledig samenvalt met de taak die direct wordt uitgevoerd door de fysiek aanwezige operator, krijgen de aanwezigheid of afwezigheid van de operator en de bijbehorende risico's een grote culturele betekenis.
Het meest opvallende voorbeeld is oorlogsvoering op afstand duizenden kilometers van een oorlogsgebied. Dit is een totaal andere ervaring dan de taken van de gewone soldaat. Als cognitief fenomeen is de menselijke aanwezigheid verweven met het sociale aspect. Automatisering is ook een twintigste-eeuws idee en weerspiegelt nog steeds de mechanistische opvatting dat machines vooraf bepaalde procedures stap voor stap volgen. De term "geautomatiseerd" wordt vaak gebruikt om computers aan boord van vliegtuigen te beschrijven, hoewel ze moderne, nogal complexe algoritmen bevatten. Autonomie is tegenwoordig het meer modieuze woord en een van de toponderzoeksprioriteiten van het steeds kleiner wordende Amerikaanse ministerie van Defensie. Sommige onderzoekers maken duidelijk onderscheid tussen autonomie en automatisering, maar naar mijn meninghet verschil tussen autonomie ligt alleen in een bredere mate van onafhankelijke besluitvorming dan eenvoudige feedback; Bovendien omvat en verenigt het concept van "autonomie" vele ideeën die zijn ontleend aan de theorie van kunstmatige intelligentie en andere disciplines. En natuurlijk wordt het idee van de autonomie van individuen en groepen de oorzaak van voortdurende controverse in politiek, filosofie, geneeskunde en sociologie. Dat hoeft niet te verbazen, aangezien technici vaak termen uit de sociale wetenschappen lenen om hun machines te beschrijven.het idee van de autonomie van individuen en groepen wordt de oorzaak van voortdurende controverse in politiek, filosofie, geneeskunde en sociologie. Dat hoeft niet te verbazen, aangezien technici vaak termen uit de sociale wetenschappen lenen om hun machines te beschrijven.het idee van de autonomie van individuen en groepen wordt de oorzaak van voortdurende controverse in politiek, filosofie, geneeskunde en sociologie. Dat hoeft niet te verbazen, aangezien technici vaak termen uit de sociale wetenschappen lenen om hun machines te beschrijven.
Zelfs binnen de ontwerpbranche kan de term "autonomie" verschillende betekenissen hebben. Autonomie bij het ontwerpen van ruimtevaartuigen bestaat uit de verwerking aan boord van de gegevens die nodig zijn voor de werking van het ruimtevaartuig (of het nu een geautomatiseerd station in een baan is of een mobiele robot), los van taken zoals missieplanning. Aan het Massachusetts Institute of Technology, waar ik lesgeef, omvat de inhoud van cursussen voor autonomie-engineering voornamelijk "padplanning" - hoe je van het ene punt naar het andere komt, voldoende tijd doorbrengt en zonder ergens tegenaan te botsen. In andere systemen is autonomie analoog aan intelligentie, het vermogen om beslissingen te nemen die een persoon in bepaalde situaties zou nemen, of het vermogen om onder omstandigheden te handelendie niet werden verwacht of voorzien door de makers van het apparaat.
Autonome afzinkboten worden zo genoemd omdat ze zelfstandig opereren en in tegenstelling tot op afstand bestuurbare voertuigen die met lange kabels met het schip zijn verbonden. Desondanks zeggen de ingenieurs die zulke autonome onderzeeërs maken dat hun voertuigen semi-autonoom zijn, omdat ze zelden zonder enig contact met de bestuurder opereren. De term "autonoom" impliceert meer vrijheid van handelen. Het beschrijft de manier waarop het apparaat wordt bediend, wat een potentieel vluchtige factor is. Een recente studie suggereert de term "toenemende autonomie": op deze manier benadrukken de auteurs de relatieve aard van autonomie en stellen ze dat "volledige" autonomie, dat wil zeggen machines die geen informatie van een persoon hoeven te ontvangen, altijd onbereikbaar zal zijn.
In dit boek zal een werkdefinitie van autonomie zijn: door mensen ontwikkelde middelen om informatie uit de omgeving om te zetten in gerichte plannen en acties. De formulering is belangrijk, en het geeft controverse een andere smaak. Maar we moeten er niet bij stilstaan. Ik zal vaak vertrouwen op de taal (die soms onnauwkeurig kan zijn) die wordt gebruikt door de mensen met wie ik werk. Het punt van dit boek ligt niet in definities, maar in beschrijvingen van echt werk - hoe mensen deze systemen in de echte wereld gebruiken, nieuwe ervaringen opdoen, onderzoek doen of zelfs vechten en doden. Wat is er werkelijk aan de hand? Als je aandacht besteedt aan de leefervaring van ontwerpers en degenen die robots gebruiken, dan kan alles duidelijk worden. Bijvoorbeeld,het woord 'drone' verbergt de inherent menselijke aard van robots en schrijft hun negatieve kanten toe aan abstracte ideeën zoals 'technologie' of 'autonomie'. Als we de innerlijke werking van de Predator-operators onderzoeken, leren we dat ze geen oorlog voeren met automatische apparaten - mensen bedenken, programmeren en besturen nog steeds machines.
Er is een lang debat gaande over de ethiek en het beleid van moord op afstand door drones met externe operators, of de geheimhouding van dergelijke apparaten die in het interne Amerikaanse luchtruim werken. Maar deze debatten hebben te maken met de aard, plaats en timing van menselijke beslissingen, niet met autonome machines. De vraag is dan ook niet om bemande en onbemande voertuigen te vergelijken en niet om door mensen bestuurde voertuigen te vergelijken met autonome voertuigen. De belangrijkste vragen van dit boek zijn: "Waar zijn de mensen?", "Wie zijn deze mensen?", "Wat doen ze?", "Wanneer doen ze het?" Waar zijn de mensen? (Op een schip … in de lucht … in auto's … of in een kantoor?) De manipulaties van de Predator-operator zijn vergelijkbaar met de acties van een vliegtuigpiloot - hij volgt de toestand van boordsystemen, neemt informatie waar,neemt beslissingen en neemt bepaalde stappen. Maar zijn lichaam bevindt zich op een andere plaats, misschien enkele duizenden kilometers verwijderd van de resultaten van zijn werk. Dit verschil is belangrijk. De taken zijn verschillend. De risico's zijn verschillend, net als de machtsverhoudingen.
De menselijke geest is in staat om naar andere plaatsen, andere landen, naar andere planeten te reizen. Kennis die via de geest en de zintuigen is opgedaan, is anders dan kennis die via het lichaam is opgedaan (waar u eet, slaapt, communiceert, poepen). Afhankelijk van de specifieke situatie beslissen we welke van de twee paden om kennis te verwerven, en dit heeft gevolgen voor degenen die bij het proces betrokken zijn. Wie zijn deze mensen? (Piloten … ingenieurs … wetenschappers … ongetrainde arbeiders … managers?) Verander de techniek, en dan zullen zowel de taak als de essentie van de specialist die eraan werkt veranderen. In feite verandert u het hele contingent van mensen die in staat zijn het systeem te beheren. Het kost jaren van studie en training om piloot te worden, en dit beroep staat bovenaan de personeelshiërarchie. Vereist het op afstand besturen van een vliegtuig dezelfde vaardigheden en eigenschappen? Uit welke sociale klassen kunnen arbeidskrachten worden gerekruteerd?
De toename van de automatisering van commerciële vliegtuigen komt overeen met de uitbreiding van de demografie van piloten, zowel in geïndustrialiseerde landen als over de hele wereld. Is een onderzoeker iemand die in gevaarlijke omstandigheden reist, of iemand die thuis achter een computer zit? Moet je van het leven aan boord genieten om oceanograaf te worden? Kun je Mars verkennen terwijl je in een rolstoel zit? Wat zijn deze nieuwe piloten, onderzoekers en wetenschappers die werken met toegang op afstand? Waar zijn ze mee bezig? (Vlieg … controle … procesinformatie … communiceren?) Fysieke inspanning verandert in het verwerken van visuele informatie en vervolgens in een cognitieve taak. Wat vroeger kracht vereiste, vereist nu aandacht, geduld en een snelle reactie. Houdt de piloot zijn handen direct op de bedieningshendels,wanneer vliegt hij met het vliegtuig? Of toetsopdrachten in de stuurautomaat of vluchtcomputer invoeren om de vliegroute van het vliegtuig te programmeren? Wat is de rol van de beoordeling van de situatie door de persoon? Wat is de rol van de ingenieur die de boordcomputer heeft geprogrammeerd, of de luchtvaarttechnicus die hem heeft opgezet?
Wanneer doen ze het? (In realtime … met enige vertraging … van tevoren, jaren of maanden voor de missie?) De vlucht van een gewoon vliegtuig vindt in realtime plaats: een persoon reageert onmiddellijk op gebeurtenissen die zich voordoen en zijn acties hebben onmiddellijk effect. In een ruimtevluchtscenario bevindt het apparaat zich mogelijk op Mars (of nadert het een verre asteroïde), in welk geval het 20 minuten duurt voordat het apparaat het commando ontvangt en 20 minuten voordat de operator ziet dat er iets is gebeurd. Of we kunnen zeggen dat het vaartuig 'in automatische modus' landt, terwijl we in werkelijkheid begrijpen dat het onder de controle belandt van programmeurs die instructies enkele maanden of jaren voor de landing hebben achtergelaten (hoewel we hier misschien aanpassingen moeten maken aan het concept zelf "controle"). Het besturen van een geautomatiseerd systeem kan lijken op interactie met een geest. Deze eenvoudige vragen vestigen onze aandacht op herverdeling en herschikking.
Nieuwe vormen van menselijke aanwezigheid en activiteit zijn niet triviaal en zijn niet gelijk aan de oude - de culturele identiteit van een piloot die zijn leven riskeert door over het slagveld te vliegen, verschilt van een persoon die een voertuig op afstand bestuurt vanaf een grondstation. Maar deze veranderingen zijn ook onverwacht: een operator op afstand voelt zich misschien meer aanwezig op het slagveld dan een piloot die er hoog over vliegt. Wetenschappelijke informatie over de maan kan hetzelfde of zelfs vollediger zijn wanneer deze wordt verzameld door een op afstand bestuurd voertuig, en niet door een persoon die rechtstreeks op de planeet is geland. Maar de culturele ervaring van maanverkenning is in dit geval totaal anders. Laten we ouderwetse opvattingen vervangen door rijke geanimeerde afbeeldingen van hoe mensen in de echte wereld robots en automatische systemen daadwerkelijk maken en besturen. De onderstaande verhalen zijn zowel wetenschappelijk als technisch en humanistisch.
We zullen zien dat door mensen aangedreven, afgelegen en autonome machines de beweging en heroriëntatie van menselijke aanwezigheid en actie in tijd en ruimte mogelijk maken. De essentie van dit boek is als volgt: het is niet juist de oppositie van door de mens gecontroleerde en autonome systemen die belangrijk zijn, maar eerder de vragen - "Waar zijn de mensen?", "Wie zijn deze mensen?", "Wat doen ze en wanneer?" De laatste, de moeilijkste vragen zullen zijn: "Hoe verandert de menselijke waarneming?", "En waarom maakt het uit?"
