Dertig jaar geleden probeerden de Verenigde Staten de grenzen van computers, kunstmatige intelligentie en robotica te verleggen. Ze wilden iets nieuws creëren dat erg doet denken aan de dystopische toekomst uit de Terminator-films, of Skynet.
Van 1983 tot 1993 heeft het Amerikaanse Department of Defense Advanced Research and Development Administration (DARPA) meer dan een miljard dollar uitgegeven aan een programma dat het Strategic Computing Initiative (Strategic Computer Initiative of SCI) wordt genoemd. Het doel van DARPA was om de grenzen van computergebruik, kunstmatige intelligentie en robotica te verleggen en iets te creëren dat erg doet denken aan de dystopische toekomst uit de Terminator-films. Het wilde Skynet creëren.
Net als het Star Wars-programma van Ronald Reagan, bleek het idee van SKI te futuristisch voor zijn tijd. Maar vandaag, wanneer we verbazingwekkende vooruitgang zien bij het creëren van kunstmatige intelligentie en onafhankelijke robots door het leger, is het logisch om terug te keren naar dit half vergeten programma en onszelf de vraag te stellen: zijn we klaar om te leven in een wereld van dodelijke machines die onderling verbonden zijn door elektronische hersenen? En nog een, mogelijk nutteloze vraag. Als we dit willen stoppen, zijn we dan te laat met ons verlangen?
De mogelijkheden zijn werkelijk verbluffend …
Dit is een fragment uit een weinig bekend document dat in oktober 1983 aan het Congres werd gepresenteerd. Het beschrijft de doelstellingen van het nieuwe Strategic Computer Initiative. En net als al het andere dat DARPA ervoor en daarna heeft gedaan, is dit programma buitengewoon ambitieus gebleken.
Het concept van het Strategic Computer Initiative werd belichaamd in een volledig nieuw systeem, waarvan de ontwikkeling werd geleid door Robert Kahn, toen hoofd van Information Processing Techniques bij DARPA. Zoals vermeld in zijn boek Strategic Computing uit 2002, was Kahn niet de eerste die het systeem begreep, maar hij was wel de eerste die het concept en de structuur van het toekomstige Strategic Computer Initiative schetste. Hij startte dit project en definieerde de inhoud al vroeg. SKI ging een eigen leven leiden, geleid door andere mensen, maar behield de invloed van Kahn."
Dit systeem moest een wereld creëren waarin onafhankelijke voertuigen niet alleen verkenningsgegevens verzamelen over de vijand over de hele wereld, maar ook de mogelijkheid hebben om met dodelijke precisie toe te slaan vanaf het land, de zee en de lucht. SKI zou een wereldwijd netwerk worden dat alle aspecten van de militair-technische capaciteiten van de VS met elkaar zou verbinden - capaciteiten gebaseerd op nieuwe en ongelooflijk snelle computers.
Promotie video:
Maar dit netwerk was niet alleen bedoeld voor koude en onpartijdige geautomatiseerde informatieverwerking. Nee, het nieuwe systeem moest zien, horen, handelen en reageren. En nog belangrijker, ze moest het begrijpen, en zonder enige aansporing van een persoon.
De economische wapenwedloop
De oorsprong van SQI wordt vaak geassocieerd met technologische concurrentie die begin jaren tachtig tussen de Verenigde Staten en Japan ontstond. De Japanners wilden een nieuwe generatie supercomputers creëren, die de basis zouden gaan vormen van een kunstmatige intelligentiesysteem. Door de economische macht van de Japanse staat te combineren met de nieuwe mogelijkheden van de micro-elektronica en computerindustrie van het land, begonnen ze een computersysteem van de vijfde generatie te creëren om hun doel te bereiken.
Het doel was om ongelooflijk snelle computers te ontwikkelen waarmee Japan zich zou losmaken van andere landen (voornamelijk de Verenigde Staten en de "Silicon Valley" die daar in opkomst was) in de race om technologische superioriteit. De Japanners gaven zichzelf 10 jaar om deze taak te volbrengen. Maar hoe ze hun auto's ook versnelden, ze konden, net als de Amerikanen, computers niet 'slimmer' maken ten koste van krachtige kunstmatige intelligentie.
Japanse aspiraties maakten veel Amerikanen bang. Ze waren bang dat Amerika zijn technologische voorsprong zou verliezen. Deze angsten werden grotendeels aangewakkerd door The Fifth Generation: Artificial Intelligence and Japan's Computer Challenge to the World, in 1983 gepubliceerd door Edward A. Feigenbaum en Pamela McCorduck. Challenge to the World), die op Capitol Hill onmisbare literatuur is geworden.
Om de ideeën van SCI populair te maken onder het Amerikaanse volk en het bedrijfsleven, benadrukte DARPA dat het doel van het initiatief vanaf het begin alleen was om de economische belangen van het land te bevorderen. De spin-offs van deze technologie hadden nieuwe prikkels moeten creëren voor de Amerikaanse economie, zoals gerapporteerd in een DARPA-planningsdocument:
Het beroep op de particuliere sector en op het universitaire systeem moest ook de slimste en meest getalenteerde mensen helpen bij het vervullen van de taken van het programma van het Office of Advanced Research and Development:
ontwikkelde technologieën zullen niet worden overgedragen aan concurrerende bedrijven.
Maar de economische concurrentie met de Japanners, hoewel een belangrijke drijvende kracht, veroorzaakte slechts secundaire bezorgdheid onder politici die verwikkeld waren in de wisselvalligheden van de Koude Oorlog. De GOP-haviken waren het meest bezorgd over militaire opbouw en militaire opbouw. Velen van hen waren van mening dat de belangrijkste militaire dreiging van de Sovjet-Unie was. En het Strategic Computer Initiative moest deze dreiging elimineren.
Star Wars-verbinding
De lancering van het SRS-programma en de taakomschrijving van DARPA, die ontstond in 1983 en 1984, leidde tot verhitte discussies in de wetenschappelijke gemeenschap, die uiteindelijk profiteerde van de financiering van dit project. Iemand uitte zijn twijfels over de mogelijkheid om ambitieuze plannen uit te voeren om een geavanceerde kunstmatige intelligentie te creëren. Sommigen waren bang dat met de creatie van kunstmatige intelligentie voor militaire doeleinden een verschrikkelijk tijdperk van onafhankelijke legers van robots zou beginnen.
En dit was een gegronde zorg. Als het doel van Star Wars (de populaire naam voor het Strategic Defense Initiative van Ronald Reagan en het populaire politieke voetbal van die tijd) een automatische of semi-automatische reactie is op een nucleaire raketdreiging van de Sovjets, dan zou het gewoon belachelijk zijn om het niet op te nemen in een groter systeem van echt intelligente machines. De doelstellingen van de twee projecten, om nog maar te zwijgen van de instellingen die ze ontwikkelden, vielen teveel samen en overlapten elkaar om louter toeval te zijn, hoewel ze allebei volhielden dat het toeval was.
Van het werk van Chris Hables Gray, geschreven in 1988:
Als je het iemand vraagt die in de leiding van het SKI-programma heeft gewerkt, zal je aanhoudend worden verteld dat het Strategic Computer Initiative niets te maken had met Reagans droom van Star Wars. Maar mensen hebben vanaf het allereerste begin van de implementatie van SKI een verband gelegd tussen het en SDI. Gedeeltelijk zijn deze verenigingen ontstaan door de gelijkenis in namen en vanwege het feit dat deze namen werden gegeven door één persoon: Robert Cooper, die van 1981 tot 1985 directeur was van de Advanced Research and Development Administration van het Amerikaanse ministerie van Defensie. Of misschien zagen mensen het verband vanwege het feit dat de computerinterfacesystemen die voor SKI waren ontwikkeld, logischerwijs geschikt waren als toepassing voor een antiraketafweerstrategie voor de ruimte.
Het gebruik van strategische computertechnologie te land, ter zee en in de lucht
In een algemeen overzicht van de SQI, opgesteld in 1983, werd het doel van dit initiatief uiteengezet. Het doel was duidelijk en begrijpelijk: een enorme basis van kunstmatige-intelligentietechnologieën ontwikkelen om de nationale veiligheid en economische macht te versterken. Maar om dit te bereiken, moesten het Congres en die militaire afdelingen, die de SKI en zijn voordelen in de toekomst zouden gebruiken, dit systeem in actie zien.
SKI had drie hardware-incarnaties die zijn gevechtspotentieel moesten bewijzen, hoewel het tegen het einde van de jaren tachtig was gepland om nog meer van dergelijke systemen te ontwikkelen. In de voorhoede van de technische ontwikkelingen van SKI waren het autonome grondvoertuig ALV, de assistent van de piloot en het gevechtscontrolesysteem van de vliegdekschip.
Deze tools waren gepland om te worden uitgerust met ongelooflijk geavanceerde computers, die waren ontworpen door het Cambridge-bedrijf BBN, vooral bekend om zijn werk bij het creëren van de eerste versie van internet. Computers hebben baanbrekende vorderingen mogelijk gemaakt op gebieden zoals vision-systemen, taalbegrip en navigatie. En dit zijn de belangrijkste instrumenten voor het creëren van een geïntegreerde militaire macht tussen mens en machine.
Auto zonder chauffeur - 1985
Het meest onheilspellende uiterlijk product dat uit de ingewanden van SKI tevoorschijn kwam, was het autonome voertuig ALV. Dit zelfrijdende voertuig met acht wielen was drie meter hoog en vier meter lang. Het was uitgerust met een camera en sensoren die op het dak waren gemonteerd en die de beweging van de auto controleerden, zijnde zijn "ogen".
Martin Marietta, die in 1995 fuseerde met de Lockheed Corporation om Lockheed Martin te creëren, won in de zomer van 1984 een aanbesteding voor een experimenteel autonoom grondvoertuig. Over de drie en een half jaar van het SKI-programma werd verwacht dat het $ 10,6 miljoen zou ontvangen (gecorrigeerd voor inflatie, dit is 24 miljoen), plus nog eens 6 miljoen als het project aan bepaalde benchmarks zou voldoen.
In de Popular Science van oktober 1985 stond een artikel over de tests die werden uitgevoerd op de geheime testlocatie van Martin Marietta ten zuidwesten van Denver.
De auteur van het artikel, Jim Schefter, beschreef de testscène op het testterrein:
DARPA heeft de krachten gebundeld met Martin Marietta en de Universiteit van Maryland, die uitstekend werk heeft verricht bij het creëren van een visiesysteem. Deze combinatie leek belangrijk om het succes van de ontwikkeling van landvoertuigen te verzekeren.
Het bouwen van een videosysteem voor een zelfrijdende auto is ongelooflijk moeilijk gebleken. Ze kan worden misleid door licht en schaduwen, en daarom was ze niet betrouwbaar genoeg. Overdag vond ze zonder problemen de berm, maar door de avondschaduwen bij zonsondergang kon ze best wel de sloot in glijden.
Elke verandering in de omgeving (bijvoorbeeld vuil onder de wielen van een andere auto) bracht ook het zichtsysteem in de war. Dit was zelfs onder testomstandigheden op het testterrein onaanvaardbaar. Als de machine dergelijke eenvoudige obstakels niet aankan, hoe zal hij dan handelen in moeilijke en onvoorspelbare gevechtsomstandigheden met talloze variabele factoren?
In november 1987 was het autonome grondvoertuig aanzienlijk verbeterd, maar tegen het einde van het jaar werd het feitelijk verlaten. Hoewel het voertuig nogal primitief was, vonden sommigen bij DARPA dat het te snel was afgeprijsd.
Het resultaat was dat ze haar onvoorbereidheid op de strijd niet kon overwinnen. Zoals Alex Roland in zijn boek Strategic Computing opmerkt: “Een officier die absoluut geen kennis had van het ALV-programma, klaagde dat het voertuig militair onbruikbaar was: erg traag en wit, waardoor het een gemakkelijk doelwit was. op het slagveld. In april 1988 stopte het Bureau voor geavanceerd onderzoek en ontwikkeling er officieel mee.
R2-D2, maar in het echt
De tweede praktische uitvoering van het Strategic Computer Initiative was de assistent van de piloot. De ontwikkelaars zagen het als een onzichtbare R2-D2-robot, een intelligente satelliet die de eenvoudige taal van de piloot verstaat. Deze assistent zou bijvoorbeeld een vijandelijk doelwit kunnen detecteren en de piloot kunnen vragen of het nodig is dit te vernietigen. Zoiets als "De beste shooter" in het gezelschap van de persoonlijke assistent Siri vanaf de iPhone.
In dit scenario bleef de uiteindelijke beslissing bij de piloot. Maar zijn assistent moest slim genoeg worden om niet alleen te weten wie de vragen stelde, wat hij vroeg en hoe hij de vragen zelf moest stellen. Hij moest begrijpen waarom.
Dit zijn de regels uit het SKI-planningsdocument:
En het was hier dat het directoraat Geavanceerd Onderzoek en Ontwikkeling besloot dat het zijn eigen Skynet nodig had. Nieuwe kenmerken van gevechtsoperaties in verband met de snelle ontwikkeling van militaire technologieën vereisten een duidelijke interactie tussen machine en persoon - en dit werd de sleutel tot succes in de strijd. De piloot drukte nog steeds op de knoppen, maar deze computers moesten minstens de helft voor hem nadenken. Als de mensheid geen tijd heeft, is het nodig om machines op het werk aan te sluiten.
Het assistent-programma van de piloot werd niet in dezelfde mate door de Amerikaanse pers gedekt als het autonome grondvoertuig. Waarschijnlijk was dit te wijten aan het feit dat het veel moeilijker was om het voor te stellen dan een enorme tank die zonder chauffeur over de weg reed. Maar als je kijkt naar de spraakherkenningstechnologieën van vandaag, wordt het duidelijk waartoe al dit onderzoek naar de "pilotenassistent" heeft geleid.
Onzichtbare robotadviseur
SKI-programma ontworpen om de haalbaarheid ervan te bewijzen.
Roland schrijft hierover in zijn boek Strategic Computing:
om reden werd het geheim gehouden, in tegenstelling tot ALV. Een robot die zonder chauffeur over de weg rijdt, kan velen afschrikken. Een onzichtbare robot met een onzichtbare vinger op een nucleaire knop? Nou, bijna niemand wil persberichten over dit onderwerp publiceren.
Het gevechtscontrolesysteem is speciaal ontworpen als een softwaretoepassing voor de marine. (Een autonoom grondvoertuig werd speciaal voor de grondtroepen gemaakt en een "assistent-piloot" voor de luchtmacht.) Maar in werkelijkheid was het slechts een dekmantel voor een veelzijdiger systeem. Al deze technologieën waren gepland om in de toekomst te worden gebruikt waar ze het meest nodig zijn. Het spraakherkenningsprogramma dat voor de "pilootassistent" is ontwikkeld, zou in alle takken van de strijdkrachten worden gebruikt, niet alleen bij de luchtmacht. En het gevechtscontrolesysteem moest voor iedereen geschikt zijn - behalve natuurlijk de vijand.
Skynet samenstellen
Alle verschillende componenten van het Strategic Computer Initiative maakten deel uit van een groter hypothetisch systeem dat de aard van oorlog in de 21e eeuw radicaal zou kunnen veranderen.
Stel je een wereldwijd draadloos netwerk voor dat vele andere ondergeschikte netwerken in het Amerikaanse leger controleert. Stel je legers van robottanks voor die praten met zwermen drones in de lucht en onbemande onderzeeërs op zee - en de interactie tussen hen is veel sneller dan elke menselijke commandant. Stel je nu voor dat dit allemaal veel gecompliceerder is en dat er nucleaire raketten wachten op lancering in de ruimte.
Het concept van het Strategic Computer Initiative was ongelooflijk gewaagd, en toch een beetje ongebruikelijk als je bedenkt hoe ver het ons zou kunnen brengen. De logica van de verdere ontwikkeling van kunstmatige intelligentie en het wereldwijde netwerk van killer-machines is gemakkelijk voor te stellen, al was het maar omdat we het talloze keren in boeken en films hebben gezien.
De toekomst van oorlog en vrede
Het strategische computerinitiatief in de vroege jaren 90 werd uiteindelijk vernietigd door het besef dat het simpelweg onmogelijk was om krachtige kunstmatige intelligentie te creëren zoals DARPA zich had voorgesteld. Maar als al deze technologieën en technische innovaties die in de jaren tachtig zijn ontwikkeld, ons vreemd bekend voorkomen, komt dat door het feit dat ze aan het begin van de 21e eeuw in de media praten en schrijven.
Visiesystemen van een autonoom grondvoertuig hebben hun belichaming gevonden in Atlas-robots van Boston Dynamics. We kunnen zien dat een spraakherkenningssysteem zoals Siri van "pilotenassistent" wordt gebruikt bij de Amerikaanse luchtmacht. En zelfrijdende auto's worden getest door Google, samen met vele andere bedrijven. Dit zijn allemaal technologieën van toekomstige oorlogen. En als je Google gelooft, dan is dit ook de technologie van de wereld van de toekomst.
Google Corp. heeft onlangs Boston Dynamics gekocht, dat degenen die zich zorgen maakten over een toekomst met legers onafhankelijke robots, heeft verrast. Google zegt dat Boston Dynamics al zijn oude contracten met militaire klanten zal nakomen, maar geen nieuwe zal aangaan.
Maar of Google nu wel of niet orders van het leger accepteert (wat best mogelijk is, aangezien ze het in het geheim kunnen doen, met middelen uit hun "zwarte" budget), het lijdt geen twijfel dat de grens tussen civiele en militaire technologie altijd vervaagd is. Als Boston Dynamics nooit meer samenwerkt met organisaties als DARPA, maar Google profiteert van door het leger gefinancierd onderzoek, dan kan waarschijnlijk worden gezegd dat het systeem werkt.
Het leger kreeg wat ze wilden door roboticaonderzoek door een privébedrijf te sturen. En nu zullen de resultaten van deze militaire technologieën voelbaar zijn in ons dagelijks burgerleven - evenals in vele andere technologieën, waaronder internet.
In werkelijkheid is dit artikel slechts een druppel in de emmer van de ideeën die het Directoraat Geavanceerd Onderzoek en Ontwikkeling heeft uitgebroed in het kader van de SKI. Laten we hopen dat we door het bestuderen van de perspectiefconcepten van gisteren wat historische ervaring kunnen opdoen en beter kunnen begrijpen dat onze nieuwe prestaties niet uit de lucht komen vallen. Zelfs zij kunnen niet altijd innovaties worden genoemd. Dit is het resultaat van jarenlang onderzoek en miljarden dollars aan kredieten die door honderden organisaties, zowel publieke als private, onder de knie zijn.
Uiteindelijk werd het Strategic Computer Initiative niet ontmanteld uit angst voor wat het in onze wereld zou kunnen brengen. Het is alleen dat de technologieën voor de implementatie ervan zich niet snel genoeg ontwikkelden - dit geldt voor kunstmatige intelligentie en autonome voertuigen. Maar in de twintig jaar sinds de stopzetting van SKI zijn al deze slimme machine-ontwikkelingen doorgegaan.
Een toekomst met zeer intelligente en onderling verbonden robots is bijna reëel. We hoeven niet van hem te houden, maar we kunnen niet zeggen dat niemand ons voor hem heeft gewaarschuwd.
Matt Novak