Smartphones, robots en computers maken ons leven gemakkelijker, maar misschien verliezen we daarbij iets? Een verslaggever van een van de publicaties sprak met de Amerikaanse schrijver Nicholas Carr over de gevaren en zelfs dreigingen van overautomatisering.
Algemeen wordt aangenomen dat automatisering van alles en iedereen de kwaliteit van ons leven verbetert. Computers helpen ons om topprestaties te bereiken. Softwaretoepassingen maken taken sneller en gemakkelijker. Robots nemen het vervelende en harde werk op zich. De constante stroom van innovatie uit Silicon Valley versterkt de overtuiging van mensen dat nieuwe technologieën het leven beter maken.
Er is echter een andere mening. De schrijver Nicholas Carr onderwerpt de postulaten van de moderne digitale wereld aan een onpartijdige analyse. Zijn essay "Does Google Make Us Stupid?", Gepubliceerd in Atlantic in 2008, is nog steeds controversieel, net als zijn bestseller uit 2010, The Shallows.
Carr wordt door de aanhangers van de theorie dat technologie onze wereld zal redden, gezien als een van hun krachtigste tegenstanders. En degenen die op hun hoede zijn voor de gevolgen van technologische vooruitgang voor de mensheid, respecteren hem voor een evenwichtige redenering.
Nu is Carr geïnteresseerd in een nieuwe vraag: moeten we bang zijn dat er langzamerhand geen moeilijke taken voor ons in de wereld komen? Zal ons leven te efficiënt worden dankzij nieuwe technologieën?
Kort geleden ontmoette de journalist (T. C.) de schrijver om te praten over zijn nieuwe boek, The Glass Cage: Automation and Us, en waarom hij het schreef.
1. Ontkracht de belangrijkste mythe over nieuwe technologieën
Promotie video:
"Vroeger dachten we dat efficiëntie en comfort standaard goed zijn. Deze aanpak is vrij naïef."
Tom Chatfield: Als ik het goed begrijp, probeer je in The Glass Cage de mythe te ontkrachten dat de vereenvoudiging van ons leven dankzij technologische vooruitgang noodzakelijkerwijs een positief fenomeen is.
Nicholas Carr: Zowel op persoonlijk als op institutioneel niveau zijn we gewend te denken dat efficiëntie en comfort standaard goed zijn, en het maximaliseren ervan is zeker een waardig doel. Het lijkt mij dat deze benadering van technologie in al zijn vormen, vooral in de vorm van computerautomatisering, nogal naïef is. Dit geldt ook voor onze eigen verlangens en het echte leven in de moderne wereld.
Zullen computers ooit mensen vervangen?
T. Ch.: En toch houden de meeste aanhangers van technologische vooruitgang vast aan het utilitaire standpunt, volgens welke de grootste fouten die we maken te wijten zijn aan het negeren van efficiëntie en logica, en in feite weten we zelf niet wat goed voor ons is. Daarom, vanuit hun standpunt, is de taak van technologische vooruitgang om de tekortkomingen van het menselijk denken te identificeren en vervolgens systemen te creëren die deze tekortkomingen zouden compenseren. Is deze mening onjuist?
N. K.: Aan de ene kant hebben veel innovaties in de ontwikkeling van computertechnologie en de ontwikkeling van geautomatiseerde systemen niets te maken met de brede bewering dat mensen erg onvolmaakt zijn in vergelijking met computers. Ja, een computer kan worden geprogrammeerd om bepaalde bewerkingen voor onbepaalde tijd uit te voeren met een constante kwaliteit. En het is waar dat een persoon hier niet toe in staat is.
Maar sommigen gaan zelfs nog verder en vinden dat mensen te onvolmaakt zijn, dat hun rol zo veel mogelijk moet worden beperkt en dat computers verantwoordelijk moeten zijn voor alle basistaken. Dit gaat niet alleen over het proberen te compenseren voor menselijke tekortkomingen - het idee is om de menselijke factor helemaal te verwijderen, waardoor, zo wordt betoogd, ons leven veel beter zal worden.
TC: Het lijkt erop dat dit niet het beste idee is. Is er een optimaal automatiseringsniveau?
N. K.: Naar mijn mening is de vraag niet of we deze of gene complexe taak moeten automatiseren. De vraag is hoe we automatisering gebruiken, hoe we computers precies gebruiken om menselijke kennis en vaardigheden aan te vullen, tekortkomingen in menselijk denken en gedrag te compenseren, en ook om mensen te stimuleren het beste uit hun eigen ervaring te halen om nieuwe hoogten te bereiken.
Overmatig vertrouwen op software kan ons veranderen in computermonitor-watchers en processtroomoperatoren. Computers kunnen een zeer belangrijke rol spelen omdat we maar een mens zijn - we kunnen ten prooi vallen aan vooroordelen of belangrijke informatie missen. Maar het gevaar is dat het te gemakkelijk is om al onze functies uit te besteden aan computers, wat naar mijn mening een verkeerde beslissing zou zijn.
2. Moet je het echte leven dichter bij het scenario van een videogame brengen?
"Wij houden van computerspelletjes omdat ze niet gemakkelijk te spelen zijn."
TC: Ik merkte met plezier op dat je in je boek videogames noemt als een voorbeeld van interactie in het "mens-machine" -systeem, waarbij het erom gaat moeilijkheden te overwinnen, niet om ze te vermijden. De meest populaire spellen zijn een soort werk dat de speler een gevoel van voldoening geeft. We kunnen alleen maar klagen dat het werk dat velen van ons elke dag moeten doen, veel minder vaardigheid vereist en ons veel minder plezier oplevert.
N. K.: Videogames zijn erg interessant omdat hun concept in strijd is met de algemeen aanvaarde principes van softwareontwikkeling. Het doel van computerspellen is helemaal niet om de gebruiker van het ongemak te ontlasten. Integendeel, ze stimuleren de speler om extra inspanning te leveren en het gebruik van de hersenen te maximaliseren. We genieten juist van videogames omdat ze ons uitdagen met steeds grotere uitdagingen. We bevinden ons constant in moeilijke situaties - maar niet in situaties die wanhoop veroorzaken. Het overwinnen van elk nieuw niveau verbetert alleen onze vaardigheden.
Dit proces lijkt sterk op hoe iemand levenservaring opdoet in het echte leven. Zoals we weten, moet een persoon voor de ontwikkeling van vaardigheden keer op keer met ernstige obstakels worden geconfronteerd en deze keer op keer overwinnen, met gebruikmaking van al zijn kennis en vaardigheden. Geleidelijk bereikt een persoon een nieuw niveau, waarna de moeilijkheidsgraad van obstakels toeneemt.
Ik denk dat mensen van videogames houden om dezelfde reden dat ze voldoening halen uit het opdoen van nieuwe ervaringen en het overwinnen van obstakels. De oplossing van een moeilijke taak, waarbij nieuwe kennis wordt verworven, die nodig is om nieuwe, nog complexere moeilijkheden te overwinnen, geeft een persoon veel plezier.
Een van de belangrijkste zorgen die ik in het boek uit, is dat onze houding ten opzichte van vooruitgang verband houdt met de wens om moeilijke problemen zo veel mogelijk op te lossen. Het lijkt mij dat dit standpunt in tegenspraak is met het concept van levensvoldoening en zelfrealisatie.
3. Zullen computers de behoefte aan mensen overbodig maken?
"Mensen kunnen computers gewoon niet bijhouden wanneer ze in financiële instrumenten handelen"
TC: In tegenstelling tot videogames wordt hard werken in de echte wereld niet per se beloond. De echte wereld is oneerlijk en onevenwichtig. Misschien wel de meest verontrustende trend hier is dat de belangen van het individu (psychologisch, persoonlijk en zelfs in termen van overleving) in toenemende mate niet langer samenvallen met de opvattingen van het bedrijfsleven en de overheid over opportuniteit. Ben je bang dat computers eindelijk mensen zullen vervangen?
N. K.: Toen ik materiaal voor het boek aan het verzamelen was, schrok ik erg van een artikel (citaten waaruit ik citeer in de tekst), geschreven door een specialist in militaire strategie. Volgens hem is er, gezien de groeiende schaal van het gebruik van computertechnologieën op het slagveld, heel binnenkort gewoonweg geen plaats meer voor iemand in militaire aangelegenheden. De snelheid van besluitvorming is zo sterk toegenomen dat mensen de computers simpelweg niet kunnen bijhouden. We zijn onvermijdelijk op weg naar volledig geautomatiseerde oorlogsvoering: drones zullen zelf beslissen wanneer ze raketten op doelen afvuren, en robotsoldaten op de grond beslissen wanneer ze schieten.
Naar mijn mening wordt deze situatie niet alleen waargenomen in militaire aangelegenheden, maar ook op veel andere gebieden - bijvoorbeeld in de financiële wereld. Mensen houden computers gewoon niet bij wanneer ze bijvoorbeeld in financiële instrumenten handelen.
Wat staat ons te wachten? We verliezen misschien niet alleen het vermogen dat ons onderscheidt van computers voor kritische beoordeling van onze eigen acties - misschien zullen we dergelijke systemen gedachteloos implementeren, in de overtuiging dat het belangrijkste de snelheid van besluitvorming is. En als we er dan van overtuigd zijn dat we ongelijk hadden, zullen we ontdekken dat er geen weg meer terug is. Vaak blijkt het onmogelijk te zijn om een persoon te integreren in een systeem dat oorspronkelijk op computertechnologie is gebouwd.
TC: Ik was ook geschokt toen ik een passage in je boek las over geautomatiseerde oorlogsvoering. Ik kreeg het gevoel dat het proces dat ons naar volledig autonome gevechtssystemen zal leiden niet kan worden gestopt. Een deel van mijn afschuw komt voort uit de herinneringen aan de financiële crisis van 2008, die zo goed als triljoenen dollars heeft weggevaagd. Nu zijn mensen in ieder geval meer verantwoordelijk voor hun financiën. Maar als dit op militair gebied gebeurt, worden geen dollars vernietigd, maar mensenlevens.
Bovendien lijkt het me dat er een gedachte is die verwijst naar je vorige boek "Empty": de mensen van vandaag zijn in biologische zin niet veel anders dan onze voorouders die honderden jaren geleden leefden, maar we leven in een compleet nieuwe wereld. de gevolgen van bepaalde acties zijn al lang groter dan de snelheid waaraan we gewend zijn. Hetzelfde geldt voor nieuwe uitvindingen - die zelf, in de vorm van informatie en algoritmen, en de gevolgen daarvan, verspreiden zich in een duizelingwekkend tempo.
Een toekomst zonder mensen?
N. K.: Het punt is niet alleen dat nieuwe technologieën, vooral technologieën op het gebied van software, tegenwoordig zeer snel kunnen worden gerepliceerd en verspreid. Het punt is dat al deze processen plaatsvinden in een competitieve omgeving. Of het nu gaat om een wapenwedloop of een zakelijke wedstrijd, zodra een van de rivalen een kortetermijnvoordeel behaalt ten koste van een bepaalde technologie, beginnen ze deze technologie onmiddellijk waar mogelijk te introduceren - omdat niemand in het nadeel wil blijven.
Ik denk dat het in deze situatie te gemakkelijk is om uit het oog te verliezen dat we in wezen dieren zijn. Mensen hebben millennia lang een evolutionair pad doorlopen om te kunnen leven en overleven. De rol van de mensheid, evenals onze gevoelens van voldoening en zelfrealisatie, hangen nauw samen met onze ervaring van het leven in een wereld die ons gebruikelijke tempo bepaalt.
Daarom, wanneer we iemand, met al zijn fysieke voor- en nadelen, tegen een snelle en nauwkeurige computer stellen, is er een verlangen om ons hele leven aan computers op te geven. We vergeten echter dat totale onderwerping aan de computer ons zal leiden naar een leven waarin er weinig ruimte is voor zelfrealisatie.
4. Hoe automatiseren we de wereld?
"Je kunt slim innoveren, maar je kunt het ook licht doen"
TC: Ik denk dat we kritisch moeten zijn over nieuwe technologieën, maar ik maak me zorgen dat mensen onnodige moeilijkheden en anti-technologische "authenticiteit" in een fetisj veranderen. Er is zo'n moderne denkrichting die zware lichamelijke arbeid prijst en beweert dat alles wat we doen ambachtelijk en authentiek moet zijn. Naar mijn mening riekt zo'n standpunt naar snobisme en houdt het geen rekening met het enorme aantal positieve prestaties dat de democratisering van technologische vooruitgang met zich meebrengt.
N. K.: Ik ben het helemaal met je eens. In een interview werd mij gevraagd hoe mijn voorzichtige houding ten opzichte van vooruitgang bijvoorbeeld mensen helpt die in moeilijke omstandigheden bij vleesverwerkende bedrijven werken. Ik antwoordde dat er natuurlijk altijd een plek zal zijn voor automatisering van de productie waar de arbeidsomstandigheden van mensen moeten worden verbeterd. Het is gewoon dat je slim kunt innoveren, of je kunt het gedachteloos doen; we kunnen een manier vinden om rekening te houden met de waarde van menselijke ervaring en het belang van zelfrealisatie, of we kunnen eenvoudigweg de mogelijkheden van computers prijzen. De juiste keuze maken is niet eenvoudig. Als we deze taak uitsluitend in zwart-wit waarnemen - ofwel komen we blindelings op voor zware, uitputtende fysieke arbeid in welke situatie dan ook, of, omgekeerd, de zin van het leven in sybarisme zien - zal dit de oorzaak niet helpen.
Mensen maken en gebruiken voortdurend tools. Van oudsher moeten we beslissingen nemen met betrekking tot de taakverdeling, met de verdeling van de hoeveelheid werk tussen een persoon en de gereedschappen die hem ter beschikking staan. En het lijkt mij dat de verbazingwekkende efficiëntie van computers bij het uitvoeren van een breed scala aan taken het proces van het nemen van dergelijke beslissingen alleen maar ingewikkelder maakt.
5. Wat staat ons te wachten?
"We moeten ernaar streven dat computers onze levenservaring verrijken en ons niet veranderen in passieve waarnemers van beeldschermen"
T. Ch.: Waar gaat de mensheid dan heen?
NK: Natuurhistoricus Thomas Hughes, die vorig jaar overleed, stelde het concept van een technologisch momentum voor. Hij geloofde dat technologieën die zijn ingebed in sociale structuren en processen zich vanzelf beginnen te ontwikkelen en de samenleving met zich mee slepen. Het is heel goed mogelijk dat ons traject al is uitgezet en dat we doorgaan op ons huidige pad, zonder vragen te stellen of we wel de goede kant op gaan. Ik weet niet echt wat er gaat gebeuren. Het enige dat ik kan doen, is proberen zo goed mogelijk over deze echt lastige vragen te redeneren.
Ik hoop dat we als individuen en als leden van de samenleving in staat zullen zijn om een bepaald niveau van begrip te behouden van wat er met ons gebeurt, evenals een bepaald niveau van nieuwsgierigheid, en dat we beslissingen zullen nemen op basis van onze langetermijnbelangen, en niet op basis van onze gebruikelijke concepten van gemak, snelheid en nauwkeurigheid. en efficiëntie.
Het lijkt mij dat we ernaar moeten streven dat computers onze levenservaring verrijken en nieuwe mogelijkheden voor ons openen, en ons niet in passieve waarnemers van beeldschermen veranderen. Ik denk nog steeds dat als we meer uit nieuwe technologieën halen, ze in staat zullen zijn om te doen wat technologieën en tools in de geschiedenis van de mensheid hebben gedaan: een interessantere wereld om ons heen creëren en ons helpen beter te worden. Uiteindelijk hangt alles van onszelf af.
Tom Chatfield
