De angst voor kunstmatige intelligentie is al lang ingebakken in de populaire cultuur. De beste geesten van de mensheid, van Stephen Hawking tot Elon Musk, hebben gesproken over de existentiële dreiging van de digitale geest voor de mensheid.
Professor aan de University of California in Berkeley Stuart Russell vertelt er ook over, maar in zijn visie op de toekomst zijn er geen kwaadaardige robots die in opstand komen tegen de menselijke overheersing.
Volgens Russell zullen de machines op een gegeven moment gewoon zo effectief worden dat ze ons vernietigen en de taken uitvoeren die we ze hebben gegeven.
Russell is een machine learning-expert en auteur van Human Compatible: AI and the Problem of Control.
"De traditionele Hollywood-verhaallijn is dat machines spontaan bewust worden en dan besluiten dat ze mensen haten en iedereen willen vermoorden", merkt professor Russell op.
Maar dit is naar zijn mening een verkeerde visie op de robo-apocalyps, omdat machines geen menselijke emoties hebben.
"We hoeven ons geen zorgen te maken over het zelfbewustzijn van kwaadaardige machines, maar over de competentie van de machines die de taken uitvoeren die we hebben opgelegd", is de wetenschapper ervan overtuigd.
Promotie video:
Te competent
In een interview met BBC Today beschreef professor Russell een hypothetische situatie waarin het bestaan van de mensheid zou kunnen worden bedreigd door kunstmatige intelligentie.
Stel je voor dat er een superkrachtige kunstmatige intelligentie is die het klimaat op de planeet kan beheersen. Hij heeft de taak om het kooldioxidegehalte in de atmosfeer terug te brengen naar het pre-industriële niveau.
“Het systeem zal van mening zijn dat de meest effectieve manier om dit te doen is om mensen te vernietigen. Ze produceren kooldioxide”, zegt de professor.
“Dit kan bijvoorbeeld worden omzeild door haar een voorwaarde te maken om niet van mensen af te komen. Wat doet het systeem dan? Ze zal ervoor zorgen dat er steeds minder kinderen worden geboren totdat er helemaal geen mensen meer zijn."
Dit is een voorbeeld van waartoe kunstmatige intelligentie kan leiden onder ondoordachte menselijke instructies.
Superintelligentie
AI-systemen die tegenwoordig bestaan, hebben nauw gerichte toepassingen. Ze zijn ontworpen om duidelijk omschreven problemen op één gebied op te lossen, zeggen wetenschappers van het Centre for the Study of Existential Risks van Cambridge University.
Het triomfantelijke moment voor deze AI-filosofie was de overwinning van de Deep Blue-computer op de regerend wereldkampioen schaken Garry Kasparov in 1997.
* Deep Blue's overwinning op Kasparov in 1997 was een AI-triomf.
Maar Deep Blue is exclusief gemaakt voor het schaakspel. Bij dammen zou hij hebben verloren van een vijfde klasser.
Recente vorderingen op het gebied van kunstmatige intelligentie hebben ons zeer verschillende programma's opgeleverd.
Het AlphaGo Zero-programma leerde bijvoorbeeld Go zelfstandig te spelen, zonder gebruik te maken van gegevens over eerdere games die door mensen werden gespeeld, en in slechts drie dagen spelen met zichzelf bereikte het een niveau dat voor een gewoon persoon onbereikbaar was.
Er werden deep learning-algoritmen gebruikt om AlphaGo Zero te creëren. Dit betekent dat er relatief weinig mensenwerk nodig was om het programma te ontwikkelen.
Tegelijkertijd weet AlphaGo Zero goed te spelen, zowel schaken als shogi.
Bedenk dat het programma volledig zelflerend is. Dit kan bij sommigen zorgen baren.
"Naarmate AI krachtiger en veelzijdiger wordt, bestaat het risico dat het superintelligent wordt, dat wil zeggen dat het de mens op veel of alle gebieden zal overtreffen", zegt het Centre for the Study of Existential Risks.
We weten niet wat we willen
Professor Russell gelooft dat het simpelweg geven van AI heel specifieke taken geen uitweg is, omdat mensen zelf niet in staat zijn om ze goed genoeg te formuleren.
"We realiseren ons niet dat we iets niet leuk vinden totdat het gebeurt", zegt hij.
"We moeten de basisaanpak voor het maken van AI-systemen veranderen", voegt de professor toe. Hij vindt dat het fundamenteel verkeerd is om robots een taak te geven die ze vervolgens uitvoeren.
“Het systeem moet begrijpen dat het doel het niet duidelijk is. hij zegt. - Wanneer dergelijke systemen worden gemaakt, zijn ze echt afhankelijk van de persoon. Ze beginnen toestemming te vragen voordat ze iets doen, omdat ze niet zeker weten of je dat wel wilt."
Het belangrijkste is, zegt de professor, dat ze het niet zullen weerstaan als je besluit ze uit te schakelen, omdat ze zijn ontworpen om niet te doen wat je niet leuk vindt.
Aladdin's lamp
AI wordt tegenwoordig gemaakt alsof het een geest van een lamp is, zegt professor Russell. Je wrijft over de lamp en zegt: "Ik wil dat dit en dat gebeurt."
In Stanley Kubrick's 2001 * A Space Odyssey * komt een superintelligente computer in opstand tegen mensen die besluiten hem af te sluiten.
En als kunstmatige intelligentie krachtig genoeg is, zal het precies doen wat u vraagt.
"Het probleem met gin is dat de derde wens altijd is om de eerste twee te annuleren, omdat de persoon ze verkeerd heeft geformuleerd."
"Een machine die het verkeerde doel nastreeft, wordt de facto de vijand van de mensheid, en deze vijand is veel sterker dan wij", besluit de wetenschapper.