De beroemde Britse natuurkundige Stephen Hawking zei in een artikel geïnspireerd door de sciencefictionfilm "Transcendence" met Johnny Depp in de hoofdrol dat het onderschatten van de dreiging van kunstmatige intelligentie de grootste fout in de menselijke geschiedenis kan zijn.
In een artikel geschreven in samenwerking met professor computerwetenschappen Stuart Russell van de University of California in Berkeley en natuurkundeprofessoren Max Tegmark en Frank Wilczek van MIT, wijst Hawking op een aantal vorderingen in kunstmatige intelligentie, zoals zelfrijdende auto's, Siri's stemassistent en de supercomputer. de winnaar van de man in het Jeopardy TV-quizspel.
“Al deze prestaties verbleken tegen de achtergrond van wat ons de komende decennia te wachten staat. De succesvolle creatie van kunstmatige intelligentie wordt de grootste gebeurtenis in de menselijke geschiedenis. Helaas kan het de laatste blijken te zijn, als we niet leren om risico's te vermijden”, wordt Hawking geciteerd door de Britse krant The Independent.
Hoogleraren schrijven dat het in de toekomst kan gebeuren dat niemand en niets machines met onmenselijke intelligentie uit zelfverbetering kan stoppen. En dit zal het proces van de zogenaamde technologische singulariteit op gang brengen, wat een extreem snelle technologische ontwikkeling betekent. In de film met de deelname van Depp wordt het woord "transcendentie" in deze zin gebruikt.
Stelt u zich eens voor dat dergelijke technologie de mensen overtreft en de financiële markten, wetenschappelijk onderzoek, mensen en de ontwikkeling van wapens begint te beheersen die ons begrip te boven gaan. Als het kortetermijneffect van kunstmatige intelligentie afhangt van wie het beheert, dan hangt het langetermijneffect ervan af of het überhaupt te beheersen is.
Het is moeilijk te zeggen welke gevolgen kunstmatige intelligentie kan hebben voor mensen. Hawking is van mening dat er buiten non-profitorganisaties als het Cambridge Centre for the Study of Existential Risks, het Institute for the Future of Humanity en onderzoeksinstituten voor machine-intelligentie en het toekomstige leven weinig serieus onderzoek aan deze kwesties is gewijd.
Volgens hem zouden we ons allemaal moeten afvragen wat we nu kunnen doen om het worstcasescenario van de toekomst te vermijden.