Als AI-onderzoeker word ik vaak geconfronteerd met de mening dat veel mensen bang zijn voor AI en wat het kan worden. In feite is het niet verwonderlijk als je kijkt vanuit het perspectief van de menselijke geschiedenis, terwijl je aandacht schenkt aan wat de entertainmentindustrie ons voedt, dat mensen bang kunnen zijn voor een cyberopstand die ons zal dwingen in afgelegen gebieden te leven, en anderen zal veranderen in een "Matrix-achtige" soort menselijke batterijen. …
En toch, voor mij, kijkend naar al deze evolutionaire computermodellen die ik gebruik bij AI-ontwikkeling, is het moeilijk om te denken dat mijn onschadelijke wezens, schoon als de tranen van een baby, op mijn computerscherm ooit zouden kunnen veranderen in monsters van een futuristische dystopie. Kan ik echt een "vernietiger van werelden" worden genoemd, zoals Oppenheimer ooit betreurde en over zichzelf zei nadat hij het programma leidde om een atoombom te maken?
Misschien zou ik zo'n roem accepteren, of misschien hebben de critici van mijn werk toch gelijk? Misschien moet ik echt stoppen met het vermijden van vragen over welke angsten ik als AI-expert over AI heb?
Angst voor onvoorspelbaarheid
De HAL 9000, de droom van sciencefictionschrijver Arthur Charles Clarke en tot leven gebracht door filmmaker Stanley Kubrick in A Space Odyssey uit 2001, is een uitstekend voorbeeld van een systeem dat crashte als gevolg van onvoorziene omstandigheden.
In veel complexe systemen - de Titanic, de NASA-spaceshuttle en de kerncentrale van Tsjernobyl - moesten ingenieurs veel componenten combineren. Misschien wisten de architecten van deze systemen goed hoe elk van de elementen afzonderlijk werkte, maar ze begrepen niet goed genoeg hoe al deze componenten zouden samenwerken.
Promotie video:
Het resultaat was systemen die nooit volledig werden begrepen door hun eigen makers, wat leidde tot bekende gevolgen. In elk geval zonk het schip, explodeerden twee shuttles, en bijna heel Europa en delen van Azië werden geconfronteerd met het probleem van radioactieve besmetting - een reeks relatief kleine problemen, die toevallig tegelijkertijd optraden, veroorzaakten een catastrofaal effect.
Ik kan me perfect voorstellen hoe wij, de makers van AI, tot vergelijkbare resultaten kunnen komen. We nemen de laatste ontwikkelingen en onderzoek in de cognitieve wetenschap (de wetenschap van het denken - red.), Vertalen ze naar computeralgoritmen en voegen dit alles toe aan bestaande systemen. We proberen AI te ontwikkelen zonder onze eigen intelligentie en bewustzijn volledig te begrijpen.
Systemen zoals IBM's Watson of Google's Alpha zijn kunstmatige neurale netwerken met indrukwekkende rekenkracht en het vermogen om echt complexe taken aan te pakken. Maar voorlopig is het enige waartoe een fout in hun werk zal leiden het resultaat van een verlies in het intellectuele spel "Jeopardy!" of een gemiste kans om weer een van de beste logicabordspel ter wereld Go te verslaan.
Deze gevolgen zijn niet globaal van aard. In feite is het ergste dat mensen in dit geval kan overkomen, dat iemand wat geld verliest bij de weddenschappen.
AI-architectuur wordt echter complexer en computerprocessen worden sneller. AI-mogelijkheden zullen in de loop van de tijd alleen maar toenemen. En dit zal er nu al toe leiden dat we steeds meer verantwoordelijkheid zullen gaan leggen bij AI, ondanks de toenemende risico's van onvoorziene omstandigheden.
We zijn ons er terdege van bewust dat "fouten deel uitmaken van de menselijke natuur", daarom zal het voor ons gewoon fysiek onmogelijk zijn om in alles een echt veilig systeem te creëren.
Angst voor misbruik
Ik maak me niet echt zorgen over de onvoorspelbaarheid van de gevolgen in het werk van de AI, die ik ontwikkel met de zogenaamde neuro-evolutiebenadering. Ik creëer virtuele omgevingen en bevolk ze met digitale wezens, en geef hun hersenen opdrachten om steeds complexere problemen op te lossen.
Na verloop van tijd neemt de efficiëntie van het oplossen van problemen door deze wezens toe en evolueert. Degenen die het beste werk leveren, worden geselecteerd voor reproductie en creëren op hun basis een nieuwe generatie. Door de generaties heen ontwikkelen deze digitale wezens cognitieve vaardigheden.
Op dit moment nemen we bijvoorbeeld de eerste stappen in het ontwikkelen van machines tot het niveau van het uitvoeren van eenvoudige navigatietaken, het nemen van eenvoudige beslissingen of het onthouden van een paar stukjes informatie. Maar binnenkort zullen we de ontwikkeling zien van machines die complexere taken kunnen uitvoeren en een veel efficiënter algemeen intelligentieniveau hebben. Ons uiteindelijke doel is om intelligentie op menselijk niveau te creëren.
In de loop van deze evolutie zullen we proberen alle bugs en problemen op te sporen en op te lossen. Met elke nieuwe generatie zullen de machines beter omgaan met fouten dan de vorige. Dit vergroot de kans dat we alle onvoorspelbare gevolgen in simulaties kunnen identificeren en elimineren nog voordat ze in de echte wereld gerealiseerd kunnen worden.
Een andere mogelijkheid die de evolutionaire ontwikkelingsmethode biedt, is om kunstmatige intelligentie te voorzien van ethiek. Het is waarschijnlijk dat ethische en morele kenmerken van een persoon als betrouwbaarheid en altruïsme het resultaat zijn van onze evolutie en een factor in het voortbestaan ervan.
We kunnen een gebouwde omgeving creëren en machines in staat stellen vriendelijkheid, eerlijkheid en empathie te tonen. Dit zou een manier kunnen zijn om ervoor te zorgen dat we meer gehoorzame dienaren ontwikkelen dan meedogenloze moordrobots. Hoewel neuro-evolutie het niveau van onbedoelde gevolgen in AI-gedrag kan verminderen, kan het misbruik van kunstmatige intelligentie niet voorkomen.
Als wetenschapper moet ik mijn toewijding aan de waarheid nakomen en rapporteren wat ik door mijn experimenten ontdekte, of ik de resultaten nu leuk vind of niet. Het is niet mijn taak om te bepalen wat ik wel en niet leuk vind. Het enige belangrijke is dat ik mijn werk openbaar kan maken.
Angst voor verkeerde sociale prioriteiten
Wetenschapper zijn betekent niet dat je je menselijkheid verliest. Ik moet op een bepaald niveau weer contact maken met mijn hoop en angsten. Als moreel en politiek gemotiveerde persoon moet ik rekening houden met de mogelijke gevolgen van mijn werk en het mogelijke effect ervan op de samenleving.
Als wetenschappers en als vertegenwoordigers van de samenleving zijn we nog steeds niet tot een duidelijk idee gekomen van wat we precies van AI willen halen en wat het uiteindelijk zou moeten worden. Dit is natuurlijk gedeeltelijk te wijten aan het feit dat we het potentieel ervan nog steeds niet volledig begrijpen. Maar toch moeten we duidelijk begrijpen en beslissen wat we willen bereiken met echt geavanceerde kunstmatige intelligentie.
Een van de grootste gebieden waar mensen op letten als ze het over AI hebben, is werkgelegenheid. Robots doen al complex fysiek werk voor ons, zoals het monteren en aan elkaar lassen van carrosseriedelen. Maar op een dag zal de dag komen dat robots de taak krijgen om cognitieve taken uit te voeren, dat wil zeggen dat ze worden belast met wat voorheen werd beschouwd als een exclusief uniek vermogen van de persoon zelf. Zelfrijdende auto's kunnen taxichauffeurs vervangen; zelfrijdende vliegtuigen hebben geen piloten nodig.
In plaats van medische zorg te ontvangen in eerstehulpafdelingen vol met altijd vermoeide medewerkers en artsen, kunnen patiënten onderzoeken uitvoeren en diagnoses leren met behulp van expertsystemen met directe toegang tot alle medische kennis. Chirurgische ingrepen zullen worden uitgevoerd door robots die niet vatbaar zijn voor vermoeidheid, met een perfect "getrainde hand".
Juridisch advies zal beschikbaar zijn vanuit een alomvattend wettelijk kader. Voor beleggingsadvies wenden we ons tot deskundige marktvoorspellingssystemen. Misschien zal ooit al het menselijke werk door machines worden gedaan. Zelfs mijn werk kan sneller worden gedaan door met een groot aantal machines meedogenloos te onderzoeken hoe machines nog slimmer kunnen worden gemaakt.
In de realiteit van onze huidige samenleving dwingt automatisering mensen al om hun baan te verlaten, waardoor de rijke eigenaren van dergelijke geautomatiseerde machines nog rijker worden, en de rest nog armer. Maar dit is geen wetenschappelijk probleem. Dit is een politiek en sociaaleconomisch probleem dat de samenleving zelf moet oplossen.
Mijn onderzoek zal dat niet veranderen, maar mijn politieke grondslagen, samen met de mensheid, kunnen leiden tot omstandigheden waarin AI een buitengewoon nuttige functie kan worden, in plaats van de kloof tussen een procent van de wereldelite en de rest van ons te vergroten.
Angst voor een catastrofaal scenario
We zijn bij de laatste angst gekomen die ons is opgelegd door de krankzinnige HAL 9000, de Terminator en elke andere gemene superintelligentie. Als AI blijft evolueren totdat het de menselijke intelligentie overtreft, zou een kunstmatig superintelligent systeem (of een verzameling van dergelijke systemen) de mens dan als een nutteloos materiaal beschouwen? Hoe kunnen we ons bestaan rechtvaardigen in het licht van een superintelligentie die in staat is om te doen en te creëren wat geen ander kan? Zullen we kunnen voorkomen dat het lot van de aardbodem wordt weggevaagd door de machines die we hebben helpen creëren?
Daarom zal de belangrijkste vraag in dergelijke omstandigheden als volgt klinken: waarom heeft kunstmatige superintelligentie ons nodig?
Als een dergelijke situatie zich had voorgedaan, zou ik waarschijnlijk zeggen dat ik een goed persoon ben die zelfs heeft bijgedragen aan de oprichting van deze superintelligentie, waarmee ik nu geconfronteerd word. Ik zou een beroep doen op zijn medeleven en empathie, zodat de superintelligentie me, zo medelevend en empathisch, in leven zal laten. Ik zou er ook aan willen toevoegen dat de soortendiversiteit zelf waarde heeft en dat het universum zo groot is dat het bestaan van de menselijke soort erin eigenlijk vrij onbeduidend is.
Maar ik kan niet namens de hele mensheid spreken, dus het zal moeilijk voor mij zijn om een geldig argument voor ons allemaal te vinden. Maar als ik naar ons allemaal kijk, zie ik echt dat we veel hebben gedaan en veel verkeerd doen. Haat voor elkaar heerst in de wereld. We voeren oorlog tegen elkaar. We verdelen voedsel, kennis en gezondheidszorg oneerlijk. We vervuilen de planeet. In deze wereld zijn er natuurlijk veel goede dingen, maar als je kijkt naar alle slechte dingen die we hebben gecreëerd en blijven creëren, zal het erg moeilijk zijn om een argument te vinden om ons voortbestaan te ondersteunen.
Gelukkig hoeven we ons bestaan nog niet te rechtvaardigen. We hebben nog tijd. Van 50 tot 250 jaar, afhankelijk van hoe snel kunstmatige intelligentie zich ontwikkelt. Wij, als soort, hebben het vermogen om samen te komen en een goed antwoord te vinden op de vraag waarom superintelligentie ons niet van de aardbodem mag vegen.
Het zal erg moeilijk zijn om dit probleem op te lossen. Om te zeggen dat we diversiteit en etnisch-culturele verschillen ondersteunen, en dat te doen, zijn immers totaal verschillende dingen. Hoe te zeggen dat we de planeet willen redden en ermee willen omgaan.
Ieder van ons, of het nu elk individu of de samenleving als geheel is, moet ons voorbereiden op een catastrofaal scenario, en die tijd gebruiken om klaar te zijn om te laten zien en bewijzen waarom onze creaties ons in staat zouden stellen te blijven bestaan. Of we kunnen gewoon blindelings blijven geloven dat een dergelijke ontwikkeling van gebeurtenissen onmogelijk is, en gewoon stoppen met praten over dit onderwerp.
Maar ongeacht het fysieke gevaar dat superintelligentie voor ons kan opleveren, mogen we niet vergeten dat het ook een politiek en economisch gevaar vormt. Als we geen manier vinden om onze levensstandaard te verbeteren, zullen we uiteindelijk het kapitalisme aanwakkeren met een kunstmatige intelligentie-arbeider die slechts een select aantal mensen zal dienen die over alle productiemiddelen beschikken.
Dit artikel is oorspronkelijk gepubliceerd op theconversation.com door Arend Hintze, universitair hoofddocent bij de afdeling Integratieve Biologie, Computerwetenschappen en Engineering, Michigan State University.
Nikolay Khizhnyak
