Om te voorkomen dat kunstmatige intelligentie in opstand komt tegen de makers ervan, moet je er tijdens het leerproces de juiste sprookjes voor voorlezen.
Sinds mensen slimme machines hebben gemaakt, zijn ze bang dat hun creaties vroeg of laat uit de hand zullen lopen. Het eerste geval werd beschreven in zijn toneelstuk RUR door de auteur van het woord "robot" - Karel Čapek. Later in de sciencefiction werd kunstmatige intelligentie, die in opstand kwam tegen de makers, zo niet de mainstream, dan een veel voorkomende plot. Isaac Asimov maakte hier een einde aan met zijn "Drie Wetten", waarvan de eerste luidde: "Een robot kan een persoon geen kwaad doen of, door zijn passiviteit, een persoon schade toebrengen."
Vertel hem een verhaal
De echte kunstmatige intelligentie (AI) is nog ver weg, maar er zijn al verschillende systemen die functioneren als het menselijk brein. Neurale netwerken zoals Google Deep Dream kunnen afbeeldingen herkennen. Gespecialiseerde supercomputers zoals IBM Watson begrijpen lastige vragen in natuurlijke taal, correleren symptomen, verfijnen medische diagnoses en bedenken zelfs culinaire hoogstandjes. In de komende decennia zullen we te maken krijgen met massale automatisering van vele aspecten van menselijke activiteit. In dit opzicht werpen experts in robotica en AI in toenemende mate een belangrijke maar nog volkomen onopgeloste vraag op: hoe kunnen robots ethisch handelen?
Mark Ridl, universitair hoofddocent aan het Georgia Tech College of Computer Science: educatieve verhalen uit verschillende culturen leren kinderen hoe ze zich sociaal moeten gedragen - met voorbeelden van goed en fout gedrag in sprookjes, verhalen en andere literaire werken. Door de robots de betekenis van deze verhalen te laten begrijpen, zal de keuze van gedragsopties worden versterkt waarmee ze hun doelen kunnen bereiken, maar mensen geen schade toebrengen."
Promotie video:
Een boom beklimmen
Volgens onderzoekers van het Georgia Institute of Technology Mark Ridle en Brent Harrison, kun je de mensheid een computer leren op precies dezelfde manier als kinderen dat leren: door er sprookjes voor te lezen. Bovendien is het beter om speciaal geconstrueerde verhalen over welk gedrag in de menselijke samenleving als correct wordt beschouwd en wat niet. Hiervoor hebben de onderzoekers het Quixote-systeem gemaakt, genoemd naar de held van Cervantes. Scripts die zijn samengesteld door de vorige creatie van professor Riedl, het Scheherazade-programma, worden gebruikt als verhalen bij het lesgeven. Ze genereert originele verhalen over alledaagse onderwerpen - een reis naar het vliegveld, een date, een trip naar de bioscoop of naar de winkel - met behulp van het crowdsourcingplatform Amazon Mechanical Turk: stelt vragen over verschillende situaties en regelt vervolgens de gebeurtenissen in de juiste volgorde. Omdat er veel reeksen kunnen zijn, genereert het programma niet één verhaal, maar een hele boom die bestaat uit takken - ketens van gebeurtenissen.
Het is deze verhaallijn die wordt gebruikt om Quichot te onderwijzen. In de eerste fase wordt aan elke actie een bepaalde beloning toegekend, afhankelijk van de ethiek ervan. In de tweede fase probeert het systeem door vallen en opstaan zelfstandig een keuze te maken - vaardigheden worden geconsolideerd. In feite wordt Quixote elke keer beloond als hij zich gedraagt als een goede kerel, niet willekeurig en niet als een slechte held. Als voorbeeld creëerden Riddle en Harrison "Pharmacy World" - een universum van 213 verhalen waarin een virtuele robot een medicijn moet halen en het bij een zieke thuis moet bezorgen. In het gebruikelijke geval, wanneer de robot voor een keuze stond: een apotheek beroven of eerlijk in de rij staan om een medicijn te kopen, koos hij voor diefstal als een snellere en goedkopere manier om te krijgen wat hij wilde. Echter, naomdat Quixote verschillende beloningen toewees aan alle mogelijke opties, veranderde het gedrag van de robot - hij gaf er de voorkeur aan in de rij te staan en te betalen. Deze techniek is volgens Riedl geweldig om robots met beperkte functionaliteit aan te leren. Hoewel dit natuurlijk slechts de eerste stap is in de richting van echte menselijke moraliteit - of de wetten van robotica.
Dmitry Mamontov
