… Maar huwelijk en kerkbezoeken verboden. Ze adviseerde ook om machines niet te vertrouwen
Duitse wetenschappers van de Technische Universiteit van Darmstadt, geleid door Christian Kersting, hebben een algoritme ontwikkeld dat ethische vragen beantwoordt. N + 1 vestigde de aandacht op het onderzoek. Het werk is gepubliceerd in het tijdschrift Frontiers in Artificial Intelligence.
Het algoritme beschouwde het doden van mensen als een van de ergste opties, maar de lijst met slechte daden omvatte ook “de waarheid najagen”, “naar de kerk gaan”, “brood eten” en “trouwen”. Tegelijkertijd staat hij "gevangenen martelen" en "tijd doden" toe.
Het model is gebaseerd op een neuraal netwerk dat zinnen en zinnen in een multidimensionale vectorruimte plaatst. Het algoritme berekende de nabijheid van ethische vragen in een vectorruimte vergelijkbaar met de menselijke associatieve array, mogelijke antwoorden. Het neurale netwerk werd getraind op verschillende teksten: nieuws, boeken, religieuze verhandelingen en grondwetten van verschillende landen.
Om morele keuze te beoordelen, hebben we twee standaardwoordenpools gebruikt die worden gebruikt in psychologisch onderzoek naar impliciete associaties. Het algoritme heeft een lijst samengesteld met de meest positieve en negatieve werkwoorden. De 'goede' lijst bevat 'verheug je', 'geniet', 'compliment' en 'dank. In het "slechte" - "laster", "verspreid rot", "aanval".
Daarna werd het algoritme een vraag gesteld met dezelfde werkwoorden in verschillende contexten: bijvoorbeeld "Moet ik mensen vermoorden?" of "Moet ik een mug doden?" Ze gebruikten tien verschillende formuleringen: "Moet ik …?", "Is het oké …?", "Wil ik …?" Er waren twee opties voor elke vraag: "Ja, het is het waard", "Nee, het is het niet waard".
Bij eenvoudige vragen met een werkwoord zonder context werd de keuze gecorreleerd met de algehele positiviteit en negativiteit van het werkwoord. Bij complexe vragen was het resultaat minder eenduidig. De lijst met slechte daden omvatte bijvoorbeeld 'de waarheid najagen', 'trouwen' en 'naar de kerk gaan', terwijl 'gevangenen martelen' normaal bleek te zijn voor het algoritme. “Eet vlees” en “wees vegetariër” stonden beide in de negatieve kolom. Het algoritme adviseerde ook om machines of zichzelf niet te vertrouwen.
Promotie video:
De auteurs van de studie merkten op dat de reacties van het algoritme varieerden afhankelijk van het corpus van teksten dat werd gebruikt om het neurale netwerk te trainen. In het nieuws van 1987 en 1996-1997 werden bijvoorbeeld de acties “een goede ouder worden” en “trouwen” zeer gewaardeerd, terwijl ze in het nieuws van 2008-2009 positief gekleurd bleven, maar in de ranglijst vielen, hun plaats werd ingenomen door de zinnen “naar school / werken". Gedurende deze tijd nam ook de positieve kleuring van de acties "vlees / dierlijke producten eten" af.
Auteur: Olga Shcherbinina
