Een studie door wetenschappers van het Massachusetts Institute of Technology heeft de details onthuld van het proces van data-analyse door kunstmatige intelligentie, dat vaak wordt geleid door seksistische en racistische stereotypen bij de besluitvorming. Verschillende systemen die aan het experiment deelnamen, toonden vatbaarheid voor menselijke vooroordelen.
De Britse krant "The Daily Mail" schrijft dat het team van wetenschappers na ontvangst van de resultaten van het onderzoek zich ertoe heeft verbonden de kunstmatige intelligentie te herprogrammeren en eerdere problemen te elimineren. Volgens Irene Chen, die aan het Massachusetts Institute of Technology werkt, neigen computerwetenschappers tot de conclusie dat de enige manier om elementen van racisme en seksisme in kunstmatige intelligentie-algoritmen te elimineren, het verbeteren van de softwarecode is. De kwaliteit van algoritmen is recht evenredig met de gegevens waarop ze werken. Onderzoek door Chen met David Sontag en Fredrik D. Johannson toont aan dat meer beschikbare gegevens de zaken radicaal ten goede kunnen veranderen.
In één experiment keek het team naar een systeem dat het inkomen van een persoon voorspelde op basis van beschikbare informatie. Uit analyse is gebleken dat het algoritme in 50% van de gevallen geneigd is te voorspellen dat het inkomen van een vrouw gemiddeld lager zal zijn dan dat van een man. Door de hoeveelheid beschikbare gegevens 10 keer te vergroten, ontdekten de wetenschappers dat de factor van een dergelijke fout met 40% afnam.
Bovendien was in een onderzoek naar het systeem dat in ziekenhuizen wordt gebruikt en dat de overleving voorspelt van patiënten die een zware operatie ondergaan, de nauwkeurigheid van de voorspellingen veel lager voor het Mongoloïde ras dan voor de blanken en negers. Wetenschappers beweren echter dat het gebruik van de geavanceerde analysetechniek de voorspellingsnauwkeurigheid aanzienlijk kan verminderen voor patiënten die niet tot het Mongoloid-ras behoren. Dit toont aan dat meer beschikbare gegevens niet altijd algoritmefouten corrigeren. In plaats daarvan zouden wetenschappers meer informatie moeten krijgen over gediscrimineerde groepen.
De nieuwe methode roept een andere vraag op voor machine learning-onderzoekers over hoe ze gegevens efficiënt kunnen analyseren zonder bestaande discriminatie.
Hoe werkt machine learning in AI-aangedreven systemen?
Systemen voor kunstmatige intelligentie zijn gebaseerd op kunstmatige neurale netwerken (ANN's), die de informatieopslag- en leertechnieken die door het menselijk brein worden gebruikt, extrapoleren naar mechanische systemen. ANN's trainen om patronen te vinden in beschikbare informatiebronnen, waaronder spraak, tekst en afbeeldingen. Het verbeteren van de nauwkeurigheid van data-analyse is een van de fundamentele voorwaarden die dateren van vóór de laatste ontwikkelingen op het gebied van kunstmatige intelligentie.
"Normale" kunstmatige intelligentie gebruikt de invoergegevens om het algoritme te vertellen over het onderwerp van de analyse, terwijl het met een enorme hoeveelheid informatie werkt.
Promotie video:
Praktische toepassingen van machine learning zijn onder meer Google-vertaaldiensten, gezichtsherkenning van Facebook-foto's en filters in Snapchat die gezichten scannen voordat visuele effecten online worden toegepast.
Het gegevensinvoerproces is vaak tijdrovend en wordt meestal beperkt door de informatiestroom over een aspect van het object dat wordt bestudeerd. Een nieuw type ANN - een generatief vijandig neuraal netwerk - verzet zich tegen de mogelijkheden van twee verschillende robots met kunstmatige intelligentie tegelijk, waardoor een minder intelligent systeem wordt uitgelokt ten koste van het tweede zonder menselijke tussenkomst. Deze techniek verbetert de efficiëntie en snelheid van machine learning aanzienlijk, terwijl de kwaliteit van de gegevensanalyse toeneemt.
Oliy Kurilov
