Het Compas-algoritme, dat sinds 1998 voor de Amerikaanse politie werkt, analyseerde de gegevens van de beklaagden en hielp vervolgens, op basis van de ontvangen informatie, om te beslissen of de crimineel op borgtocht moest worden vrijgelaten of in hechtenis moest worden gehouden. Bij het kiezen van een mate van terughoudendheid hield het systeem rekening met leeftijd, geslacht en staat van dienst in de criminele arena. Gedurende 20 jaar "dienst" werd het algoritme door meer dan een miljoen mensen geëvalueerd, maar onlangs werd het incompetent verklaard, waarna het onmiddellijk werd teruggeroepen.
Wetenschappers van Dartmouth College hebben getest hoe nauwkeurig het systeem is en of het te vertrouwen is. Om dit te doen, rekruteerden ze freelancers, gewone mensen zonder juridische opleiding, om hun eigen beslissingen te nemen op basis van korte informatie over mensen, waarbij ze de onderwerpen informatie gaven over geslacht, leeftijd, criminele geschiedenis en verschillende andere parameters.
De nauwkeurigheid van de prognose van de freelancers die een klein dossier hadden, was bijna 70 procent, terwijl het programma vijf procent achterliep bij mensen, terwijl ze uitgingen van 137 biografiepunten. Analyse van de oordelen van het algoritme toonde aan dat zwarte gevangenen eerder door het programma worden verdacht.
"Fouten in dergelijke gevallen kunnen erg duur zijn, dus het is de moeite waard om te overwegen of dit algoritme überhaupt moet worden gebruikt om gerechtelijke uitspraken te doen", zegt een van de auteurs van het onderzoek.
Na het principe van het algoritme te hebben bestudeerd, kwamen de onderzoekers tot de conclusie dat hoe jonger de verdachte en hoe meer arrestaties hij achter zich heeft, hoe groter de kans op een terugval, daarom erkenden AI-specialisten de technologie als onbetrouwbaar.
Viacheslav Larionov
