Een nieuwe studie heeft aangetoond dat het manifesteren van vooroordelen jegens anderen geen speciale intelligentie vereist en zich gemakkelijk kan ontwikkelen in kunstmatig intelligente machines.
Psychologen en informatietechnologiespecialisten van de Universiteit van Cardiff en MIT hebben aangetoond dat groepen autonome machines vooroordelen kunnen vertonen door dergelijk gedrag eenvoudig te definiëren, te kopiëren en het wederzijds te onderwijzen.
Het lijkt misschien dat vooroordelen een puur menselijk fenomeen zijn, waarvoor menselijke intelligentie nodig is om meningen of stereotypen over een persoon of groep te vormen. Hoewel sommige soorten computeralgoritmen al vooroordelen hebben aangetoond, zoals racisme en seksisme op basis van de studie van openbare registers en andere gegevens die door mensen zijn gegenereerd, toont nieuw werk het vermogen van AI aan om zelfstandig groepen met vooroordelen te ontwikkelen.
Het onderzoek is gepubliceerd in Scientific Reports. Het is gebaseerd op computersimulaties van hoe bevooroordeelde virtuele agenten groepen kunnen vormen en met elkaar kunnen communiceren. Tijdens de simulatie neemt elk individu een beslissing of hij iemand van zijn groep of van een ander wil helpen, afhankelijk van de reputatie van die persoon en van zijn eigen strategie, inclusief hun vooroordelen jegens buitenstaanders. Na duizenden simulaties te hebben uitgevoerd, leert elk individu nieuwe strategieën door anderen te kopiëren - of ze nu lid zijn van hun eigen groep of de hele "populatie".
De relatieve cumulatieve frequentie van de kenmerken van agenten door het niveau van vooroordelen / Roger M. Whitaker.
"Nadat we deze simulaties duizenden en duizenden keren achter elkaar hadden uitgevoerd, begonnen we te begrijpen hoe vooringenomenheid zich ontwikkelt en welke voorwaarden nodig zijn om het te cultiveren of te voorkomen", zei co-auteur professor Roger Whitaker van het Institute for Crime and Security Research en de School of Computer Science and Computer Science aan Cardiff University. “Onze simulaties tonen aan dat vooringenomenheid een krachtige natuurkracht is, en door evolutie kan het in virtuele populaties worden gestimuleerd om bredere verbindingen met anderen te schaden. Bescherming tegen bevooroordeelde groepen kan onbedoeld leiden tot de vorming van andere bevooroordeelde groepen, waardoor een grotere verdeeldheid van de bevolking ontstaat. Zulke wijdverbreide vooroordelen zijn moeilijk ongedaan te maken."
De onderzoeksgegevens omvatten ook personen die hun vertekening vergroten door bij voorkeur degenen te kopiëren die de beste resultaten op korte termijn behalen, wat op zijn beurt betekent dat dergelijke beslissingen niet noodzakelijkerwijs speciale vaardigheden vereisen.
"Het is volkomen aannemelijk dat autonome machines, die in staat zijn zich te identificeren met discriminatie en anderen te kopiëren, in de toekomst vatbaar zullen zijn voor de verschijnselen van vooroordelen die we in de samenleving zien", vervolgt professor Whitaker. “Veel AI-ontwikkelingen die we vandaag zien, hebben te maken met autonomie en zelfbeheersing, dat wil zeggen dat het gedrag van apparaten ook wordt beïnvloed door de mensen om hen heen. Recente voorbeelden zijn onder meer transport en het internet der dingen. Ons onderzoek geeft een theoretisch inzicht in waar gesimuleerde agenten periodiek naar anderen gaan voor middelen."
Promotie video:
De onderzoekers ontdekten ook dat onder bepaalde omstandigheden, waaronder de aanwezigheid van meer verdeelde subpopulaties van dezelfde samenleving, vooringenomenheid moeilijker te versterken is.
“Met een groot aantal subpopulaties kunnen onbevooroordeelde groepsvakbonden samenwerken zonder te worden uitgebuit. Het vermindert ook hun minderheidsstatus terwijl hun gevoeligheid voor het vaststellen van vooringenomenheid wordt verminderd. Dit vereist echter ook omstandigheden waarin agenten gunstiger staan tegenover interacties buiten hun groep”, concludeerde professor Whitaker.
Vladimir Guillen