Wetenschappers van de University of Chicago (VS) voerden een onderzoek uit, waarin ze lieten zien hoe AI kan worden gebruikt om complexe neprecensies te schrijven. Dergelijke recensies zijn volgens moderne methoden niet van echte te onderscheiden, en nietsvermoedende lezers vinden ze zeer betrouwbaar.
Restaurantrecensies werden gegenereerd met behulp van terugkerende neurale netwerken (deep learning-technieken) die eerder werden getraind op de duizenden real-life beoordelingen die op internet beschikbaar zijn.
Volgens de onderzoekers waren de gegenereerde beoordelingen vrijwel niet van de echte te onderscheiden. De auteurs van het werk toonden dus aan dat gebruikers neprecensies niet alleen niet herkenden, maar ze ook als nuttig beschouwden als echte door mensen geschreven.
Dit laatste is waarschijnlijk het meest verontrustend. Omdat dit in wezen betekent dat beoordelingen die door AI zijn geschreven, hun belangrijkste functie vervullen: ze beïnvloeden doelbewust de mening van mensen.
Opgemerkt wordt dat bij dergelijke reviews (met software) zelden plagiaat werd geconstateerd. Dit komt door het feit dat de AI ze per karakter heeft gegenereerd, in plaats van woorden uit echte recensies te plukken.
Tegenwoordig is er een vrij grote ondergrondse industrie waar mensen neprecensies schrijven (voor geld). Zoals echter opgemerkt door professor Ben Y. Zhao van de Universiteit van Chicago in een interview met Business Insider, zou de introductie van AI dit kunnen ondermijnen. De wetenschapper zegt dat hij nog niet weet van het gebruik van dergelijke algoritmen in deze branche. Maar er is geen garantie dat iemand niet met iets soortgelijks komt en het niet voor persoonlijk gewin zal gebruiken.
Tegelijkertijd schrijven de onderzoekers dat de reacties van het neurale netwerk nog steeds niet ideaal waren. Het bleek dat het algoritme een kleinere set tekens gebruikte - en dit was niet moeilijk te zien. Volgens de auteurs van het werk kunnen toekomstige neurale netwerken echter nog complexer zijn, en bijgevolg zal de feedback die ze genereren moeilijker te detecteren zijn.
Jiao merkt op dat het niet alleen om neprestaurantrecensies gaat: dergelijke technologieën kunnen over het algemeen onze overtuigingen over wat echt is en wat niet, doen schudden.
Promotie video:
De tekst van de studie is hier te vinden.
