De campagne voor de presidentsverkiezingen in de Verenigde Staten is officieel van start gegaan, wat op zijn beurt een overvloed aan vreemde en verraderlijke manieren betekent waarop technologie de politiek verstoort. Een van de grootste bedreigingen zijn kunstmatige persoonlijkheden die hartstochtelijk betrokken zijn bij politieke geschillen. Enerzijds ontwikkelt de technologie voor het genereren van tekst op basis van kunstmatige intelligentie zich sneller dan ooit, anderzijds zijn chatbots in sociale netwerken bijna tot in de perfectie gekomen. Deze computergegenereerde "mensen" zullen binnenkort echte menselijke discussies op internet overstemmen.
Software voor het genereren van tekst is goed ontwikkeld genoeg om bijna iedereen voor de gek te houden. De computer is uitstekend in het schrijven van nieuws, vooral over sport en financiën, het adviseren van klanten over investeringssites en het schrijven van boeiende artikelen over andere nieuwsonderwerpen (hoewel er beperkingen zijn).
Tegelijkertijd bestaan er al algoritmen die inhoud kunnen genereren die niet te onderscheiden is van de posts van gewone gebruikers. In 2017 hield de FCC een openbaar debat over haar plannen om een einde te maken aan netneutraliteit. Er werden maar liefst 22 miljoen reacties op dit onderwerp ontvangen. Velen van hen - misschien de helft - waren nep, waarbij de aanvallers gestolen identiteitsgegevens gebruikten. Sommige opmerkingen waren onbeleefd, 1,3 miljoen werden gegenereerd op basis van hetzelfde sjabloon - sommige woorden werden erin gewijzigd om de berichten uniek te maken.
En technologieën op dit gebied zijn actief in ontwikkeling. In zijn experiment gebruikte Harvard-onderzoeker Max Weiss tekstgenererende software om 1000 commentaren te maken in reactie op het Medicaid-initiatief van de overheid. Al deze commentaren waren uniek en zagen eruit alsof ze waren geschreven door echte mensen die een bepaald politiek standpunt steunden. Ze slaagden erin de beheerders van Medicaid.gov te laten denken dat ze echte angsten waren voor echte mensen. Tijdens zijn onderzoek onthulde Weiss vervolgens dat de opmerkingen nep waren en vroeg hij ze te verwijderen. Maar een andere persoon of groep indringers die dit pad volgt, is waarschijnlijk niet zo erg moreel.
Chatbots komen al jaren aan bod in discussies op sociale media. Volgens een schatting werd ongeveer een vijfde van alle tweets over de presidentsverkiezingen van 2016 door bots gepost en ongeveer een derde van de stemmen voor Brexit in hetzelfde jaar. In een rapport van Oxford University vorig jaar vonden onderzoekers bewijs dat bots worden gebruikt om propaganda te verspreiden in 50 landen. In de regel waren dit eenvoudige programma's die gedachteloos slogans herhaalden: bijvoorbeeld een kwart miljoen pro-Saoedische tweets "We geloven allemaal in Mohammed bin Salman" na de moord op Jamal Khashoggi in 2018. Betere bots vinden is veel moeilijker. En het meten van de effectiviteit van deze bots is moeilijk. Ze verdraaien allemaal de publieke opinie en het geloof in een goed beredeneerd politiek debat. In feite,we zitten allemaal midden in een nieuw sociaal experiment.
Door de jaren heen hebben algoritmische bots hele persoonlijkheden ontwikkeld. Ze hebben valse namen, nepbiografieën en nepfoto's, soms door de computer gegenereerd. In plaats van eindeloos propaganda te verspreiden, plaatsen ze slechts af en toe berichten. Onderzoekers ontdekken misschien dat ze bots zijn en geen mensen op basis van postpatronen, maar de bottechnologie verbetert voortdurend en overtreft de pogingen om ze te volgen. De bots van de toekomst zullen beter worden vermomd als sociale groepen mensen, propaganda zal subtiel verweven worden in tweets over onderwerpen die verband houden met deze sociale groepen.
Binnenkort kunnen Sims die door het programma worden bestuurd, persoonlijke brieven aan kranten en in PM's aan gekozen functionarissen schrijven, gepersonaliseerde commentaren geven voor openbare regelgevingsprocessen en zich op intelligente wijze uitspreken over politieke kwesties op sociale media. Ze zullen kunnen reageren op berichten op sociale netwerken, nieuwssites, enz. Er zullen permanente karakters worden gecreëerd die zelfs voor degenen die ze bestuderen echt zullen lijken. Ze zullen zichzelf kunnen presenteren op sociale media en gepersonaliseerde teksten kunnen sturen. Ze zullen zich in miljoenen vermenigvuldigen en miljarden berichten sturen, lang en kort, de klok rond. Samen kunnen ze elk echt debat op internet overstemmen. Niet alleen op social media, maar overal waar reacties zijn.
Misschien worden deze personages gecontroleerd door buitenlandse indringers. Misschien zullen dit interne politieke groepen zijn. Misschien zijn het de kandidaten zelf. Hoogstwaarschijnlijk zal iedereen het gebruiken. De belangrijkste les van de verkiezingen van 2016 over desinformatie is niet dat desinformatie werd gepubliceerd; maar het is goedkoop en gemakkelijk om mensen verkeerd te informeren. Toekomstige technologische ontwikkelingen zullen dit alles nog betaalbaarder maken.
Promotie video:
Onze toekomst zal een gewelddadig politiek debat zijn waarin bots meestal ruzie zullen maken met andere bots. Dit is niet wat we ons voorstellen als we de markt prijzen voor ideeën of enig democratisch politiek proces. Om een democratie goed te laten werken, zijn twee dingen nodig: informatie en vertegenwoordiging. Kunstmatige karakters raken beide dingen.
De oplossing voor het probleem is nog niet duidelijk. We kunnen proberen het gebruik van bots te reguleren - de voorgestelde Californische wet vereist dat bots zichzelf identificeren - maar dit is alleen effectief tegen legitieme influencer-campagnes zoals advertenties. De verborgen invloed zal veel moeilijker te detecteren zijn. De meest voor de hand liggende verdediging is de ontwikkeling en standaardisatie van betere authenticatiemethoden. Als sociale netwerken er zeker van zijn dat er een echte persoon achter elk account zit, zullen ze beter in staat zijn om neppersonen te wieden. Maar nepaccounts worden al regelmatig aangemaakt met gegevens van echte mensen zonder hun medeweten of toestemming. We hebben geen authenticatiesysteem dat de privacy beschermt en miljarden gebruikers kan bereiken.
We kunnen alleen maar hopen dat ons vermogen om kunstmatige persoonlijkheden te identificeren, ons vermogen om ze te maskeren zal inhalen. Maar voorlopig zijn aanvallers altijd een stap voor.
Aan het eind van de dag moeten alle beslissingen niet-technisch zijn. We moeten de beperkingen van het politieke debat op internet erkennen en opnieuw prioriteit geven aan face-to-face communicatie. Het is moeilijker te automatiseren en we weten dat de mensen met wie we praten, echte mensen zijn. Maar tot nu toe lijkt deze culturele verschuiving een volkomen onrealistische oplossing, en pogingen tot desinformatie zijn wijdverbreid over de hele wereld en worden in meer dan 70 landen uitgevoerd. Dit is de normale manier van propaganda in landen met autoritaire regimes, en het wordt een manier om een politieke campagne te voeren.
Kunstmatige karakters zijn de toekomst van propaganda. En hoewel ze ineffectief kunnen zijn om de discussie tot een bepaalde noemer te brengen, kunnen ze de discussie gemakkelijk volledig overstemmen.
BRUCE SCHNEIER is Research Fellow en docent aan de Harvard Kennedy School.
