Het Britse bedrijf Cambridge Analytica hielp Donald Trump bij het winnen van de Amerikaanse presidentsverkiezingen met behulp van Big Data-technologie en gepersonaliseerde online advertenties. Daarvoor werkte hetzelfde bedrijf met Brexit-aanhangers in Groot-Brittannië en heeft nu een contract getekend met het Franse Front National. Is het waar dat onverwachte stemresultaten in verschillende landen geen mislukking van de sociologie zijn, maar een overwinning voor een nieuw type sociologie? De gesprekspartner van Radio Liberty Michal Kosinski, wiens onderzoek indirect verband houdt met de activiteiten van Cambridge Analytica, vindt dat overdreven, maar Big Data-technologieën en een afname van privacy beloven de wereld mondiale veranderingen.
Eind september, midden in de verkiezingen, sprak hij in New York op de Concordia Summit, een jaarlijks evenement voor invloedrijke politici en zakenlieden van over de hele wereld, en sprak Alexander Nix, de oprichter van Cambridge Analytica, over hoe de nieuwe technologie de effectiviteit van de campagne van Trumps Republikeinse nominatie Ted Cruz heeft verbeterd., aan het begin van de race, bijna onbekende kandidaat. Nix sprak over bijvoorbeeld hoe mensen met verschillende temperamenten de mening van een kandidaat over de wet op de gratis distributie van wapens op verschillende manieren zouden moeten presenteren: angstige mensen met een hoog niveau van neuroticisme kunnen wapens beschouwen als een bron van veiligheid, en rijke conservatieve extraverten kunnen een foto van een eendenjacht te zien krijgen.
Later hielp Cambridge Analytica Trump zelf, en volgens Nyx, voor een relatief bescheiden beloning, in totaal ongeveer $ 15 miljoen. Door de gegevens te analyseren die alle internetgebruikers op het netwerk achterlaten, zijn de specialisten van het bedrijf erin geslaagd om niet-voor de hand liggende verbanden en patronen te vinden (bijvoorbeeld dat mensen die de voorkeur geven aan in Amerika gemaakte auto's Trump-stemmers zijn) en deze te gebruiken om advertenties op internet te richten, om berichten te personaliseren. uitgaande van het hoofdkwartier van de Republikeinse kandidaat. Inwoners van de wijk Little Haiti in Miami kregen informatie te zien over de weigering van Hillary Clinton om deel te nemen aan de verlichting van de aardbeving in Haïti, Afro-Amerikanen - een video waarin Clinton zwarte mannen vergelijkt met roofdieren. Trump-vrijwilligers ontvingen een gedetailleerd profiel van de bewoners van de huizen,waar ze directe campagnes gingen voeren.
Het is moeilijk te zeggen hoeveel invloed het werk van Cambridge Analytica heeft gehad op de uitkomst van de Amerikaanse verkiezingen, maar deze campagne is niet het enige voorbeeld van de winnaars die het bedrijf hebben aangenomen. In 2015 begon de radicale voorstander van Brexit Nigel Farage bijvoorbeeld Cambridge Analytica te gebruiken. De Zwitserse editie Das Magasin, die onlangs een onderzoek publiceerde naar de activiteiten van Cambridge Analytica (je kunt het hier in het Russisch lezen), zegt dat het bedrijf nu een contract heeft gekregen met het Franse Front National, daarnaast enkele politieke krachten in Zwitserland, Duitsland en misschien Italië.
Een van de helden van de publicatie Das Magasin is Michal Kosinski, een onderzoeker van Poolse afkomst, voorheen adjunct-directeur van het Centrum voor Psychometrie aan de Universiteit van Cambridge, en momenteel een assistent-professor aan de Stanford University in de VS. Kosinski en zijn collega's uit Cambridge hebben al jaren een systeem ontwikkeld dat, op basis van de activiteit van de gebruiker op een sociaal netwerk, een gedetailleerd psychologisch profiel van een persoon samenstelt. Het systeem is niet alleen in staat om karaktereigenschappen te beschrijven, maar ook om onder meer geslacht, seksuele geaardheid, huidskleur en zelfs politieke voorkeuren van de gebruiker te voorspellen.
Zwitserse journalisten zeggen dat Kosinski begin 2014 werd benaderd door een collega, Alexander Kogan, die de jonge onderzoekers uitnodigde om het model dat hij had gemaakt toe te passen om op verzoek van een bepaald bedrijf enkele miljoenen profielen van Amerikaanse burgers te analyseren. Zoals later duidelijk werd, was dit bedrijf geassocieerd met Cambridge Analytica. Kosinski weigerde mee te werken, maar de methoden die Cambridge Analytica gebruikte tijdens het referendum in Groot-Brittannië en de Amerikaanse presidentsverkiezingen lijken in ieder geval sterk op de modellen die door Michal Kosinski zijn uitgevonden.
Radio Liberty belde Kosinski in Californië en vroeg hem wat er precies kan worden gezegd over een persoon op zijn 'digitale spoor', hoeveel je kunt vertrouwen op de luide uitspraken van Cambridge Analytica, of de oorlog om privacy verloren is gegaan en of kunstmatige intelligentie gevaarlijker is dan Donald Trump.
- Wat is psychometrie? Wat doe je als onderzoeker?
Promotie video:
“Psychometrie zelf is een oude wetenschap, ik denk dat ze twee of drie millennia oud is. In wezen is dit de wetenschap van psychologische metingen, pogingen om zo nauwkeurig mogelijk verschillende psychologische aspecten, persoonlijkheid, intellectuele vermogens, geluk, neiging tot depressie, enzovoort vast te stellen. Traditioneel werden dergelijke metingen gedaan met behulp van vragenlijsten, psychologische tests, maar relatief recent realiseerden ik en enkele andere psychometristen zich dat ze kunnen worden gedaan door iemands digitale voetafdruk te beoordelen - en dan kunnen er geen vragen worden gesteld, geen vragenlijsten en tests nodig zijn. En dit is een revolutionair moment. Het belang van het Cambridge Analytica-verhaal, waar Das Magasin over schreef, is niet echt dat het bedrijf Trump hielp in de verkiezingsrace. Dit is een commercieel bedrijf, ze hebben technologie, ze willen geld verdienen, alles is hier duidelijk. Het gaat eromdat als je eerder iemands psychologische profiel wilde samenstellen, je de persoon moest vragen een vragenlijst in te vullen, een test af te leggen - en de proefpersoon begreep goed dat iemand op dit moment, op dit moment, zijn psychologische kenmerken meet. En nu kunt u hetzelfde doen, maar de persoon erkent niet dat zijn meest intieme eigenschappen op dit moment door iemand worden geëvalueerd en gemeten. Kijk maar naar de digitale voetafdruk: posts op sociale media, vind-ik-leuks, browsegeschiedenis, zoekgeschiedenis. Op basis van deze gegevens kan een ongelooflijk nauwkeurig psychologisch portret worden samengesteld. Aan de ene kant lijkt het iets engs, aan de andere kant kan het erg handig zijn. Een internetplatform kan bijvoorbeeld de meest geschikte baan voor je personage en vaardigheden voorstellen, of een film aanbevelen,die je zeker leuk zult vinden. Dit is normaal. Maar wanneer u uw Facebook-pagina opent en daar advertenties ziet die persoonlijk getarget zijn, op u gericht op basis van uw gedetailleerde psychologische profiel, dat zonder uw medeweten en toestemming is samengesteld, is dit niet meer heel normaal.
- Dus, persoonlijk, zou je mijn volledige psychologische profiel kunnen maken, alleen mijn naam wetend, gebaseerd op de voetafdruk die ik op internet heb achtergelaten?
Ik ben een wetenschapper en ik zou het gewoon niet doen. Als u zich vrijwillig heeft aangemeld om mijn onderzoek te helpen en uw gegevens heeft verstrekt, zou ik deze graag in mijn database opnemen, anonimiseren en beloven dat ik ze nooit aan iemand zal verkopen of overdragen. Maar veel bedrijven verzamelen natuurlijk constant informatie over u zonder te vragen en gebruiken deze bijvoorbeeld voor gerichte advertenties.
- Deze informatie wordt natuurlijk niet op één plaats opgeslagen - het ene bedrijf kent mijn geolocatiegegevens, het andere - financiële transacties, de derde - likes op Facebook. Is dit allemaal in elkaar te zetten?
- Ten eerste is dit meestal niet nodig. Gewoonlijk is één ding voldoende om een nauwkeurig profiel op te bouwen: bijvoorbeeld uw interesses op Facebook of uw browsegeschiedenis vanuit uw browser. Ten tweede wisselen bedrijven die informatie over u verzamelen deze gewoonlijk met elkaar uit of verkopen ze deze eenvoudigweg op de algemene datamarkt. Er zijn projecten zoals Acxiom die alles samenbrengen en verkopen aan bedrijven als Cambridge Analytica. Je kunt gewoon komen en zeggen: ik heb gegevens nodig over 10 miljoen Amerikanen uit die en die regio, en ze zullen deze gegevens graag verkopen. Ten derde is het, om een campagne met persoonlijke targeting te voeren, helemaal niet nodig om over individuele gebruikersgegevens te beschikken. U kunt gebruik maken van de zogenaamde behavioral targeting. U kunt Facebook bijvoorbeeld niet vragen om bepaalde advertenties aan alle mensen te laten zien,vatbaar voor een bepaald soort gedrag. Maar misschien heb je een model dat dit soort gedrag koppelt aan een soort psychologisch profiel, en je zou dit model zelfs heel eerlijk kunnen bouwen - je hebt enkele tienduizenden mensen een kleine vergoeding betaald om de vragenlijst in te vullen. En als het model is gebouwd, vraag je het: hoe vind ik emotionele extraverte mensen? Het model antwoordt - geen probleem, dit zijn degenen die van die en die tien boeken hielden, die en die tien films en zo en die tien muzikanten. Nu ga je weer naar Facebook met je advertentie, alleen hoef je niet langer te vragen om het aan emotionele extraverten te laten zien, wat Facebook niet zou doen. In plaats daarvan vraagt u advertenties weer te geven aan mensen met een specifieke reeks likes. Hierdoor blijkt dat u geen persoonsgegevens had,maar je had persoonlijk gerichte advertenties.
- Zijn er bedrijven die een psychologisch profiel willen samenstellen van de hele mensheid, tenminste van iedereen die digitale sporen achterlaat?
- Bijna niemand denkt in dergelijke globale categorieën, maar tot op zekere hoogte zijn Facebook, Google, Microsoft, Visa, Mastercard, dezelfde Acxiom hiermee bezig. En al deze gegevens worden op grote schaal verhandeld op de markt.
- Dat wil zeggen, ergens op de markt wordt bijvoorbeeld mijn psychologische profiel ook verkocht, en het is ongelooflijk nauwkeurig. U zei in een opmerking voor Das Magazin dat slechts een paar likes op Facebook voldoende zijn om het systeem u beter te laten herkennen dan uw beste vriend. Is het echt zo?
- Ja, er was een interessante studie over. Tien voorkeuren (interesses) zijn voldoende voor het systeem om uw persoonlijkheid beter te herkennen dan een collega op het werk, en bij 230-240 likes zal de computer meer over u weten dan uw partner.
“Maar wat houdt het precies in om meer te weten?
“Dit betekent dat als je de computer vraagt een psychologische vragenlijst voor je in te vullen, hij minder fouten zal maken dan je vrouw.
- Dit zijn de antwoorden op vragen als "Ben je bang in het donker"?
- Ja, typische vragen van psychologische vragenlijsten. Dus echt, ergens op de markt kun je zeer nauwkeurige informatie over je persoonlijkheid kopen, inclusief je politieke voorkeur, je religiositeit, je seksuele geaardheid, je IQ. U kunt globaal begrijpen wat er over u bekend is op basis van uw interesses op Facebook met behulp van de Applymagicsauce.com-site, maar dit is natuurlijk verre van het volledige plaatje.
- Laten we naar het verhaal met Cambridge Analytica gaan. Zeg me, je hebt echt niets met dit bedrijf te maken?
- Nee, en nooit gehad. Ik hoorde over het bestaan van de pers.
- Alexander Kogan, die, volgens Das Magazin, Cambridge Analytica psychologische profileringstechnologie aanbood, was uw collega?
- Ja, hij was mijn collega, of beter gezegd, hij was een assistent-professor aan de afdeling psychologie van de universiteit van Cambridge in de tijd dat ik daar afstudeerde. Maar onze paden liepen lang geleden uiteen, hij richtte een klein bedrijf op en verkocht, voor zover ik uit de pers had begrepen, gegevens van Cambridge Analytica, en ik bleef in de academische wereld.
- Kunnen we aannemen dat Cambridge Analytica de modellen gebruikt die u heeft ontwikkeld?
- Ik zou zeggen dat ze vergelijkbare modellen gebruiken, maar, zie je, om zo'n model te ontwikkelen, heb je geen bijzonder diepe wetenschap nodig, er zit geen magie in. Iedereen met elementaire programmeervaardigheden, wat geld en een computer die op internet is aangesloten, kan dit doen. Dat maakt het probleem zelfs zo groot. Hier worden de meest standaard statistische methoden gebruikt, niets bijzonders. Het belangrijkste idee van mijn publicaties is dat het gemakkelijk is, het is alleen belangrijk om de focus te veranderen: voor psychometrie zijn vragenlijsten en tests niet langer nodig, het is voldoende om een digitale voetafdruk van een persoon te hebben. En dit levert enorme voordelen op: je kunt marketing, carrièreplanning, methoden voor psychologische hulp en nog veel meer verbeteren. Maar dezelfde technologie kan tegen mensen worden gebruikt. Ik weet zeker dat Alexander Kogan op de hoogte was van mijn onderzoek en,hoewel ik dit alleen kan beoordelen aan de hand van de verslagen van journalisten, deed hij precies wat ik suggereerde en verkocht hij het resultaat aan Cambridge Analytica. Ik heb vaak gezegd en expliciet aangegeven in mijn artikelen dat ik niemand wilde inspireren om dit soort activiteiten te doen, bovendien ben ik er zeker van dat mensen al lang voor mij bezig waren met digitale psychologische profilering, ze spraken er gewoon niet zo actief over als Cambridge Analytica. Ik roep gewoon op tot de ontwikkeling van beleid en procedures die het ethisch gebruik van deze technologie bepalen.dat mensen al lang voor mij digitale psychologische profilering deden, ze spraken er gewoon niet zo actief over als Cambridge Analytica. Ik roep gewoon op tot de ontwikkeling van beleid en procedures die het ethisch gebruik van deze technologie bepalen.dat mensen al lang voor mij digitale psychologische profilering deden, ze spraken er gewoon niet zo actief over als Cambridge Analytica. Ik roep gewoon op tot de ontwikkeling van beleid en procedures die het ethisch gebruik van deze technologie bepalen.
- Denk je dat Cambridge Analytica de resultaten van de Amerikaanse presidentsverkiezingen echt significant zou kunnen beïnvloeden?
- Eerlijk gezegd weet ik het niet. Het is duidelijk dat Cambridge Analytica geïnteresseerd is om zijn succes zo luid mogelijk te bazuinen, maar uiteindelijk worden de verkiezingsresultaten niet bepaald door Big Data-methoden, maar door kandidaten, en bovendien, zoals nu vooral duidelijk wordt gezien, kiezers die niet naar verkiezingen gaan. Misschien was de activiteit van Cambridge Analytica de allerlaatste strohalm die het eindresultaat vooraf bepaalde, maar hoogstwaarschijnlijk weet Alexander Nix het zelf niet zeker. Aan de andere kant moeten we ons ervan bewust zijn dat er technologie is, en het is bijna onmogelijk om ons ertegen te verdedigen. U kunt stoppen met het gebruik van Facebook, maar u zult nog steeds e-mails schrijven. Besluit om duivenpost te gebruiken - u kunt niet zonder een creditcard. Misschien kunnen landen wetten aannemen die dergelijke praktijken beperken,maar dat werkt misschien ook niet. Overigens weet ik het niet zeker, maar ik heb gehoord dat wat Cambridge Analytica deed voor Trump in strijd was met de huidige Amerikaanse wet, en daarom hebben ze de gegevens in Groot-Brittannië direct geanalyseerd. Weet je, ik ben een wetenschapper, ik doe aan psychometrie, ik ben geen expert in politiek, democratie en vrijheid, maar het lijkt me dat we moeten accepteren dat er geen privacy meer zal zijn. In plaats van betrokken te raken bij een nieuwe strijd om privacy, is het de moeite waard om te erkennen dat de oorlog al verloren is, en het is beter om erop te letten dat de wereld een gunstige omgeving wordt voor een persoon zonder privacy. Weet je, ik ben een wetenschapper, ik doe aan psychometrie, ik ben geen expert in politiek, democratie en vrijheid, maar het lijkt me dat we moeten accepteren dat er geen privacy meer zal zijn. In plaats van betrokken te raken bij een nieuwe strijd om privacy, is het de moeite waard om te erkennen dat de oorlog al verloren is, en het is beter om erop te letten dat de wereld een gunstige omgeving wordt voor een persoon zonder privacy. Weet je, ik ben een wetenschapper, ik doe aan psychometrie, ik ben geen expert in politiek, democratie en vrijheid, maar het lijkt me dat we moeten accepteren dat er geen privacy meer zal zijn. In plaats van betrokken te raken bij een nieuwe strijd om privacy, is het de moeite waard om te erkennen dat de oorlog al verloren is, en het is beter om erop te letten dat de wereld een gunstige omgeving wordt voor een persoon zonder privacy.
- Het is merkwaardig in hoeverre het opbouwen van een psychologisch profiel, het gebruik van persoonlijke targeting, de echte wereld kan beïnvloeden.
- Wetenschappelijk gezien is het moeilijk hierover te discussiëren, omdat het moeilijk is om experimenten op te zetten. Dat wil zeggen, als u een soort douchegel verkoopt, kunt u het aantal klikken vergelijken, maar het is erg moeilijk om bijvoorbeeld de effectiviteit van Big Data-methoden in een politieke campagne te evalueren, die meer op een merkpromotie lijkt dan op een verkoopcampagne. We hebben wat experimenten gedaan, niet met politici, omdat ik denk dat dit onethisch is, maar met specifieke consumentenproducten, en het bleek dat persoonlijke targeting, dat wil zeggen het gebruik van een individuele reclameboodschap op basis van een psychologisch profiel, de effectiviteit van reclame verdubbelt. En dit is een ongelooflijk resultaat, meestal is de strijd om de efficiëntie met zo'n drie procent te verbeteren, en zelfs dit bespaart bedrijven honderden miljoenen dollars. En dan twee keer!
- Het is vreemd dat je nog geen miljardair bent geworden.
- Ik heb al een geweldig leven. Trouwens, er zijn veel psychologische werken die bewijzen dat geluk niet zoveel geld vereist, nou ja, je hebt natuurlijk genoeg nodig voor een vakantie. In feite is alles waarschijnlijk niet zo eenvoudig als het mij als wetenschapper lijkt, ik ben gewoon bereid om openlijk over deze dingen te praten, terwijl anderen aan echte projecten werken zonder iemand iets te vertellen.
- Voor mij lijkt het idee van psychologische profilering op basis van een digitale voetafdruk heel natuurlijk, ik weet zeker dat veel mensen het al in advertenties gebruiken. Onze wereld is misschien al veel veranderd, we merken het gewoon nog niet echt.
- Waarschijnlijk, en ik verwelkom deze veranderingen liever. We hadden uitvindingen en nog erger dan Big Data, we konden het hoofd bieden aan kernenergie - we kunnen dit op de een of andere manier aan, hoewel waarschijnlijk niet zonder offers. Zoals ik al zei, het lijkt me dat de oorlog om privacy al verloren is, we leven in een post-privacywereld, wat betekent dat het de moeite waard is om ervoor te zorgen dat iedereen gelijke rechten en kansen heeft, zodat niemand iets wil verbergen. Hopelijk kan meer tolerantie het probleem van het gebrek aan privacy oplossen.
- Maar het probleem is niet alleen dat anderen alle geheimen van een persoon leren kennen en hem anders gaan behandelen, maar ook dat er een krachtig hulpmiddel voor manipulatie is verschenen.
- Hiermee zou het onderwijs naar mijn mening het hoofd moeten bieden. Het is gemakkelijk om degenen te manipuleren die weinig weten, die weinig lezen, die weinig reizen. Zo iemand kan verteld worden dat er geen oorlog is in Syrië, en inderdaad zijn alle Syriërs bloedige criminelen, en hij zal er gemakkelijk in geloven.
- Naar mijn mening kunnen hoogopgeleide mensen ook gemanipuleerd worden, bijvoorbeeld met behulp van ijdelheid en seks.
Ik denk het niet. Dus u kent uw vrouw waarschijnlijk vrij goed, maakt dit het u gemakkelijk om haar te manipuleren?
- Ik weet het niet, ik heb waarschijnlijk gewoon niet zo'n doel, maar er zullen zeker veel mensen zijn die me zo efficiënt mogelijk willen manipuleren, zodat ik bijvoorbeeld op Poetin ga stemmen.
- Natuurlijk zullen er, en dit gebeurt de hele tijd, alle reclame, alle marketing is dit soort manipulatie, en ik zie niet wat we eraan kunnen doen. Toch is het moeilijk om goed opgeleide, ruimdenkende en gelukkige mensen te manipuleren. En het is te laat om Facebook, e-mail, creditcards op te geven, en het is gewoon dom. Facebook is iets geweldigs, dus ik heb in mijn leven veel gesproken over de risico's van het gebruik ervan, maar ik gebruik het zelf, en met plezier, en ik zou er zelfs voor betalen als het moest.
- Heb je trouwens een baan op Facebook gekregen?
- Ja het is waar. Ik vind mijn baan op de universiteit prima, maar voor een gedragsonderzoeker die het leven van mensen ten goede wil veranderen, is een carrière bij een bedrijf als Facebook of Google een geweldige manier om te gaan. Ik bedenk modellen en bestudeer ze, en als ik op Facebook zou werken, zou ik ze daadwerkelijk kunnen gebruiken om de levens van miljoenen mensen te veranderen, en het is helemaal niet nodig om ze iets te verkopen.
- Het is eng dat je met een paar klikken de levens van miljoenen mensen kunt veranderen.
- Inderdaad, om miljoenen mensen te beïnvloeden, was je vroeger een autoritaire dictator, maar nu kun je een ingenieur worden die voor een of ander internetbedrijf werkt. Maar dit is niet eng. Al deze algoritmen - Google-zoekopdrachten, aanbevelingssystemen, enzovoort - zijn gebaseerd op de meest elementaire wiskunde, maar ze zijn van toepassing op enorme hoeveelheden gegevens. En uiteindelijk begrijpt niemand hoe het allemaal in wezen werkt, zelfs de ontwikkelaars zelf niet. Hier in Rusland zijn er enkele wetten die iedereen als slecht beschouwt, maar dit zijn duidelijke wetten die kunnen worden gecorrigeerd. En computeralgoritmen leren zichzelf en worden zo complex dat als ze op de een of andere manier verkeerd werken, het niet duidelijk is wat en waar ze moeten worden opgelost.
- Zijn we zo ver verwijderd van het moment dat een van die uit de hand gelopen, ontoegankelijk voor ons begrijpende systeem een nucleaire oorlog zal organiseren?
- Weet je, tot nu toe heeft Donald Trump veel meer kansen en kansen om de mensheid te vernietigen dan Big Data, maar in de toekomst … Kijk, er zijn duiven en mieren, denk je dat ze weten dat de wereld wordt geregeerd door de mens? Gissen ze dat Donald Trump op de rode knop kan drukken? Natuurlijk niet. Het is de moeite waard om dit te onthouden, want wanneer kunstmatige intelligentie de wereld begint te regeren, merken we het misschien niet op dezelfde manier. We kunnen de hoeveelheden data die we zelf produceren immers niet meer bevatten en analyseren - en we moeten de computer vertrouwen. U kunt de machine vragen: kunt u op basis van deze gegevens iets voorspellen? Ze zal antwoorden: ja, natuurlijk. Je vraagt: hoe doe je dat? Ze zal zeggen: het spijt me, maar je begrijpt het niet. En dit alles is al een realiteit. U weet dat Amerikaanse rechtbanken computersystemen gebruiken,beslissen over voorwaardelijke vrijlating voor gevangenen? Computers beslissen of ze u krediet geven of niet. De computer laat een vliegtuig landen, wat fijn is, want mensen kunnen gemakkelijk voor problemen zorgen. De levens van 800 Boeing 787-passagiers zijn in handen van een computer, niet van een persoon, en dit is de realiteit van vandaag.
