Technologiebedrijven hebben uw foto's stilletjes bestudeerd om hun gezichtsherkenningssystemen te verbeteren. En hier is hoe ze het deden.
Gezichtsherkenning is een krachtige technologie die de burgerlijke vrijheden ernstig bedreigt. Het is ook een bloeiend bedrijf. Tegenwoordig verkopen veel startups en technische giganten gezichtsherkenningssystemen aan hotels, retailers en zelfs scholen en zomerkampen. Dit bedrijf bloeit dankzij nieuwe algoritmen die mensen veel nauwkeuriger kunnen identificeren dan vijf jaar geleden. Om hun algoritmen te verbeteren, zijn ze getraind op miljarden gezichten, soms zonder toestemming van iemand. Daarom is de kans groot dat uw gezicht deel uitmaakt van een "trainingspakket" in een van deze systemen of in een klantendatabase van een bedrijf.
De manier waarop bedrijven informatie verzamelen, kan consumenten verrassen. Zo hebben bedrijven in ten minste drie gevallen miljoenen afbeeldingen ontvangen via foto-apps voor smartphones. Nu is het gezichtsherkenningssysteem slecht gereguleerd, dus mensen hebben bijna geen manier om het gebruik van hun gezicht voor commerciële doeleinden te beperken.
In 2018 identificeerde een camera de gezichten van passagiers die zich door een vliegtuig haastten in de buurt van Washington, Columbia. Maar in feite maakten zowel het vliegtuig als de passagiers deel uit van een simulatie gemaakt door het National Institute of Standards and Technology (NIST) om te demonstreren hoe gegevens "in het veld" konden worden verzameld. De gezichten die in dit experiment worden gebruikt, zullen deel uitmaken van een NIST-wedstrijd waarin bedrijven van over de hele wereld hun gezichtsherkenningssystemen testen.
Bij de simulatie van de vliegtuigsituatie spraken de vrijwilligers af om hun gezicht te gebruiken. Dit was het geval in de vroege stadia van gezichtsherkenningssystemen - onderzoekers probeerden consequent mensen in hun sets op te nemen. Nu is het onwaarschijnlijk dat het bedrijfsleven zichzelf lastig valt en toestemming vraagt.
Volgens Market Research Future wedijveren bedrijven (inclusief leiders zoals Face ++ en Kairos) om # 1 te worden in een sector die jaarlijks met 20% groeit om in 2022 een volume van $ 9 miljard te bereiken. Het bedrijfsmodel van deze spelers is gebaseerd op gelicentieerde software voor een groeiend aantal klanten - van wetshandhavingsinstanties tot universiteiten - die het gebruiken bij hun eigen ontwikkeling.
In de wedstrijd zijn de winnaars die producten waarvan de algoritmen gezichten nauwkeurig en foutloos kunnen detecteren. Zoals bij alle kunstmatige intelligentie, omvat het bouwen van een gezichtsherkenningssysteem het verzamelen van een grote hoeveelheid gegevens voor training. Bedrijven kunnen door de overheid en universiteiten goedgekeurde gegevens gebruiken (zoals de Yale Facial Database), maar deze trainingskits zijn klein genoeg om niet meer dan een paar duizend gezichten te bevatten.
Promotie video:
Deze officiële kits hebben ook andere nadelen. Veel mensen missen de raciale diversiteit en verschillende omstandigheden - schaduwen, hoeden, cosmetica - die de perceptie van een persoon in de echte wereld veranderen. Een natuurlijk gezichtsherkenningssysteem vereist meer afbeeldingen. Veel meer.
'Honderd is niet genoeg, duizend is niet genoeg. We hebben miljoenen afbeeldingen nodig. Als je het systeem niet traint om mensen met een bril en verschillende huidskleuren te herkennen, bereik je geen goede resultaten”, zegt Peter Trepp, directeur van FaceFirst, een in Californië gevestigd bedrijf dat retailers helpt bij het identificeren van criminelen in hun winkels.
Toepassing hiervoor
le. Met name dwong de app het om gesponsorde links naar alle gebruikerscontacten te sturen, een tactiek die in Silicon Valley bekend staat als 'growth hacking'. Gebruikers klaagden ook over gegevensdiefstal.
"Meteen na de installatie verzamelt de applicatie alle telefoons uit de lijst met contacten en begint ze te sms'en … En dan worden al je foto's gedownload en naar de cloudopslag gekopieerd", schreef Greg Miller, eigenaar van een fotostudio in Texas, in een recensie uit 2015 op Facebook.
Vier jaar later ontdekte Miller tot zijn schrik dat zijn foto's nog steeds bij EverRoll waren opgeslagen, maar nu een bedrijf met een gezichtsherkenningssysteem.
"Nee, ik wist er niets van en daar ben ik het helemaal niet mee eens", klaagde Miller bij Fortune. “Dit soort bewaking is een reëel probleem. De vertrouwelijkheid is weg en dat maakt me erg bang."
Doug Ely, CEO van Ever AI, beweert dat het bedrijf nergens informatie uit zijn database overbrengt en dat de foto's alleen worden gebruikt om het systeem te trainen. Hij voegde er ook aan toe dat het bedrijf verwant is aan een sociaal netwerk dat op elk moment kan worden verlaten. Eli ontkende dat Ever AI vanaf het begin van plan was om een bedrijf voor gezichtsherkenning te worden, en zei dat het afsluiten van de app een managementbeslissing was. De klanten van Ever AI gebruiken hun gegevens nu voor hun eigen doeleinden, waaronder het beheer van systemen voor werknemersidentificatie, detailhandel, maar ook telecommunicatie en wetshandhaving.
Ever AI is niet het enige bedrijf voor gezichtsherkenning dat ooit een fotografie-app aanbood. Orbeus, een in San Francisco gevestigde startup die in 2016 door Amazon werd gekocht (die niet was aangekondigd), bood ook de populaire PhotoTime-opslag aan.
Volgens een voormalige medewerker van Orbeus lag de aantrekkingskracht van de startup op Amazon in de kunstmatige intelligentietechnologieën en de enorme hoeveelheid foto's van mensen op openbare plaatsen.
“Amazon was op zoek naar dergelijke mogelijkheden. Ze kochten alles en sloten de aanvraag af”, zegt een medewerker die anoniem wilde blijven, daarbij verwijzend naar een geheimhoudingsverklaring.
PhotoTime bestaat niet meer, hoewel Amazon nog steeds een ander Orbeus-product verkoopt dat bekend staat als het merk Rekognition. In het bedrijfsleven en bij wetshandhaving wordt het gebruikt als gezichtsherkenningssysteem.
Amazon weigerde details vrij te geven over de vraag of de Orbeus-foto-app werd gebruikt om Rekognition te trainen, en verklaarde alleen dat het gegevens uit verschillende bronnen nam. Het bedrijf voegde eraan toe dat het geen gebruikersgegevens van de Prime-app gebruikt om identiteitssystemen te trainen.
Real Networks is een ander bedrijf dat apps gebruikt om zijn systeem te trainen. Gevestigd in Seattle en ooit beroemd om zijn videospeler uit de jaren 90, richt het bedrijf zich nu op het herkennen van kindergezichten op scholen. Tegelijkertijd biedt het bedrijf een familie-app genaamd RealTimes, die volgens critici gegevens over de gezichten van gebruikers verzamelt.
“Met de applicatie kun je videopresentaties maken van foto's. Stel je voor dat moeder zo'n presentatie naar oma stuurt, en het systeem gebruikt deze foto's voor training. Het klinkt griezelig”, zegt Claire Gavry, professor aan Georgetown University, die een paper publiceerde die een grote impact heeft gehad op gezichtsherkenningstechnologie.
Real Networks bevestigde dat de app werd gebruikt om gezichtsherkenning te verbeteren, maar voegde eraan toe dat andere informatiebronnen werden gebruikt.
In alle gevallen waarin bedrijven gegevens uit hun eigen fototoepassingen gebruikten om hun systemen te trainen, vroegen ze geen toestemming van de gebruiker, maar kregen ze verborgen toestemming via gebruikersovereenkomsten.
Maar dit is al best veel vergeleken met wat andere bedrijven doen. Volgens Patrick Grother, die de NIST-wedstrijd leidt, is het oké voor bedrijven die gezichtsgegevens verzamelen om programma's te schrijven die afbeeldingen van sites als SmugMug of Tumblr 'pakken'. In deze gevallen wordt de toestemming van de gebruiker niet eens aangenomen.
Deze zelfhulpbenadering werd benadrukt in een recent NBC News-rapport waarin wordt beschreven hoe IBM meer dan een miljoen gezichtsafbeeldingen van Flickr heeft gedownload als onderdeel van een AI-onderzoek. (John Smith, die toezicht houdt op kunstmatige-intelligentietechnologieën op de onderzoeksafdeling van IBM, zei dat "persoonlijke gegevens worden beschermd" en dat er wordt gewerkt aan degenen die persoonlijke informatie uit de database willen verwijderen).
Dit alles roept vragen op over de bescherming van persoonsgegevens door de bedrijven die deze verzamelen, en de noodzaak van staatscontrole op dit gebied. Dit onderwerp wordt alleen maar serieuzer met de verdere verspreiding van gezichtsherkenningssystemen in de samenleving, maar ook in de omgeving van grote en kleine bedrijven.
Van winkels tot scholen
Gezichtsherkenningssystemen zijn niet nieuw. De eenvoudigste versies van dergelijke programma's bestaan al sinds de jaren tachtig, toen Amerikaanse wiskundigen gezichten begonnen te definiëren als een reeks getallen en probabilistische modellen gebruikten om overeenkomsten te vinden. De beveiliging van Tampa, Florida, gebruikte het tijdens de Super Bowl van 2001 en het wordt al jaren in casino's gebruikt. Maar er is de afgelopen jaren veel veranderd.
"Het gezichtsherkenningssysteem maakt zoiets als een revolutie door", zegt Patrick Grother, eraan toevoegend dat de verandering het meest merkbaar is in de toenemende kwaliteit van afbeeldingen. “De onderliggende technologie is veranderd. Oude ontwikkelingen zijn vervangen door nieuwe, veel efficiëntere systemen."
De revolutie op het gebied van gezichtsherkenning werd aangedreven door twee factoren die de reikwijdte van kunstmatige-intelligentietechnologie sterk hebben veranderd en uitgebreid. De eerste is de opkomst van deep learning, een patroonherkenningssysteem dat in principe lijkt op het menselijk brein. De tweede is een recordoverschot aan gegevens die tegen lage kosten kunnen worden opgeslagen en geanalyseerd met behulp van cloud computing.
Het is niet verrassend dat Google en Facebook de eerste bedrijven waren die optimaal gebruik maakten van deze ontwikkelingen. In 2014 bracht de laatste een programma uit met de naam DeepFace, dat met een nauwkeurigheid van 97,24% kan bepalen dat twee gezichten van dezelfde persoon zijn - een vergelijkbaar resultaat wordt aangetoond door mensen in zo'n test. Een jaar later behaalde Google met zijn FaceNet-programma 100% nauwkeurigheid (volgens beveiligingsbedrijf Gemalto).
Tegenwoordig lopen deze en andere technische giganten (zoals Microsoft), grotendeels dankzij de toegang tot grote databases met gezichtsgegevens, voorop op het gebied van gezichtsherkenning. Maar steeds meer start-ups laten hoge resultaten zien en streven er ook naar om hun niche in de groeiende markt voor gezichtsidentificatieprogramma's te veroveren.
Alleen al in de Verenigde Staten zijn er meer dan een dozijn van dergelijke bedrijven, waaronder Kairos en FaceFirst. Volgens marktonderzoekers van PitchBook wint Silicon Valley snel terrein in de sector, met aanzienlijke investeringen in de afgelopen jaren. PitchBook schat de totale investering van de afgelopen drie jaar op 78,7 miljoen dollar. Dit zijn geen fantastische cijfers volgens Valley-normen, maar ze weerspiegelen het vertrouwen van durfkapitalisten dat een paar front-end startups binnenkort zullen uitgroeien tot grote bedrijven.
Risicokapitaalactiviteiten in de gezichtsherkenningsindustrie in de Verenigde Staten.
Nieuwe bedrijfsmodellen gericht op gezichtsherkenning zijn nog steeds in opkomst. Dit is vooral merkbaar bij gelicentieerde bedrijfssoftware. Volgens Crunchbase zijn de jaarlijkse inkomsten voor bedrijven als Ever AI en FaceFirst bescheiden, variërend van $ 2 miljoen tot $ 8 miljoen, Amazon en andere techreuzen maken dergelijke cijfers niet bekend.
De meest geïnteresseerde gebruikers van gezichtsherkenningssystemen waren lange tijd wetshandhavingsinstanties. Maar nu gebruiken veel bedrijven, waaronder WalMart, dergelijke programma's om meer informatie te krijgen over het winkelend publiek in hun winkels.
Het in Californië gevestigde FaceFirst biedt zijn systemen bijvoorbeeld aan honderden retailers aan, waaronder tweedehandswinkels en apotheken. Volgens de CEO van het bedrijf gebruiken veel klanten de technologie om diefstal te detecteren, maar een groeiend aantal probeert het voor andere doeleinden te gebruiken, waaronder het vinden van VIP-klanten en het identificeren van werknemers.
De meest geïnteresseerde gebruikers van gezichtsherkenningssystemen waren lange tijd wetshandhavingsinstanties.
Het lijkt erop dat Amazon in een breed scala van zijn activiteiten ook op zoek is naar mogelijkheden om gezichtsherkenningssystemen toe te passen. Naast het werken met politiebureaus, helpt de retailgigant hotels om incheckprocessen te versnellen, volgens verschillende bronnen.
Bedrijven van over de hele wereld komen naar Amazon en zeggen: 'Dit is precies wat we willen doen.' En je begrijpt dat dit een prachtig gebied is. Iedereen is erin geïnteresseerd”, zegt een anonieme bron die zich bij Amazon aansloot toen hij Orbeus, een bedrijf voor gezichtsherkenning, overnam.
Voor Amazon is deze activiteit niet zonder controversiële gevolgen geweest. Afgelopen juli heeft de American Civil Liberties Union (ACLU) de systemen van het bedrijf getest door de gezichten van alle leden van het Congres te vergelijken met een database met criminelen. De test toonde 28 valse overeenkomsten, met de meeste fouten door de huidskleur van de deelnemers aan het experiment. Als gevolg daarvan riep de Unie op tot een verbod op het gebruik van het gezichtsherkenningssysteem door wetshandhavingsinstanties. Amazon stond er echter op het systeem te verkopen aan politieagenten en de Amerikaanse immigratie- en douanehandhaving.
Vervolgens vroegen enkele leden van het Congres, waaronder Rep. Jerrold Nadler en senator Ron Weeden, de Rekenkamer om het gebruik van gezichtsherkenningssoftware te onderzoeken. Ook toonaangevende bedrijven maken zich zorgen over deze systemen. In december riep Microsoft-president Brad Smith met name op tot regulering van dergelijke technologieën op staatsniveau.
Maar zelfs als de bezorgdheid toeneemt, neemt het gebruik van gezichtsherkenningssystemen alleen maar toe naarmate bedrijven er steeds meer toepassingen voor vinden. Real Networks, een app-ontwikkelaar voor familiefotografie, biedt zijn software bijvoorbeeld gratis aan scholen in het hele land aan. Het bedrijf noemt honderden scholen als klant. In een interview met het tijdschrift Wired zei Rob Glaser, CEO van Real Networks, dat hij het project lanceerde als een onpartijdige oplossing voor geschillen over schoolveiligheid en wapenbeheersing. De website van het bedrijf positioneert dit product momenteel als een technologie waarmee organisatoren van evenementen "elke fan, klant, medewerker of gast kunnen herkennen", zelfs als hun gezicht verborgen is.
De unieke technologie herkent gezichten zelfs bij kleuren of intensieve make-up. Het systeem onderscheidt en identificeert gezichten in verschillende lichtomstandigheden.
Real Networks is niet het enige bedrijf dat zich richt op de kindermarkt. Een in Texas gevestigde startup genaamd Waldo biedt vergelijkbare technologie aan honderden scholen, evenals sportcompetities voor kinderen en zomerkampen. In de praktijk impliceert dit het gebruik van dergelijke systemen om afbeeldingen te scannen die zijn gemaakt door videocamera's of officiële fotografen, en een verdere vergelijking van de gezichten van kinderen met een database met afbeeldingen die door de ouders zijn verstrekt. Ouders kunnen altijd weigeren deel te nemen.
Volgens Waldo-CEO Rodney Rice maken scholen elk jaar tienduizenden foto's, en slechts een paar daarvan komen in jaaralbums terecht. Gezichtsherkenning, zei hij, is een effectieve manier om de restjes te verspreiden onder degenen die ze nodig hebben.
"Voor de prijs van popcorn of bruin papier kun je deze foto's bestellen voor de grootouders van je kinderen", zegt Rice, en hij legt uit dat Waldo een overeenkomst heeft gesloten met openbare scholen om de inkomsten te delen. Momenteel worden de diensten van het bedrijf gebruikt in meer dan 30 staten van de Verenigde Staten.
De opkomst van Waldo en FaceFirst laat zien hoe bedrijven gezichtsherkenning normaliseren die tot voor kort sciencefiction leek. En met de verspreiding van dergelijke technologieën zullen meer bedrijven foto's van uw gezichten verzamelen - hetzij om algoritmen te trainen of om klanten en criminelen te vinden - zelfs als het risico op fouten en misbruik alleen maar groter wordt.
De toekomst van je gezicht
In 2017 verscheen een aflevering van de techno-dystopische tv-serie Black Mirror, waarin een opgewonden moeder zich zorgen maakt over een roekeloze jongeman die tijd doorbrengt met haar dochter. Om erachter te komen wie het is, uploadt ze een foto van hem naar een dienst voor consumentenidentificatie. Het programma laat snel zijn naam en werkplek zien, en de vrouw gaat met hem afrekenen.
Het ooit fictieve scenario lijkt nu heel reëel. Hoewel de meeste zorgen over gezichtsherkenning gingen over het gebruik van deze technologie in overheidsorganisaties, vormt het gebruik ervan door commerciële bedrijven en zelfs individuen (Black Mirror-stijl) duidelijke risico's voor persoonlijke gegevens.
Naarmate meer bedrijven gezichtsherkenningssystemen gaan verkopen en onze gezichten in meer databases terechtkomen, kan de software aan populariteit winnen onder voyeurs en stalkers. Winkeliers en verhuurders kunnen het gebruiken om ongewenste klanten te identificeren en huurders die stilletjes huisvesting en diensten weigeren.
"Iedereen met een camcorder in een dichtbevolkt gebied kan beginnen met het verzamelen van beelddatabases en deze analysesoftware gebruiken om te zien of de beelden die ze vastleggen overeenkomen met uw gegevens", zegt Jay Stanley, een analist bij ACLU.
Er is ook een risico op hackeraanvallen. Andrei Barisevich van Gemini Advisors, een cyberbeveiligingsbedrijf, zegt dat hij profielen te koop heeft gezien op darknet-sites die zijn gestolen uit de nationale biometrische database van India. Hij merkte dergelijke informatie over de Amerikanen niet op, maar voegde eraan toe: "Het is gewoon een kwestie van tijd." Het lekken van klantgegevens uit een hotel of winkel kan criminelen helpen bij het plegen van fraude of identiteitsdiefstal.
Aangezien de technologie wordt gedistribueerd zonder veel overheidscontrole, ligt de verantwoordelijkheid voor het beperken van misbruik uitsluitend bij de softwareleveranciers. In een interview met Fortune zeiden de CEO's van startups met gezichtsherkenning dat ze voorbereid waren op dergelijke bedreigingen. Sommigen, waaronder de CEO van FaceFirst, noemden de verspreiding van dergelijke systemen in China gevaarlijk.
De leiders stelden ook twee benaderingen voor om misbruik tegen te gaan. De eerste is om nauw samen te werken met de kopers van de software om ervoor te zorgen dat deze correct wordt gebruikt. Doug Eli van Ever AI zegt bijvoorbeeld dat zijn bedrijf een hogere standaard heeft dan Amazon, waarvan hij beweert dat het zijn herkenningstool aan zo ongeveer iedereen biedt.
In antwoord op een vraag over misbruikcontrole heeft Amazon een eerder uitgebrachte verklaring verstrekt van Matt Wood, die kunstmatige intelligentie runt bij Amazon Web Services. Wood wijst erop dat het bedrijfsbeleid is dat schadelijke en illegale activiteiten verbiedt.
Een andere mogelijke garantie voor gegevensveiligheid is het gebruik van technische maatregelen om te voorkomen dat de databases met "front" -gegevens kunnen worden gehackt.
Rodney Rice, CEO van Waldo, zegt dat gezichten worden opgeslagen als alfanumerieke hashes. Dit betekent dat zelfs in het geval van een datalek, de vertrouwelijkheid niet in het gedrang komt, aangezien een hacker de hashes niet kan ontsleutelen en gebruiken. Dit standpunt werd gesteund door anderen.
Rice vreest dat de wettelijke definitie van de regels voor het gebruik van "gezichtstechnologieën" meer kwaad dan goed kan doen. "Een kind achterlaten om erachter te komen en regels te maken, is belachelijk", zegt hij.
Ondertussen passen sommige softwarebedrijven voor gezichtsherkenning nieuwe technieken toe die de behoefte aan big data voor training kunnen verminderen. Dit is bijvoorbeeld het geval bij Kairos, een front-end startup uit Miami die onder meer met een breed scala aan hotels werkt. Volgens Stephen Moore, hoofd beveiliging bij het bedrijf, creëert Kairos 'synthetische' gezichten om een breed scala aan emoties en belichting te simuleren. Dergelijke "kunstmatige gezichten" verminderen het gebruik van gezichtsgegevens uit de echte wereld bij het maken van technologische producten.
Al deze maatregelen - toezicht op systeemgebruikers, sterke gegevensbescherming en synthetische leermiddelen - kunnen enkele van de privacyproblemen wegnemen die gepaard gaan met zakelijk gebruik van onze gezichten. Tegelijkertijd gelooft Trepp van FaceFirst dat de angst zal afnemen bij een nadere beschouwing van het systeem. Hij beweert zelfs dat de scènes met gezichtsherkenning in de sciencefictionfilm Minority Report uit 2002 normaal gaan aanvoelen.
“Millennials zijn veel meer bereid om informatie te delen. Deze wereld [uit Minority Report] komt steeds dichter bij de onze”, zegt hij. - Als je alles goed doet, denk ik dat mensen het leuk zullen vinden, en het zal een positieve ervaring zijn. Zo eng zal het niet zijn."
Anderen, waaronder de ACLU, zijn minder optimistisch. Ondanks de groeiende discussie over technologie is er op dit moment echter praktisch niets dat het gebruik van uw gezicht beperkt. De enige uitzonderingen zijn in drie staten - Illinois, Texas en Washington DC - die een bepaalde mate van toestemming vereisen voordat het gezicht van iemand anders wordt gebruikt. Deze wetten worden in de praktijk niet echt gebruikt, behalve in Illinois, waar consumenten juridische stappen kunnen ondernemen om dit recht af te dwingen.
De wet van Illinois is momenteel het onderwerp van een spraakmakend beroepsproces waarbij Facebook betrokken is, dat beweert dat digitaal crawlen geen beperkingen kent voor het verkrijgen van gezichten. In 2017 lanceerden Facebook en Google een mislukte lobbycampagne om de wetgevers van Illinois te overtuigen de wet te verzachten. Eind januari werden voorstanders van de wet gesteund door het Hooggerechtshof van Illinois toen het oordeelde dat consumenten het ongeoorloofde gebruik van hun biometrische gegevens kunnen aanklagen, zelfs als er geen echte schade is aangericht.
Andere staten bieden ook de mogelijkheid om hun eigen biometrische wetten aan te nemen. Op federaal niveau hebben de wetgevers hier tot dusver weinig aandacht aan besteed. Dat zou echter kunnen veranderen, aangezien senatoren Brian Schatz en Roy Blount deze maand wetgeving hebben geïntroduceerd die bedrijven zou verplichten om toestemming te krijgen voordat ze gezichtsherkenning op openbare plaatsen gebruiken of gezichtsgegevens delen met een derde partij.
Claire Garvey, een Georgetown-onderzoeker, ondersteunt wetten om deze systemen te controleren. Maar ze zegt dat wetgevers het moeilijk hebben gehad om de technologie bij te houden.
“Een van de uitdagingen van gezichtsherkenning is hun ongelooflijk snelle acceptatie, dankzij de bestaande databases. Onze gezichten waren veel verlicht”, zegt ze. "In tegenstelling tot vingerafdrukken, waarvoor al lange tijd regels voor gegevensverzameling gelden, is er nog steeds geen regelgeving voor gezichtsherkenningstechnologieën."
Door Jeff John Roberts
Vertaald door: Ekaterina Egina
Bewerkt door: Sergey Razumov
