Voor het eerst in Europa hebben oplichters een stem vervalst met behulp van kunstmatige intelligentie en een kwart miljoen dollar gestolen. In het VK maakte de CEO van een energiebedrijf geld over naar cybercriminelen na een telefoontje met een robot. De details van dit verhaal worden gegeven door Victoria Feofanova en Alexander Rassokhin.
De CEO van een Brits energiebedrijf sprak aan de telefoon met zijn baas, het hoofd van het hoofdkantoor in Duitsland. Hij vroeg hem om met spoed bijna $ 250.000 over te maken naar de Hongaarse leverancier, het geld ging naar de rekening van een Hongaarse bank en de Britse topmanager vermoedde niet eens dat hij al die tijd met een robot had gepraat. De stem aan de andere kant van de lijn leek zo op de stem van zijn baas: de kunstmatige intelligentie imiteerde niet alleen de manier van communiceren, maar ook een licht Duits accent. De zwendel werd pas onthuld toen de oplichters deze truc een tweede keer probeerden uit te halen.
Dit is misschien wel de grootste cybercriminaliteit in zijn soort, maar de aanvallers moesten de stemopnames ergens krijgen, legt Anna Vlasova, directeur taalontwikkeling bij Nanosemantics uit: “In eerste instantie moesten de oplichters de gesprekken krijgen van de persoon wiens stem ze vervolgens nadoen. Dit is trouwens de vraag hoe ze eraan kwamen. Hoogstwaarschijnlijk begint de fraude hiermee, want zomaar zul je niet genoeg opnames van dezelfde persoon vinden om zijn stem met succes te synthetiseren."
De cybercriminelen stuurden het geld eerst naar Mexico en verdeelden het vervolgens over verschillende rekeningen. Totdat de politie ze kon vinden. De Centrale Bank waarschuwde ook dat de oplichters valse stemmen begonnen te gebruiken. Dergelijke misdaden vinden in Rusland meestal plaats op sociale netwerken en tot nu toe zonder de deelname van kunstmatige intelligentie. De regeling is oud: het account van het slachtoffer wordt gehackt en belt vrienden met het verzoek om geld te lenen, of stuurt berichten. Het was dus al mogelijk om bijna 0,5 miljard roebel te stelen. Kunstmatige intelligentie trainen om de stem van een bepaalde persoon te imiteren is duur en ineffectief, vindt het plaatsvervangend hoofd van de informatiebeveiligingsafdeling van de Centrale Bank Artem Sychev: “De toepasbaarheid van dergelijke fraudemethodes is extreem laag. Dit vereist dat de aanvaller zeker weet dat het slachtoffer correct op deze stem zal reageren.
Maar de expert op het gebied van neurale netwerken van de Bitrix24-service, Alexander Serbul, is het niet eens met de toezichthouder. Volgens hem zal er fraude met kunstmatige intelligentie ontstaan: “Met behulp van kunstmatige intelligentie is het mogelijk een stem te vervalsen, zelfs een video te maken - realistische beelden die in de natuur niet voorkomen, maar niet van echt te onderscheiden zijn. Dit is niet moeilijk om te doen. Het is voldoende om de machines op de GPU in de Amazon-cloud te verhogen, en daar verhuren ze ze, voor een beetje geld kun je het cluster verhogen en het neurale netwerk binnen 24 uur berekenen, en de stem van de regisseur vervalsen. Wat betekent dit? U moet begrijpen hoe de informatiebeveiligingsstructuur in het algemeen werkt."
Volgens Europese experts zullen oplichters steeds vaker hun stem vervalsen. Dit wordt mogelijk gemaakt door het feit dat programma's die het mogelijk maken de stem van iemand anders te imiteren, nu door veel bedrijven worden verkocht. Tegelijkertijd heb je geen speciale vaardigheden nodig om ze te gebruiken.
Kunstmatige intelligentie wordt ook gebruikt om cybercriminelen te bestrijden. IT-analisten merken op dat over een paar jaar ongeveer 40% van de bedrijven in de wereld neurale netwerken zal gebruiken om gegevens te beschermen.
Auteur: Alexander Rassokhin
Promotie video:
