Op internet verschijnen bewerkte video's waarin mensen bepaalde woorden zeggen (hoewel ze die niet echt hebben gezegd) of bepaalde acties uitvoeren (hoewel ze die niet echt hebben gedaan). Dankzij nieuwe ontwikkelingen op basis van kunstmatige intelligentie zal de kwaliteit van dergelijke video-fakes aanzienlijk toenemen.
Tegenwoordig zijn technologieën voor het maken van nepvideo's niet beperkt tot de bewegingen van iemands lippen en gezicht in de originele frames - een op kunstmatige intelligentie gebaseerd systeem is in staat om een realistische video voor te bereiden, waarin een bewerkt digitaal beeld van een persoon zijn hoofd in verschillende richtingen kan bewegen, knipperen en emoties tonen. Alle acties en woorden van de acteur die in de originele video is gefilmd, worden overgebracht naar de nepvideo.
Het ontwikkelteam vergeleek het nieuwe algoritme met bestaande video- en fotomanipulatiesystemen waar Facebook en Google bij betrokken zijn. Het nieuwe algoritme overtrof bestaande technieken en de deelnemers aan het experiment konden de authenticiteit van de video's nauwelijks bepalen.
De onderzoekers werden deels gefinancierd door Google. De makers van het systeem hopen dat de nieuwe technologie virtual reality zal verbeteren. AI hoeft maar een paar minuten van het bronmateriaal te bestuderen om een aangepaste video te maken. Daarom stellen de onderzoekers dat hoogwaardige videobewerkingssoftware betaalbaarder zal worden.
De ontwikkelaars begrijpen dat hun uitvinding aanleiding kan geven tot bezorgdheid in de gemeenschap.
Onderzoeker Justus Tees vertelde The Register dat hij zich zorgen maakte over de ethische kant van de kwestie. De resultaten van de studie werden gepubliceerd om mensen te waarschuwen voor vorderingen in manipulatietechnieken, zei Tees.
Wetenschappers "waarschuwden opnieuw voor het gevaar", maar bleven de verdachte technologie verbeteren. In de tekst van het onderzoek werd de ethische kwestie slechts terloops genoemd: de ontwikkelaars zijn van mening dat iemand het watermerksysteem moet verbeteren of een andere manier moet bedenken om videovervalsingen op te sporen.
Zelf willen de onderzoekers hier niet mee omgaan, omdat ze bezig zijn met het verbeteren van de tool voor het maken van nepvideo's.
Promotie video:
Anton Komarov
