We wachten allemaal op het moment waarop kunstmatige intelligentie, programma's, technologie praktisch hetzelfde leren doen, dan zijn we dat. Dit is allemaal heel echt. Maar tot nu toe denken maar weinig mensen dat dit proces niet hetzelfde zal zijn voor machines en mensen.
Een groep onderzoekers van de Kyushu University ontdekte bijvoorbeeld een manier om patroonherkenningsprogramma's te misleiden door een enkele pixel in een afbeelding te veranderen. Deze pixel is zo gepositioneerd dat het de neurale netwerken die verantwoordelijk zijn voor identificatie in verwarring brengt, en ze beginnen honden voor katten en paarden voor auto's te verwarren.
De testafbeeldingen waren beperkt tot slechts duizend pixels, maar voor hogere resoluties en miljoenen pixels werkt de regel ook. Alleen is het nodig om niet één pixel te veranderen, maar enkele honderden.
De tweede groep onderzoekers, dit keer van het Massachusetts Institute of Technology, slaagde erin nog verder te gaan. Ze waren in staat om een sculptuur van een schildpad af te drukken met behulp van een 3D-printer, die door het programma, zelfs van alle kanten en vanuit elke hoek gezien, als een geweer werd beschouwd. Dit experiment vormt een veel groter probleem voor beeldherkenningstechnologie, aangezien het allemaal in werkelijkheid gebeurde en het programma het object vanuit alle hoeken mocht analyseren, maar het nog steeds niet de ware vorm ervan kon bepalen.
Samen laten beide onderzoeken zien hoe robots en programma's moeten reizen voordat ze menselijk niveau bereiken. Onze hersenen laten zich immers niet voor de gek houden door één of zelfs honderd pixels te vervangen.
Het enige jammer is dat de bronnen geen uitleg geven over hoe het programma blijkt te misleiden. Wat denk je? Wat is het geheim van "gebroken pixels" en hoe kun je vals spelen met een 3D-model?
Nikolay Kudryavtsev
Promotie video: