Talrijke eigenaren van een slimme Amazon Echo-luidspreker met een digitale assistent genaamd Alexa melden vreemd gedrag van de gadget. Opeens, zonder enige waarschuwing, begint Alex te lachen. Soms gebeurt dit midden in de nacht, waardoor de eigenaren bang wakker worden.
Bovendien begon de kolom onvrijwillig zonder een commando om een aantal andere acties uit te voeren. Lees bijvoorbeeld de namen van plaatselijke begraafplaatsen voor uitvaartbedrijven voor.
Amazon vertelde The Verge dat het op de hoogte is van een bug in het spraakherkenningssysteem en aan een patch werkt.
De storingen van het kunstmatige-intelligentiesysteem begonnen voor veel gebruikers tegelijkertijd. Een van de leden van het forum op Reddit klaagt dat de colonne weigerde de lichten in het appartement op commando uit te doen. Dat wil zeggen, ze deed het licht uit, maar daarna weer aan. De derde keer weigerde ze het licht helemaal uit te doen en 'lachte ze gemeen'. Tegelijkertijd klonk het lachen alsof het niet in de stem van de spreker was, maar met een vreemde stem. De ongelukkige persoon rilt nog steeds als hij dit zich herinnert.
In een ander soortgelijk geval maakte Alexa zijn vrouw en 5-jarig kind zo bang dat de kunstmatige intelligentie volledig werd losgekoppeld van de stroomvoorziening. Vervolgens vroegen de eigenaren Alex herhaaldelijk om te lachen - maar nooit klonk dit als de griezelige lach die ze toen hoorden.
Een andere gebruiker genaamd Gavin Hightower zegt dat hij op het punt stond naar bed te gaan toen Alexa plotseling heel hard en griezelig begon te lachen. Het gelach was alsof iemand niet lang meer te leven had - en als hij in slaap viel, zou hij niet meer wakker worden.
Promotie video:
In de meeste gevallen begon Alexa zonder reden en zonder waarschuwing te lachen, maar een gebruiker zegt dat de column een paar woorden zei, namelijk: "Natuurlijk kan ik lachen, ti hee."
Alexa in de middag
Gebruiker David Woodland zei dat hij in zakelijke onderhandelingen zat en nogal vertrouwelijke dingen besprak - en midden in het gesprek lachte Alex plotseling. Je kunt je voorstellen hoe mensen dit zagen - de indruk is dat ze werden afgeluisterd, en nu worden ze belachelijk gemaakt. Maar we moeten toegeven dat het de schuld is van de gebruiker dat hij de kolom niet heeft uitgeschakeld tijdens vertrouwelijke onderhandelingen. In dit geval voert ze inderdaad constant aftappen uit (om op het commando te kunnen reageren) en stuurt ze zelfs de resultaten van het aftappen naar de cloudservice voor herkenning. Dat is in ieder geval onveilig.
Volgens de programma-instellingen krijgt Alexa de opdracht om te lachen als haar eigenaar een grap of anekdote vertelt en haar "digitale vriendin" vraagt om haar humor uit te lachen met een speciaal commando "Alexa, lach". Maar in al de laatste gevallen zei de persoon niets grappigs en maakte vaak helemaal geen geluid, behalve ademhalen en ritselen.
Sommige gebruikers zeggen dat gelach niet alleen op willekeurige momenten in de tijd wordt gehoord, maar op de meest ongepaste momenten - alsof Alexa opzettelijk kiest wanneer je iemand het meest kunt laten schrikken. Dit is echter waarschijnlijk de achterdocht en beïnvloedbaarheid van mensen die de structuur van het systeem niet slecht begrijpen. Het is duidelijk dat een zwak AI-systeem niet in staat is tot zo'n diepgaande analyse.
Een woordvoerder van Amazon erkende een probleem met het spraakherkenningssysteem en maakte een officiële opmerking: “In zeldzame gevallen hoort Alexa per ongeluk de uitdrukking 'Alexa, lach'. We veranderen het nu in de zin "Alexa, kun je lachen?", Wat minder kans op valse positieven heeft. " Naast het annuleren van de korte versie van het commando "Alexa, lach", gaat het bedrijf de geprogrammeerde reactie van Alexa veranderen van een simpele lach in de zin "Zeker, ik kan lachen" (Natuurlijk, ik kan lachen) gevolgd door een lach.
