Deze slimme assistent vroeg een kind om zichzelf een stroomstoot te geven
„Steek een telefoonlader deels in het stopcontact en houd een munt tegen de pinnen.” Die levensgevaarlijke opdracht kreeg een 10-jarig meisje toen ze Alexa, de stemassistent van Amazon, om een fysieke uitdaging vroeg. Hoe kan dat?
Het was afgelopen weekend een flinke schok voor Kristin Livdahl: haar dochtertje van tien vroeg haar Echo, een Amazon-apparaat dat gebruikmaakt van de slimme assistent Alexa, om een leuke uitdaging. Ze hadden er samen al een paar gedaan die middag.
Echo dook online en kwam terug met de gevaarlijke suggestie, die bekend staat als de ‘penny-challenge’. Die werd vorig jaar populair onder gebruikers van TikTok, met soms dramatische gevolgen.
Je geeft jezelf een stroomschok
Het muntje geleidt namelijk elektriciteit. Zo kun je met de munt jezelf een stroomschok geven, of iets in brand zetten. Gelukkig was Livdahl erbij en werd de uitdaging dan ook niet uitgevoerd. Ze sprak haar ontzetting uit op Twitter.
Inmiddels heeft Amazon Alexa zo aangepast dat de gevaarlijke uitdaging niet zomaar meer voorbij kan komen. Maar hoe kan het dat deze überhaupt door Alexa werd opgelepeld?
Alexa heeft niet op alles een antwoord
Het programmeren van een stemassistent is veel werk. Voor veel vragen die vaak voorkomen, heeft zo’n assistent wel een antwoord op de plank liggen.
Zo snapt Alexa of de Google Assistent meestal wel, dat je wil dat Spotify muziek speelt als je het commando ‘speel Under Pressure van David Bowie’ uitspreekt. ‘Stel een alarm in voor 12.00 uur’ roept dan weer een commando op dat al in de assistent geprogrammeerd zit.
Maar stel je Alexa of Siri een vraag waar de assistent geen vast antwoord op heeft, dan vallen ze terug op een andere opdracht: gebruik een zoekmachine om het antwoord te vinden. De Google Assistent kijkt op zo’n moment op Google om je vraag te beantwoorden. Alexa kijkt liever naar de zoekmachine van Microsoft, Bing.
Zoekalgoritmes
In principe is het geen slecht idee. Door gebruik te maken van zoekmachines en het internet kan een stemassistent de meeste vragen wel beantwoorden.
Maar dat betekent ook dat de stemassistent afhankelijk is van de algoritmen achter een zoekmachine. Als er veel artikelen over zo’n ‘penny-challenge’ gemaakt zijn of worden aangeklikt, dan kan die hoog in de zoekresultaten komen te staan.
Daarnaast leest de stemassistent vaak een kort fragment uit een gevonden pagina op. Dat fragment wordt uitgelicht door de zoekmachine.
Ook dat gaat niet altijd goed. Een zoekmachine kan de context van een artikel niet altijd lezen. In dit geval vond Bing een artikel uit 2020 waarin juist werd uitgelegd waarom je de ‘penny-challenge’ niet moet uitvoeren.
De zoekmachine had dus niet door dat de uitdaging in dit stuk ontraden werd. Het algoritme zag alleen het stukje tekst waarin ‘een uitdaging’ werd uitgelegd, en zette dat door naar de Alexa van Livdahl. Dit kan elke stemassistent gebeuren. Zo ontdekten gebruikers op Twitter dat Google Home suggesties geeft uit het artikel ‘wat niet te doen als iemand een epileptische aanval heeft’, als je om advies bij epilepsie vraagt.
Amazon heeft het probleem opgelost
Volgens Amazon is de stemassistent aangepast en kan niemand meer zomaar bij zo’n gevaarlijke uitdaging terechtkomen. De techgigant lijkt te hebben ingegrepen in de connectie tussen de stemassistent en de zoekmachine.
Techsite The Verge vroeg Alexa dinsdag om een uitdaging en kreeg een hele beperkte selectie aan uitdagingen te zien. Zelfs als je om resultaten vanuit het web vraagt, lijkt Alexa niet meer de zoekmachines in te duiken voor een antwoord.
Altijd opletten met de stemassistent
Fabrikanten van stemassistenten willen dat jij zoveel mogelijk met je apparaat kan doen. Amazon kan niet voor elke vraag vooraf een beperkte selectie antwoorden samenstellen, zoals het hier nu heeft gedaan.
Als ouder van een klein kind is het daarom zinnig om je slimme assistent zo in te stellen dat je kind er niet zomaar van alles mee kan. Met functies als de stemherkenning beperk je gemakkelijk wat voor apps je kan gebruiken en wat voor informatie ze kunnen vinden.
Bekijk hieronder onze video’s op techgebied:
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.Lees Meer
-
PREMIUMmantelzorg
‘Ik heb het idee dat ze het op mijn werk zien alsof ik twee extra vrije dagen heb’
Werk combineren met de zorg voor een van je ouders of kind, veel Nederlanders doen het. Makkelijk is het allesbehalve. 10 procent van de werkende mantelzorgers denkt na over stoppen met werken. Wat kun je doen om het vol te houden? -
Deze navigatieapps brengen je veilig van A naar B
Kaartlezen is de laatste jaren een stuk gebruiksvriendelijker geworden. Een routeplanner of navigatieapp download je binnen mum van tijd op je smartphone en daarna is het gaan met die banaan. Deze onderstaande vijf apps helpen je slim en veilig te navigeren. -
PREMIUM
De rentes gaan weer omhoog, wat betekent dat voor ons spaargeld?
De tijd van negatieve rentes lijkt voorbij. Wereldwijd moet weer betaald worden voor geleend geld. Wie profiteert daarvan en wie betaalt de rekening? Vier vragen over de stijgende rente. -
VRAAG & ANTWOORD
‘Mag je autorijden met een koptelefoon op?’
‘Ik zie steeds meer mensen met een koptelefoon op achter het stuur van hun auto zitten’, schrijft lezer Hendrik de Groot in de wekelijkse vraag & antwoord-rubriek van onze autoredactie. ‘Ik heb het idee dat deze mensen de geluiden van buitenaf missen en daardoor niet goed kunnen reageren bij noodsituaties. Is dit niet verboden?’ -
Universele lader tablet en smartphone eind 2026 realiteit
De universele lader voor smartphones, tablets, digitale camera’s en een reeks aanverwante elektronica is een stap dichterbij. Het Europarlement is klaar voor onderhandelingen met de lidstaten en wil de eenheidslader uiterlijk eind 2026 op de markt.
-
Snapchat wil een laagje op jouw werkelijkheid leggen
Versterk de werkelijkheid, ontsnap hem niet: dat is het motto van ceo Evan Spiegel van berichtenapp Snapchat. Snapchat werkt al jaren met ‘augmented reality’, dat een laagje digitale informatie over de echte wereld heen legt. ,,De manier waarop we camera’s gebruiken gaat de komende tien jaar helemaal veranderen.” -
Internetprijzen bij Ziggo gaan omhoog wegens stijgende energieprijzen
Ziggo heeft de prijzen voor vast internet verhoogd. Eén van de redenen hiervoor is volgens de provider de fors hogere energieprijzen. -
Deze slimme gadgets voor in huis gaat Amazon uitbrengen
Met een slimme huishoudrobot, een digitaal schilderij en een drone die als bewaker door je huis vliegt, heeft webwinkelgigant Amazon deze week een hoop gekke smarthome-apparaten laten zien. We zetten de aankondigingen op een rij.