Onlangs hadden we het bericht dat een aantal Amazon Echo apparaten – uit zichzelf – dure poppenhuizen gingen bestellen bij Amazon. Dat gebeurde omdat een nieuwslezer op televisie de zin “Alexa bestelde een poppenhuis voor me” uit sprak. De Echo’s die in dezelfde kamer stonden hoorden het en plaatsten hun bestelling.

Mal-audio

Volgens onderzoekers is het goed mogelijk dat hackers hier in de toekomst gebruik van gaan maken. Mensen met slechte bedoelingen kunnen ‘mal-audio’ stemcommando’s gebruiken om gebruik te maken van een virtual assistant in de buurt. Ze kunnen het zelfs doen met verborgen stemcommando’s. Dat zijn commando’s die niet eens door de gebruikers worden opgemerkt.

Twee onderzoekers hebben een rapport geschreven over dit onderwerp. Ze noemen hierin niet specifiek de Amazon Echo maar wel dat ze de ‘mal-audio’ aanvallen hebben getest op het spraakherkenningssysteem systeem van Google Now. Ze komen tot de conclusie dat deze aanvallen waarschijnlijk ook werken op vele andere moderne spraakherkenningssystemen. Ook die van smartphones.

In hun rapport schrijven ze dat mensen met slechte bedoelingen en met goede kennis van spraakherkenningsssystemen verborgen stemcommando’s kunnen maken. Dat kunnen commando’s zijn die niet begrijpbaar zijn voor mensen.

Bankieren met behulp van spraakherkenning

Een van de mogelijke manieren om dit uit te buiten is om een spraakherkenningssysteem een bericht te laten sturen naar een (duur-)betaald SMS nummer. Een commando als “Okay Google now, stuur een bericht naar…” gevolgd voor een duur nummer kan aardig in de kosten lopen voor een gebruiker. Natuurlijk wordt dit probleem nog groter als we steeds meer gaan bankieren met behulp van spraakherkenning. “Hey Google, betaal € 100,- aan John”.

Manieren om je hiertegen te wapenen

Natuurlijk zijn er manieren om je hiertegen te wapenen. Door bijvoorbeeld in te stellen dat een commando alleen wordt uitgevoerd als je nog een keer een extra bevestiging geeft. Ook kan je met wachtwoorden gaan werken al vinden gebruikers meestal dat dat te veel ten koste gaat van het gebruiksgemak.

Bron: networkworld