Annons

Mänskliga örat kan inte uppfatta dem

Forskare varnar: ”Ohörbara” ljud potentiellt hot mot AI-assistenter

Forskare vid Berkeley-universitetet höjer nu varningsflaggan för en lite udda sårbarhet hos AI-assistenter, nämligen dolda kommandon i form av ljud som människor inte kan uppfatta.

Publicerad Uppdaterad

Kinesiska forskare har sedan tidigare varit inne på samma spår som forkskarna på Berkeley-universitetet i Kalifornien, och även lyckats genomföra flera experiment på området. Det handlar om att skicka kommandon till AI-assistenter genom att använda ljud som det mänskliga örat inte kan uppfatta, något som givetvis är lockande för cyberkriminella och därmed har stor potential att ställa till det rejält för användarna. De kinesiska forskarnas teknologi krävde att ljudkällan befann sig mycket nära enheten med AI-assistenten, men sedan testerna genomfördes har det skett en enorm utveckling på området. 

Kan döljas i musik

I den rapport som Berkeley-forskaren Nicholas Carlini tagit fram tillsammans med sina kollegor beskrivs bland annat möjligheten att baka in kommandon i musik. Och nu väcks frågor kring säkerheten i AI-assitenterna. En lösning skulle kunna vara att man låser assistenten till en eller flera röster, som måste identifieras för att assistenten överhuvudtaget ska bry sig om kommandot. Både Amazon Alexa och Google Assistant erbjuder redan idag inställningsmöjligheter som låser vissa privata uppgifter, så att bara en viss röst kan komma åt dem, och en vidareutveckling av den funktionaliteten kan förmodligen komma att bli nödvändig. 

Källa