La vulnérabilité des différents assistants vocaux disponibles sur le marché : Un chercheur en sécurité informatique a développé une méthode, annoncée comme infaillible, pour transmettre à Amazon Alexa, Google Now ou Siri des commandes vocales totalement inaudibles pour l'oreille humaine.

Beaucoup de gens se sont habitués à parler à leurs appareils intelligents, leur demandant de lire un texte, de lancer une chanson ou de déclencher une alarme.

Mais au cours des deux dernières années, des chercheurs en Chine et aux États-Unis ont annoncé qu'ils pouvaient envoyer des commandes cachées indétectables pour l'oreille humaines à Siri d'Apple, à Alexa d'Amazon ou Google Assistant.

A l'intérieur des laboratoires universitaires, les chercheurs ont pu activer secrètement les systèmes d'intelligence artificielle sur les smartphones et les haut-parleurs intelligents, les faisant passer des appels ou ouvrir des sites web dangereux.

Entre des mains mal intentionnées, la technologie pourrait ainsi être utilisée pour déverrouiller les portes, acheter en lignes via de la musique diffusée à la radio.

Nicholas Carlini, doctorant à UC Berkeley et spécialiste de la sécurité informatique, est parvenu à insérer des phrases dissimulées dans des morceaux de musique, inaudibles à l'oreille humaine, mais auxquelles la reconnaissance vocale des assistants réagit.

Le travail de Nicholas Carlini est censé démontrer la vulnérabilité des différents assistants vocaux disponibles sur le marché à ce type d'attaque via des commandes très discrètes.

En entendant ces commandes, les assistants peuvent mener certaines actions  comme : prendre des photos, envoyer des messages ou visiter des sites.

Selon la marque de l'assistant vocal et ses paramétrages, il peut  aussi ouvrir des serrures, envoyer de l'argent et faire des achats en ligne.

Retransmis via une enceinte, les messages cachés sont captés par l'assistant vocal, qui exécute aussitôt la commande.

Le travail de Nicholas Carlini rejoint celui d'autres étudiants de Berkeley et de l'Université de Georgetown, qui sont parvenus, en 2016, à contraindre des smartphones à visiter tel ou tel site, ou encore de mettre ces téléphones sur mode avion en les exposant à ce qui est perçu par l'oreille humaine comme du simple bruit blanc.

Ces tromperies illustrent comment l'intelligence artificielle, même si elle fait de grands progrès, peut encore être trompée et manipulée.

Avec les attaques audio, les chercheurs exploitent le fossé entre la reconnaissance vocale humaine et la reconnaissance vocale artificielle.

Les systèmes de reconnaissance de la parole traduisent généralement chaque son en une lettre, éventuellement en les compilant en mots et en phrases.

En apportant de légères modifications aux fichiers audio, les chercheurs ont pu annuler le son que le système de reconnaissance vocale était supposé entendre et le remplacer par un son qui serait transcrit différemment par les machines tout en étant pratiquement indétectable pour l'oreille humaine.

L'information est d'autant plus inquiétante que, d'ici 2021, selon une étude d'Ovum, le nombre d'appareils intégrant un assistant vocal devrait surpasser celui des humains. Ainsi, plus de la moitié de tous les ménages américains auront au moins une enceinte intelligente d'ici là, selon Juniper Research.

La prolifération de gadgets activés par la voix augmente ainsi les risques de détournements.

Amazon a déclaré qu'il ne divulguait pas les mesures de sécurité spécifiques, mais il a pris des mesures pour s'assurer que son haut-parleur intelligent Echo soit sécurisé.

Google a déclaré que la sécurité est un objectif permanent et que son assistant dispose de fonctionnalités pour atténuer les commandes audio indétectables.

A suivre donc…