Pour Will Knight, spécialiste de l'automatisation du magazine MIT Technology Review, l’intelligence artificielle offre de nouvelles opportunités pour manipuler très facilement des enregistrements audio et vidéo, ce qui débouche sur de nouveaux risques.

Cette technologie permet d'imiter des personnes de plus en plus facilement, avec une précision étonnante.

Des trucages vidéo malveillants se déversent de plus en plus sur la toile.

 Les applications possibles du deepfake sont tellement multiples et dangereuses qu'elles pourraient avoir de graves conséquences sur l'e-réputation des personnes et des entreprises mais aussi au  niveau politique : intégration dans une vidéo compromettante, modification des propos tenus dans une vidéo, chantage à la diffusion ou encore de graves menaces à la cybersécurité (usurpation d'identité dans le cadre de la reconnaissance faciale).

ð Alors que le contenu de la future loi sur les fake news, promise par le Président de la République, se précise, une tendance, très dangereuse pour nos sociétés de l'information, pour l'e-réputation et même pour la cybersecurité voit le jour : le deepfake.

Mais en quoi consiste cette technique, basée sur l'intelligence artificielle, qui vise à remplacer le visage d'une personne par celui d'une autre dans une vidéo ?

Quelles conséquences peuvent avoir cette technologie aux résultats surprenants mais  dangereuse ?

 Il est désormais possible de créer des sosies parfaits, de simuler des mouvements, des expressions faciales, et des dialogues :

Ainsi, à l'avenir, il sera de plus en plus difficile de distinguer les fausses informations des vraies, et il sera encore plus nécessaire d’interpréter  les enregistrements audio et vidéo et les images avec méfiance afin d'éviter d’être mystifié.

ð Lyrebird, une société  liée à l'Université de Montréal, a développé une technologie qui permet d'imiter parfaitement la voix d'une personne.

« Les enregistrements de voix sont actuellement considérés comme des pièces probantes dans nos sociétés, en particulier dans les juridictions de nombreux pays. Notre technologie, qui permet de manipuler facilement les enregistrements audio, questionne la validité de telles preuves. Cela pourrait potentiellement avoir des conséquences dangereuses », indique lui-même le site de cette entreprise.

ð De son côté, FaceApp est une application déjà bien connue  pour smartphone qui  permet d’ajouter un sourire sur le visage d’une personne et de lui faire subir des modifications très sophistiquées.

Dans les deux cas, les algorithmes d’intelligence artificielle ne se contentent plus d’analyser des données ; ils sont capables de créer du contenu : « Il est tout à fait possible de former un réseau de technologie pour lui apprendre à générer des contenus ex nihilo qui ressemblent de façon frappante à la cible réelle. »

Cela peut aller très loin : il y a moins d'un an, des scientifiques de l'Université de Washington publiaient le résultat de leur travail, Synthesizing Obama.

Grâce à de nombreuses heures de séquences vidéo de l'ancien président des Etats-Unis, ces chercheurs ont réussi à constituer un réseau neuronal récurrent ayant appris toute les mimiques et formes possibles que prend la bouche du président américain lorsqu'il parle,et ainsi à créer des mouvements pouvant correspondre à n'importe quelle piste audio. Le résultat est  surprenant, ces chercheurs pouvant désormais lui faire tenir des propos qu'il n'avait jamais prononcés.

De son côté, le programme Face2Face réussissait à faire bouger et parler, en temps réel et à l'aide d'une webcam, Georges W. Bush, Vladimir Poutine ou Arnold Schwarzenegger : il est désormais ainsi possible de leur faire dire à peu près n'importe quoi.

ð TensorFlow  est né  au sein  d’une équipe de Google, qui l'a déployé en open source en 2015.

Basé sur des techniques de deep learning, il est particulièrement efficace pour le traitement d'images de visages et est aujourd'hui glorifié par la plupart des spécialistes de l'intelligence artificielle.

Basée sur le deep learning et développée grâce à la démocratisation du développement de l'intelligence artificielle, cette technique apparue pour la première fois sur le forum Reddit l’an dernier, permet grâce à un algorithme de remplacer un visage par un autre dans des vidéos ou des photos.

L'open source permet à n'importe qui de télécharger TensorFlow, de le paramétrer et de l'optimiser pour des tâches particulières.

Les technologies mises en œuvre :

En schématisant, pour   la création d'un deepfake, il faut d'abord faire analyser par le programme d'intelligence artificielle une séquence vidéo, image par image.

Pour remplacer le visage d'un individu par un autre, il faut ensuite fournir au programme environ un millier d'images de la personne que l'on veut intégrer dans le film. Ceci permettra ensuite d'intégrer les traits du nouvel individu tout en conservant les expressions du visage du film original. Ce processus peut prendre plusieurs heures, même pour une petite séquence.

Démasquer les faux contenus de ces applications dangereuses

A la fois étonnante et effrayante, cette nouvelle application de l'intelligence artificielle doit être surveillée de très près car elle  conduit à lever la barrière, toujours plus fragile qui existe entre réalité et fiction.

Pour lutter contre les dérives possibles, Justus Thies, un spécialiste de la technologie à l'Université Friedrich Alexander en Allemagne, a annoncé le développement d'une application visant à détecter les manipulations de vidéos.