“Je crois ce que je vois.” : remise en question à l’ère du deepfake

Avant de commencer votre lecture, si, comme moi il y a peu, vous n’êtes pas certain-e de ce qui se cache derrière les termes intelligence artificielle, machine learning ou deep learning, je vous suggère cette courte vidéo.

Vous avez probablement déjà entendu parler du deepfake : ces trucages vidéo ou audio plus vrais que nature générés par des algorithmes et publiés sur internet. Rendus possibles grâce à l’avènement du deep learning, ces montages permettent notamment de changer un visage par un autre (face swap), de créer de faux visages ou de modifier des expressions faciales. En termes d’audio, la modification ou la synthèse des voix sont les procédés les plus courants.

Comment ça marche ?

La technologie se base sur les réseaux antagonistes génératifs, plus communément appelés en anglais Generative Adverserial Networks ou GANs. Inventée en 2014 par Ian Goodfellow et ses collègues, il s’agit d’une architecture de réseaux de neurones conçue pour résoudre des jeux d’imitation de données, qu’il s’agisse de textes, d’images, de sons ou de vidéos, en mettant en compétition deux réseaux neuronaux.

Le procédé suit deux étapes. Les explications ci-dessous sont issues du blog Economie numérique (Ackermann 2020).

Première étape : l’identification, à l’aide d’un auto-encodeur (soit deux réseaux de neurones partenaires entraînés sans être supervisés par un expert humain). Le premier réseau (nommé encodeur) a pour rôle d’observer et de décrire l’image. Le second réseau (nommé décodeur) reconstitue l’image en lui restituant parfaitement les indications. Le résultat est alors attribué à deux réseaux de neurones, tant à l’encodeur qu’au décodeur.

Deuxième étape : la production, à l’aide des GANs. Cette fois, les deux réseaux sont en position adverse, donc en compétition l’un envers l’autre. L’encodeur génère alors une vidéo et le décodeur corrige en comparant le résultat par rapport à la vidéo originale, jusqu’à ne plus parvenir à distinguer le vrai du faux. Une vidéo fidèle à la réalité est alors produite, c’est le deepfake.

Pour les néophytes, il existe de nombreuses applications mobiles pour créer facilement des images ou des vidéos en remplaçant un visage connu par le sien ou celui d’ami-e-s. Il est toutefois aussi relativement aisé de trouver sur internet des forums et des codes open source, permettant aux personnes un minimum à l’aise avec l’informatique de générer assez facilement un deepfake complet et réaliste.

Des applications utiles à la controverse

Les GANs utilisés pour créer les deepfakes ont de nombreuses possibilités d’applications pratiques : créer des campagnes de publicité ou remplacer les acteurs absents de certains films, dans le domaine de la médecine ou pour améliorer les graphiques des jeux vidéo. Dans un autre registre, un musée consacré à Dalì à St-Petersburg en Floride a « ressuscité » l’artiste en créant un deepfake à partir de nombreuses photos et expressions célèbres du peintre. A travers un écran à taille humaine, il interagit avec les visiteurs, leur offrant une visite hors du commun.

Mais si le deepfake fait tant parler de lui, c’est surtout pour toutes les qualités dangereuses qu’on peut lui attribuer. Il est en effet devenu facile de prêter à une personnalité publique des propos qu’elle n’a jamais tenus, ou la faire apparaître dans des vidéos qui n’ont en réalité jamais existé. Ces deepfakes polémiques sont d’autant plus problématiques à l’heure où les réseaux sociaux permettent à ce type de média de circuler rapidement et sans contrôle.

“We’re entering an era in which our enemies can make anyone say anything at any point in time.”

Barack Obama, dans ce deepfake créé par Jordan Peele pour attirer l’attention sur cette problématique

Comment questionner la véracité d’une photo ou d’une vidéo ?

Face à ces dérives, la remise en question des photos et vidéos publiées sur le net apparaît plus importante que jamais. Mais si les images sont si réalistes, comment faire pour distinguer le vrai du faux ?

Le blog Journal du Net propose quelques conseils utiles pour faire la différence entre un deepfake et la réalité, ainsi que des exemples pour chacun des points. En voici un résumé (Lemaire 2020) :

• Observer les différences de résolution entre le visage et le reste de la vidéo ;
• Surveiller les images où le visage est obscurci ou à un angle aigu (sources de mouvements incohérents) ;
• Se méfier des visages à échelle incohérente ;
• Surveiller les éléments de bordure incohérents ;
• Faire attention aux tons de peau incohérents ou trop chatoyants.

A plus large échelle, plusieurs campagnes lancées par les GAFAM tentent de lutter contre les deepfakes en utilisant des algorithmes poussés sensés les distinguer de la réalité. Les premiers résultats sont encourageants. Un programme est également développé à l’EPFL.

Le deepfake risque de devenir de plus en plus difficile à identifier. Alors restons critiques face aux images que l’on trouve sur internet et continuons à questionner les sources d’informations et leurs auteurs…

Bibliographie

ACKERMANN, Marie, 2020. Deepfake : comment fonctionne réellement cette technologie ? Economie-numerique.net [en ligne]. 14 août 2020. Mis à jour le 20 août 2020. [Consulté le 22 novembre 2020].
Disponible à l’adresse : http://blog.economie-numerique.net/2020/08/14/deepfake-comment-fonctionne-reellement-cette-technologie/

CHOUITEN, Mehdi, 2020. Deepfake : menace imminente ou outil d’aide à la production ? Forbes.fr [en ligne]. 30 mars 2020. [Consulté le 22 novembre 2020].
Disponible à l’adresse : https://www.forbes.fr/technologie/deepfake-menace-imminente-ou-outil-daide-a-la-production/

KIETZMANN, Jan, KITEZMANN, Tim C, LEE, Linda W, 2020. Deepfakes: five ways in which they are brilliant business opportunities. Theconversation.com [en ligne]. 12 février 2020. [Consulté le 22 novembre 2020].
Disponible à l’adresse : https://theconversation.com/deepfakes-five-ways-in-which-they-are-brilliant-business-opportunities-131591

L, Bastien [pseudonyme], 2019. Deepfake : tout savoir sur la nouvelle menace liée à l’IA. Lebigdata.fr [en ligne]. 18 juin 2019. [Consulté le 22 novembre 2020]. Disponible à l’adresse : https://www.lebigdata.fr/deepfake-tout-savoir

LEMAIRE, Arnaud, 2020. Savoir reconnaître les Deepfakes : cinq conseils utiles. Journaldunet.com [en ligne]. 14 avril 2020. [Consulté le 22 novembre 2020]. Disponible à l’adresse : https://www.journaldunet.com/solutions/dsi/1490483-savoir-reconnaitre-les-deepfakes-cinq-conseils-utiles/

Image de mise en avant : source