{"id":2424,"date":"2021-01-04T10:00:00","date_gmt":"2021-01-04T10:00:00","guid":{"rendered":"https:\/\/campus.hesge.ch\/blog-master-is\/?p=2424"},"modified":"2020-12-18T20:12:44","modified_gmt":"2020-12-18T20:12:44","slug":"deepfakes-infocalypse-now","status":"publish","type":"post","link":"https:\/\/campus.hesge.ch\/blog-master-is\/deepfakes-infocalypse-now\/","title":{"rendered":"Deepfakes : Infocalypse Now?"},"content":{"rendered":"\n
\"\"\/
Jennifer Lawrence-Buscemi on her favorite housewives<\/a>
(Source: https:\/\/www.telerama.fr\/sites\/tr_master\/files\/styles\/simplecrop1000\/public\/deepfake_0.jpg?itok=Ms2dFW-H)
<\/figcaption><\/figure>\n\n\n\n

Le deepfake<\/em> est le nouveau trouble-f\u00eate dans l\u2019horizon informationnel. Il s\u2019agit d\u2019une technique de synth\u00e8se d\u2019images qui met \u00e0 profit le deep learning<\/a><\/em> pour cr\u00e9er des vid\u00e9os truqu\u00e9es d\u00e9concertantes de r\u00e9alisme. Son fonctionnement repose sur la mise en concurrence de deux r\u00e9seaux neuronaux<\/a> : l\u2019un cr\u00e9e des contenus artificiels, l\u2019autre identifie et discrimine les images qui nous feraient penser qu\u2019il s\u2019agisse d\u2019un faux. Le g\u00e9n\u00e9rateur \u00ab apprend \u00bb et affine sa m\u00e9thode pour cr\u00e9er des truquages de plus en plus difficiles \u00e0 discerner [1].<\/p>\n\n\n\n

Tant\u00f4t impressionnants dans leur capacit\u00e9 \u00e0 ressusciter les morts<\/a>, tant\u00f4t dr\u00f4les<\/a>, les deepfakes<\/em> peuvent aussi se montrer effrayants lorsqu’on comprend qu\u2019il s\u2019agit d\u2019une technologie \u00e0 la port\u00e9e<\/a> de n\u2019importe quel esprit malveillant \u2013 par exemple pour cr\u00e9er une sex tape<\/em><\/a> de quelqu\u2019un \u00e0 qui l’on voudrait nuire.<\/p>\n\n\n\n

\"\"\/
Le visage de l’actrice Gal Gadot<\/a> sur le corps d’une actrice pornographique
(Source: https:\/\/video-images.vice.com\/articles\/5a2ed1a79591232f402b13ba\/lede\/1513018103056-Screen-Shot-2017-12-11-at-120730-PM.png?crop=0.9478722028198162xw:1xh;center,center&resize=1400:*)
<\/figcaption><\/figure><\/div>\n\n\n\n

D\u2019ailleurs \u00e0 ce jour, 96% des deepfakes<\/em><\/a> sont effectivement des contenus pornographiques, avec les cons\u00e9quences parfois dramatiques que cela peut avoir sur la vie des individus concern\u00e9s. Mais mettons-nous un instant dans la t\u00eate d\u2019un \u00ab m\u00e9chant<\/a> \u00bb dans James Bond et appr\u00e9cions le potentiel destructeur que pourrait avoir cette technologie \u00e0 l\u2019\u00e9chelle d\u2019une soci\u00e9t\u00e9 dans son ensemble : qu\u2019aurait comme effet l\u2019apparition d\u2019une vid\u00e9o o\u00f9 nous voyons Joe Biden s\u2019entretenir avec son \u00e9quipe de campagne, se f\u00e9licitant d\u2019avoir truqu\u00e9 avec succ\u00e8s les \u00e9lections am\u00e9ricaines ?<\/p>\n\n\n\n

Ou que pensez-vous qu\u2019aurait fait Donald Trump en 2016 quand a \u00e9t\u00e9 diffus\u00e9 l\u2019enregistrement o\u00f9 on l\u2019entend tenir les fameux propos misogynes \u00ab Grab Her by the Pussy <\/a>\u00bb si la technologie des deepfakes<\/em> avait d\u00e9j\u00e0 \u00e9t\u00e9 disponible ? Aucun doute qu\u2019il aurait tout ni\u00e9 en bloc. Les deepfakes<\/em> facilitent le mensonge et les mots d\u2019Hannah Arendt<\/a> (Lubtchansky et Errera 1974) sont terrifiants d\u2019actualit\u00e9 :<\/p>\n\n\n\n

\u00ab Quand tout le monde vous ment en permanence, le r\u00e9sultat n’est pas que vous croyez ces mensonges mais que plus personne ne croit plus rien. \u00bb <\/p>-Hannah Arendt<\/cite><\/blockquote>\n\n\n\n

Infocalypse imminente?<\/h2>\n\n\n\n

Mais alors, l\u2019\u00ab infocalypse<\/a> \u00bb est-elle imminente ? Pourrons-nous encore arr\u00eater l\u2019\u00ab infod\u00e9mie<\/a> \u00bb? Sommes-nous d\u00e9finitivement entr\u00e9s dans l\u2019\u00e8re de la post-v\u00e9rit\u00e9 ? \u00c0 se fier au champ lexical alarmiste utilis\u00e9 par certains observateurs<\/a>, les deepfakes<\/em> sonneraient le glas de notre soci\u00e9t\u00e9 de l\u2019information : We\u2019re All Fucked<\/em><\/a> !<\/p>\n\n\n\n

C\u2019est aller un peu vite en besogne ! Paradoxalement nous oublions ici de prendre un peu recul et de nous tourner vers l\u2019information consign\u00e9e du pass\u00e9 : l\u2019Histoire. Et celle-ci nous le montre bien : nous ne sommes pas face \u00e0 un ph\u00e9nom\u00e8ne nouveau. \u00ab Les images sont instrumentalis\u00e9es<\/a> depuis tr\u00e8s longtemps. La technologie deepfake<\/em> marque juste une acc\u00e9l\u00e9ration du processus \u00bb (Jer\u00f4me 2019) nous assure l\u2019historien du visuel Laurent Gervereau<\/a>.<\/p>\n\n\n\n

Si nous sommes tant d\u00e9rout\u00e9s quand on nous apprend qu\u2019on ne peut d\u00e9sormais plus croire ce qu\u2019on voit, c\u2019est que le document audiovisuel avait jusque-l\u00e0 cet \u00ab accent de v\u00e9rit\u00e9 \u00bb (Chabin 2014, p. 12). D\u2019autre part, la notion de contexte, si importante pour la critique de l\u2019information \u00e9crite, est largement laiss\u00e9e de c\u00f4t\u00e9 dans le cas des documents audiovisuels pour des raisons historiques : jusqu\u2019il y a peu, les documents audiovisuels \u00e9taient majoritairement des publications et non des traces d\u2019un processus administratifs comme le sont les archives classiques (Chabin 2014, pp. 12-13).<\/p>\n\n\n\n

Seulement, les temps ont chang\u00e9 et la r\u00e9alisation de vid\u00e9os s\u2019est totalement d\u00e9mocratis\u00e9e gr\u00e2ce aux t\u00e9l\u00e9phones portables, inondant l\u2019infosph\u00e8re<\/a> de vid\u00e9os : d\u2019ici 2021, les vid\u00e9os sur internet repr\u00e9senteront 82 % du trafic internet mondial<\/a>. Le statut d’exception qu\u2019on attribuait au format audiovisuel va s\u2019att\u00e9nuer, sans doute que leurs truquages vont eux-aussi se normaliser \u2013 quand les deepfakes<\/em> \u00e9taient encore peu connus, les clich\u00e9s \u00e9taient consid\u00e9r\u00e9s comme une preuve absolue, mais sous peu la soci\u00e9t\u00e9 va prendre une certaine distance face \u00e0 ce m\u00e9dia (Dugoin-Cl\u00e9ment 2020).<\/p>\n\n\n\n

Donc tout va bien?<\/h2>\n\n\n\n
\"\"\/
(Source: https:\/\/i.kym-cdn.com\/photos\/images\/original\/001\/401\/347\/312.jpg)<\/figcaption><\/figure><\/div>\n\n\n\n

Attention, le but ici n\u2019est certainement pas de minimiser le danger potentiel des deepfakes<\/em>, bien au contraire. La vis\u00e9e de ce billet est d\u2019inciter \u00e0 ne pas c\u00e9der \u00e0 un certain fatalisme. La situation est s\u00e9rieuse, mais des solutions existent :<\/p>\n\n\n\n