26-02-2020
L'apocalypse du deepfake aura-t-elle lieu ?
Quand les deepfakes font peser une menace sourde sur l’élection américaine... Décryptage.
C’est une vidéo plutôt banale, qui, en d’autres temps, n’aurait pas suscité grande émotion. Le 6 février, Donald Trump publie sur Twitter un montage moquant le geste de Nancy Pelosi qui avait déchiré ses feuilles à l’issue du discours sur l’état de l’Union du Président américain. La vidéo met en regard des passages du discours de Trump — hommage à une famille de militaire ou célébration de la baisse du chômage — avec le geste de dédain de la présidente démocrate de la Chambre des représentants. Le montage est de parfaite mauvaise foi mais rien d’extraordinaire dans une campagne présidentielle américaine où tous les coups sont permis.
— Donald J. Trump (@realDonaldTrump) February 6, 2020
Pourtant cette vidéo va déclencher la fureur de l’équipe Pelosi et relancer le débat autour de la modération des réseaux sociaux. « Les Américains savent que le président n’a aucun scrupule quand il s’agit de leur mentir — mais c’est une honte de voir Twitter et Facebook, sources d’informations pour des millions de personnes, faire la même chose », a dénoncé Drew Hammill, le chef de cabinet de Nancy Pelosi, qui réclame la suppression de cette vidéo sur ces plateformes. « Cette fausse vidéo de Nancy Pelosi est conçue pour tromper les Américains et leur mentir. En la laissant en ligne, ces plates-formes nous rappellent à nouveau qu’elles s’intéressent davantage aux intérêts de leurs actionnaires qu’à ceux des citoyens », a-t-il poursuivi.
Facebook n’a guère apprécié d’être mis en cause dans cette affaire. « Suggérez-vous que le Président n'a pas fait ces remarques et que la Présidente de la Chambre n'a pas déchiré le discours ? », a répondu sèchement le porte-parole de la firme, Andy Stone. Facebook estime que cette vidéo ne viole pas ses règles d’utilisation. Celles-ci avaient été fraîchement mises à jour, en janvier : est désormais banni tout contenu pouvant « induire en erreur quelqu'un en lui faisant croire qu'un sujet de la vidéo a dit des mots qu'il n'a pas dit en réalité ». En clair, Facebook prohibe les deepfakes, des vidéos réalisées grâce à une technologie d’intelligence artificielle permettant de remplacer un visage par un autre ou de faire tenir à une personne des propos qu’il n’a jamais tenus. La vidéo de Pelosi ne relève à l’évidence pas de cette technologie. La vidéo distort la réalité, mais à l’aide d’un outil bien connu, vieux comme la télévision : le montage. Les émissions politiques satiriques usent et abusent de ce genre d'artifice sans que cela ne choque personne. Il serait étrange de vouloir imposer des règles plus strictes sur le web qu’à la télévision.
Si cette vidéo a créé tant d’émoi, c’est qu’elle s’inscrit dans le débat, pour ne pas dire, dans la panique, concernant les deepfakes. Cette technologie, qui s’est récemment démocratisée, fait peser une menace sourde sur l’élection américaine. Il est un précédent qui est resté dans toutes les mémoires : en mai 2019, des images de Nancy Pelosi avait été fortement ralenties afin de donner l’impression qu’elle était ivre ou droguée. Là encore, la technologie à l’oeuvre était basique mais cette tentative de manipulation des images avait suscité une vive émotion. C’est un changement philosophique profond qu’il faut intégrer aux campagnes : la vidéo, longtemps vue comme une preuve, devient elle aussi sujet à caution.
Les état-majors des candidats craignent ce moment de bascule où il ne sera plus possible de distinguer si des paroles diffusées en vidéo ont bien été prononcées ou non. Fait significatif : l’équipe du démocrate Pete Buttigieg assure filmer le candidat « pendant toutes ses heures éveillées » pour contrer une éventuelle vidéo manipulée. Tout archiver permet d'avoir une contre-preuve en cas de surgissement d’un tel contenu.
Pour l’instant, aucun contenu de cette nature n’est venu perturber la démocratie américaine. D'après un audit mené sur la question, 96% des deepfakes publiés sur le web sont cantonnés au contenu adulte. Le reste de l’échantillon est essentiellement constitué de parodies de célébrité réalisées à des fins récréatives. C’est parfois très probant, comme cette version de “Retour vers le futur" où les acteurs Michael J. Fox and Christopher Lloyd sont remplacés par Tom Holland et Robert Downey Jr.
Côté politique, Buzzfeed US s’est essayé à la technique en publiant une vidéo où Barack Obama traite Trump de «deep shit» (grosse merde). Il s’agissait uniquement de démontrer la maturité de la technologie mais il est aisé d’imaginer un usage malveillant de celle-ci lors de la campagne.
Le premier cas mondial d’utilisation politique d’un deepfake est survenu en Inde il y a quelques semaines. Et il est inattendu : la technologie n’a pas été utilisée pour nuire à un adversaire politique mais pour permettre de diffuser un contenu dans une autre langue. Ne pratiquant pas l’anglais, Manoj Tiwari, un candidat du BJP aux législatives dans l’Etat de Delhi, a fait réaliser par une agence une version de sa vidéo, initialement en hindi, dans la langue de Shakespeare. L’illusion est parfaite : le texte est lu par un anglophone tandis que le mouvement de ses lèvres a été modifié grâce à un outil d’intelligence artificielle.
Nos démocraties ont intégré depuis longtemps le risque de manipulation des documents photographiques. La possibilité technique de la duperie n’en a pas pour autant fait un outil politique usuel. « Qui se souvient de Photoshop, accueilli avec des cris d'horreur, qui allait modifier à jamais notre rapport à l'authenticité documentaire ? », rappelle André Gunthert, chercheur en histoire visuelle à l’EHESS. L’émergence du deepfake suscite des craintes légitimes mais rien n’indique que son usage malveillant puisse devenir la norme en politique. Le parti démocrate s’inquiète d’éventuelles fausses vidéos de Nancy Pelosi ou de Joe Biden, mais il est possible que la révolution du deepfake n’accouche en définitive que de vidéos de Donald Trump s’exprimant en espagnol. Une prouesse que seule la technologie peut réaliser.
Le condensé de culture numérique qui explore les nouvelles tendances du digital.
- Santé
- Culture digitale
- Politique
- RSE
- Éco-conception
- Média
- Éducation
Picks est désormais
sur WhatsApp
Pour nous rejoindre, rien de plus simple.
1. Enregistrer ce numéro +33615605232 sur WhatsApp sous le nom "Picks".
2. Cliquer sur le bouton "Nous rejoindre" ci-dessous et suivre les instructions.
En procédant à votre inscription, vous acceptez l’envoi ultérieur d’un condensé de l’actualité numérique uniquement sur WhatsApp (aucun sms ou appel). Vous pourrez sortir de la liste de diffusion à tout moment en cliquant sur "Bloquer le contact" dans les paramètres de la conversation. Votre numéro de téléphone ne sera pas récupéré ou utilisé pour toute autre utilisation que celle mentionnée ci-dessus.
Grand bol
d'inspiration
PICKS, made in La Netscouade, le condensé de culture numérique qui explore les nouvelles tendances du digital.
Votre adresse de messagerie est uniquement utilisée pour vous envoyer les newsletters Picks. Vous pouvez à tout moment utiliser le lien de désabonnement intégré dans la newsletter. En savoir plus sur la gestion de vos données et vos droits
Manifesto
Nous croyons, à La Netscouade, qu’il est possible de régénérer la communication digitale tout en restant fidèles à ce que nous sommes.
Plus qu’une marque, La Netscouade est une marque de fabrique : nos clients viennent chercher chez nous une manière de faire, une capacité à imaginer des contenus à valeur pédagogique et créative, une propension à mixer cultures et talents dans un esprit « laboratoire d’idées ». Sans refuser la vitesse du numérique, nous avons toujours privilégié le long terme pour créer du lien entre l’entreprise et ses publics. Ce sont la transparence, l’écoute active, la constance et la consistance des prises de parole qui génèrent de la confiance et in fine de l’engagement durable.
Dans la période actuelle, nous aidons nos clients à faire du sens un vecteur de performance. Les projets que nous menons avec eux, RSE, numérique, nouveaux media, e-santé, éducation, science, font converger intérêt particulier et intérêt général et créent les conditions d’un engagement plus fort et plus durable.