Que sont les hypertrucages, et comment les repérer?

Le mot anglais deepfake, rendu en français par hypertrucage, combine deep learning (l’apprentissage profond), la branche de l’IA derrière les générateurs d’images et de voix d’aujourd’hui, et fake (faux). Il y a quelques années, des faux convaincants exigeaient du talent et des heures de travail. Maintenant, un court échantillon de la voix de quelqu’un ou une poignée de photos peuvent suffire pour produire un extrait qui trompe les amis et la famille, ce qui explique pourquoi 2024, avec des élections dans de nombreux pays, inquiète les gens.

L’exemple le plus clair jusqu’ici cette année est arrivé par téléphone. Le 21 janvier, deux jours avant la primaire présidentielle du New Hampshire, des électeurs ont reçu un appel enregistré d’une voix qui ressemblait à celle du président Biden. Elle utilisait l’une de ses expressions familières, puis pressait les démocrates de ne pas voter à la primaire et de garder leur vote pour novembre. Le conseil était faux : voter à une primaire n’empêche personne de voter à l’élection générale. Le procureur général de l’État y a vu une tentative apparemment illégale de supprimer des votes, et la Maison-Blanche a confirmé que le président ne l’avait jamais enregistré. Une électrice de 73 ans a dit à l’Associated Press que la voix était si convaincante qu’elle ne l’avait pas remise en question au début. C’est le message lui-même, qui n’avait pas de sens, qui lui a mis la puce à l’oreille.

Aujourd’hui, le 8 février, la Federal Communications Commission (FCC) a statué à l’unanimité que les voix générées par l’IA comptent comme des voix « artificielles » au sens de la Telephone Consumer Protection Act, la principale loi américaine sur les appels automatisés non sollicités. La décision prend effet immédiatement et donne aux procureurs généraux des États un nouvel outil juridique contre les appels à voix clonée.

Pourquoi vos yeux et vos oreilles ne suffisent pas

Des chercheurs du MIT Media Lab ont créé un site appelé Detect Fakes pour que les gens puissent s’exercer à distinguer les vraies vidéos des vidéos manipulées. Leur principale leçon est une leçon d’humilité : il n’y a pas d’indice unique qui trahit le faux. Un bon hypertrucage peut passer un coup d’œil rapide, et les outils continuent de s’améliorer. Les indices physiques aident encore, mais les vérifications les plus solides portent sur la provenance de quelque chose et sur sa cohérence.

Pensez-y comme à deux niveaux. D’abord, vérifiez l’histoire autour de l’extrait. Ensuite, si cela compte encore, vérifiez l’extrait lui-même.

Une liste de vérification par l’exemple

Voici comment examiner un élément suspect, avec l’appel du New Hampshire comme exemple.

Pour la vidéo, l’équipe du MIT suggère de se concentrer sur le visage, puisque les hypertrucages haut de gamme le modifient presque toujours. Leurs questions, en bref :

• La peau : paraît-elle trop lisse ou trop ridée, et son âge correspond-il à celui des cheveux et des yeux?
• La lumière : les ombres autour des yeux et des sourcils sont-elles là où on s’y attendrait? Le reflet sur des lunettes se déplace-t-il naturellement quand la tête bouge?
• Les poils et les marques : les barbes, les moustaches et les grains de beauté ont-ils l’air vrais?
• Le mouvement : la personne cligne-t-elle des yeux trop peu ou trop souvent? Les lèvres suivent-elles les mots?

Pour les images fixes, examinez la même logique physique : une lumière qui vient de deux directions, des mains et des oreilles qui ne sont pas tout à fait correctes, du texte à l’arrière-plan qui devient du charabia. Pour l’audio, soyez attentif à une émotion plate, à une respiration étrange ou à une voix qui ne bute jamais sur un mot, mais traitez-les seulement comme des indices. Une voix clonée sur une ligne téléphonique peut être très difficile à juger à l’oreille, c’est pourquoi les étapes 1 à 4 viennent en premier.

Que faire si l’un d’eux vous vise?

Si le faux utilise votre visage ou votre voix, ou se fait passer pour un de vos proches, agissez sur deux fronts : protégez les gens autour de vous et constituez un dossier.

Commencez par prévenir les personnes les plus susceptibles d’être trompées. Un court message à votre famille, à vos collègues ou à vos abonnés (« Une fausse vidéo de moi circule; je n’ai pas dit cela ») lui enlève son pouvoir. Les familles peuvent convenir d’une vérification, comme rappeler à un numéro connu ou utiliser un mot de code privé, avant que quiconque envoie de l’argent en réponse à un appel urgent d’un « proche ». Les fraudeurs clonent souvent la voix de membres de la famille justement parce que la panique pousse les gens à sauter cette étape.

Conservez les preuves avant qu’elles disparaissent : enregistrez le fichier ou le lien, prenez des captures d’écran qui montrent le compte qui l’a publié et la date, et notez le numéro de téléphone s’il s’agissait d’un appel. Ensuite, signalez-le. Les plateformes sociales ont des formulaires de signalement pour l’usurpation d’identité et les médias manipulés. Les appels comme celui du New Hampshire peuvent être signalés au procureur général de votre État; ce bureau a demandé aux résidents qui avaient reçu l’appel de le signaler à son unité chargée du droit électoral. Aux États-Unis, la décision de la FCC signifie qu’un appel automatisé utilisant une voix générée par l’IA sans consentement enfreint désormais la loi fédérale, et cette même loi permet aux particuliers de poursuivre les auteurs d’appels automatisés devant les tribunaux.

Enfin, gardez une réponse calme et factuelle. Une courte correction, publiée là où votre public la verra, fait généralement plus qu’une longue dispute avec l’auteur du faux. Si l’hypertrucage est diffamatoire ou sert à vous extorquer, un avocat ou la police sont la bonne prochaine étape.