Cibles, objectifs et tactiques émergentes des deepfakes politiques

L'essor des deepfakes représente une menace importante pour les élections, les personnalités publiques et les médias. Une étude récente du groupe Insikt met en évidence 82 deepfakes ciblant des personnalités publiques dans 38 pays entre juillet 2023 et juillet 2024. Les deepfakes visant à gagner de l'argent, à manipuler les élections, à assassiner des personnalités et à diffuser de la pornographie non consensuelle sont en hausse. Pour contrer ces risques, les organisations doivent agir rapidement, accroître la sensibilisation et mettre en œuvre des outils de détection de l'IA avancés.

Deepfakes et désinformation politique 2024 : menaces émergentes et stratégies d'atténuation

La prolifération des deepfakes générés par l'IA redéfinit le paysage politique et de désinformation. Entre juillet 2023 et juillet 2024, des deepfakes usurpant l'identité de personnalités publiques ont fait surface dans 38 pays, suscitant des inquiétudes quant à l'ingérence dans les élections, la diffamation, etc. Voici une analyse détaillée de ces nouvelles menaces et des stratégies pour les atténuer.

Principales tendances de l'utilisation du deepfake

82 deepfakes ont été identifiés dans 38 pays, 30 nations ayant organisé des élections pendant la période couverte par la base de données ou ayant des élections prévues pour 2024. Des personnalités politiques, des chefs d'État, des candidats et des journalistes ont été pris pour cible, ce qui a amplifié le potentiel de perturbation des processus démocratiques.

Objectifs principaux

Escroqueries (26,8 %) : Les deepfakes sont fréquemment utilisés pour promouvoir des escroqueries financières, en profitant de l'attention accrue pendant les élections. L'identité de personnalités telles que le Premier ministre canadien, Justin Trudeau, et la présidente élue du Mexique, Claudia Sheinbaum, ont été usurpées dans le cadre de stratagèmes frauduleux.

Fausses déclarations (25,6 %) : Les deepfakes inventent souvent les déclarations de personnalités publiques pour induire les électeurs en erreur. Par exemple, de faux enregistrements audio ont été diffusés, montrant le Premier ministre britannique, Keir Starmer, critiquant son propre parti, et le Premier ministre taïwanais, Ko Wen-Je, lançant de fausses accusations.

Propagande électorale (15,8 %) : Les partis politiques utilisent de plus en plus de deepfakes pour influencer le comportement des électeurs. Le président turc Erdoğan a utilisé un deepfake pour relier un leader de l'opposition à des groupes terroristes, tandis que l'Argentine a été confrontée à des deepfakes lors de la bataille électorale entre Milei et Massa.

Assassinat de personnalités (10,9 %) : Des personnalités telles que le président philippin Ferdinand Marcos Jr. ont été montrées en train d'adopter un comportement contraire à l'éthique, affectant ainsi la confiance du public.

Pornographie non consensuelle (10,9 %) : les femmes en politique sont ciblées de manière disproportionnée par la pornographie deepfake, ce qui nuit à leur réputation et les dissuade de participer à la vie politique.

Nouvelles tactiques de deepfake

Plusieurs nouvelles tactiques ont vu le jour, démontrant à quel point les opérations de deepfake sont devenues sophistiquées :

• Faux lanceurs d'alerte : en utilisant l'IA pour créer des deepfakes représentant des tiers se faisant passer pour des lanceurs d'alerte, des acteurs d'influence cherchent à manipuler l'opinion publique en inventant des scandales.
• Deepfake audio : une tendance croissante est l'utilisation de faux clips audio pour créer de fausses déclarations, comme le président Biden qui aurait exhorté les électeurs à ne pas participer aux primaires.
• Usurpation de contenus médiatiques : les acteurs d'influence utilisent de plus en plus de marques légitimes, comme des logos ou des superpositions de France24 et de la BBC, pour donner de la crédibilité à leurs deepfakes.
• Usurpation d'identité d'un dirigeant étranger : des vidéos comme celles mettant en scène le Chinois Xi Jinping ou l'Américain Donald Trump ont été réutilisées pour influencer les élections nationales à Taïwan et en Afrique du Sud, respectivement.
• Usurpation d'identité d'un membre de la famille : les deepfakes ciblent même les membres de la famille de personnalités politiques, ajoutant une autre couche de désinformation et de manipulation.

L'impact des deepfakes sur les élections

Les deepfakes sont devenus un outil de guerre politique. En Slovaquie, par exemple, un deepfake audio a été diffusé juste avant les élections, diffusant de fausses informations sur la fraude électorale, tandis qu'en Turquie, un candidat s'est retiré de la course présidentielle après la diffusion d'une prétendue deepfake sextape. Le potentiel de désinformation des deepfakes, en particulier dans un climat politique instable, est considérable. Le risque de discréditer les candidats politiques et de diffuser des histoires fausses rend plus urgente la nécessité de mettre en place des contre-mesures avancées.

Contrer la menace du deepfake

• Rapidité et précision : lorsque les deepfakes deviennent viraux, il est essentiel d'agir rapidement. Les personnalités publiques doivent publier des contenus authentiques pour démentir rapidement les fausses affirmations.
• Campagnes de notoriété : encouragez les personnalités publiques à accroître leur visibilité, afin de permettre aux gens de se familiariser avec leur véritable image.
• Exploitation des droits d'auteur : les deepfakes utilisant des contenus protégés par des droits d'auteur peuvent être supprimés via des demandes DMCA, ce qui constitue une voie légale pour contrer la désinformation générée par l'IA.
• Détection avancée de l'IA : les gouvernements et les médias doivent investir dans des outils de détection basés sur l'IA afin d'identifier et de neutraliser les deepfakes avant qu'ils ne causent des dommages importants.
• Collaboration avec les vérificateurs de faits : la collaboration entre les plateformes de réseaux sociaux et les organisations de vérification des faits sera essentielle pour freiner la propagation des deepfakes et des histoires fausses.

Les deepfakes joueront probablement un rôle important dans les élections américaines de 2024 et dans les processus politiques mondiaux, influençant les résultats en portant atteinte aux réputations et en érodant la confiance dans les élections. Les réglementations peinent à suivre l'évolution des technologies, notamment en ce qui concerne l'ingérence étrangère et la manipulation des élections. Les recherches suggèrent que les deepfakes, au-delà d'une certaine qualité, n'ont pas nécessairement besoin d'être très sophistiqués pour causer des dommages. Il est donc plus efficace de se concentrer sur les stratégies de réponse et d'atténuation, notamment en exposant le public à l'image réelle des personnes dont l'identité a été usurpée et en vérifiant rapidement les faits relatés.

To read the entire analysis, click here to download the report as a PDF.