Par Alexandra Ulmer et Anna Tong
SAN FRANCISCO (Reuters) – Dans une image apparemment modifiée, l’ancien président américain Donald Trump est vu serrer dans ses bras sa bête noire, le Dr Anthony Fauci, qui rayonne en réponse. Dans un autre, Trump embrasse Fauci sur le nez.
Ces images publiées par la campagne du gouverneur de Floride Ron DeSantis cette semaine montrent comment les candidats républicains à la Maison Blanche de 2024 ont élevé leur guerre des mots dans l’arène des médias sociaux axée sur l’IA, mêlant faits et fiction.
Les images font partie d’une vidéo que l’équipe d’intervention rapide de DeSantis a partagée sur Twitter. Il reproche à Trump de ne pas avoir licencié Fauci, l’ancien haut responsable américain des maladies infectieuses dont la pression pour les restrictions du COVID-19 l’a transformé en croquemitaine pour de nombreux conservateurs.
La vidéo comprend des images apparemment réelles de Trump lors de conférences de presse et d’interviews. Mais au bout de 25 secondes, six images apparaissent de Trump et Fauci – dont trois les montrant en train de s’étreindre ou de s’embrasser.
Ces trois images sont probablement générées par l’IA, selon une analyse des traces laissées par les générateurs d’images synthétiques, a déclaré Matthew Stamm, professeur de génie électrique et informatique à l’Université Drexel. « Nos résultats aboutissent systématiquement à une décision selon laquelle ces images sont fausses », a-t-il déclaré.
La vidéo ne révèle aucune utilisation potentielle de l’IA et la campagne DeSantis n’a pas répondu à la question de savoir si les images étaient fausses ou si l’IA a été utilisée pour les créer.
Mais leur apparition dans la campagne d’un candidat de premier plan montre à quel point la technologie se fraye un chemin dans la course présidentielle de 2024, alors qu’une multitude de nouveaux outils « d’IA générative » permettent de créer facilement et à peu de frais des deepfakes convaincants.
« C’était particulièrement sournois d’entremêler les vraies et les fausses images, comme si la présence de la vraie image donnait plus de crédibilité aux autres images », a déclaré le pionnier de l’imagerie numérique Hany Farid, qui enseigne à l’Université de Californie à Berkeley.
Une personne connaissant l’opération de campagne de DeSantis a déclaré que la partie Trump avait « continuellement publié de fausses images et de faux points de discussion pour salir le gouverneur ».
Trump, qui est actuellement le favori pour l’investiture présidentielle républicaine, a en effet utilisé des images modifiées pour attaquer DeSantis, son plus proche rival.
Cependant, il semble avoir principalement partagé du contenu manifestement faux, par exemple une image de DeSantis chevauchant un rhinocéros, une suggestion que le gouverneur est un «républicain de nom seulement» (RINO).
La campagne Trump n’a pas immédiatement répondu à une demande de commentaire. Un représentant du Dr Fauci n’a pas non plus immédiatement répondu.
L’outil d’analyse médico-légale du professeur Drexel Stamm suggère que les images ont été réalisées à l’aide d’un modèle d’IA appelé modèle de diffusion, qui sous-tend les produits de génération d’images d’IA populaires tels que DALL-E et Stability AI.
Jusqu’à présent, la seule publicité politique de haut niveau générée par l’IA aux États-Unis était celle publiée par le Comité national républicain fin avril. La publicité de 30 secondes, que le RNC a révélée comme étant entièrement générée par l’IA, utilisait de fausses images pour suggérer un scénario cataclysmique si Biden était réélu, la Chine envahissant Taïwan et San Francisco étant fermée pour cause de crime.
Personne ne sait exactement où mène la route de l’IA générative ni comment se prémunir efficacement contre son pouvoir de désinformation de masse, d’autant plus que l’IA s’améliore en qualité.
« À un moment donné, les systèmes d’IA produiront des images qui ne présenteront aucune différence avec les images réelles », a déclaré James O’Brien, professeur d’informatique à l’Université de Californie à Berkeley. « A ce moment-là, il n’y aura plus rien à détecter. »
(Reportage d’Alexandra Ulmer et Anna Tong à San Francisco; Reportage supplémentaire de Seana Davis; Montage par Rosalba O’Brien)
