Une vidéo truquée imitant la voix de Kamala Harris est partagée par Elon Musk

La vidéo a attiré l'attention après que le milliardaire Elon Musk l'a partagée sur sa plateforme de médias sociaux X vendredi soir, sans mentionner explicitement qu'elle avait été initialement publiée comme parodie.

La vidéo utilise bon nombre des visuels employés dans une publicité récente de Mme Harris, la candidate pressentie à la présidence démocrate, que celle-ci a publiée la semaine dernière pour lancer sa campagne. Mais la vidéo remplace la voix hors champ par une autre voix qui imite celle de la vice-présidente de manière convaincante.

«Moi, Kamala Harris, je suis votre candidate démocrate à la présidence parce que Joe Biden a finalement exposé sa sénilité lors du débat», dit la voix dans la vidéo. Cette voix avance que Mme Harris est une embauche issue d'une «diversité de façade» parce qu’elle est une femme et une personne de couleur, et mentionne qu’elle ne sait pas «la moindre des choses sur la gestion d'un pays». La vidéo conserve la marque Harris for President et y ajoute également quelques extraits passés authentiques de Mme Harris.

This is amazing 😂
pic.twitter.com/KpnBKGUUwn

— Elon Musk (@elonmusk) July 26, 2024

«Nous pensons que le peuple américain veut la vraie liberté, les opportunités et la sécurité qu'offre la vice-présidente Harris ; pas les faux mensonges manipulés d’Elon Musk et de Donald Trump», a écrit Mia Ehrenberg, porte-parole de la campagne de Mme Harris, dans un courriel adressé à l'Associated Press.

La vidéo largement partagée est un exemple de la façon dont des images, des vidéos ou des clips audio réalistes générées par l’intelligence artificielle ont été utilisées à la fois pour se moquer d'une personne ou pour induire des gens en erreur avant l’élection présidentielle américaine.

Elle montre qu'il y a jusqu’à présent un manque d’action fédérale pour réglementer l'utilisation de l'IA, laissant les États et les plateformes de médias sociaux la légiférer eux-mêmes.

Plus d'un tiers des États ont créé leurs propres lois réglementant l'utilisation de l'IA dans les campagnes et les élections, selon la Conférence nationale des législatures des États.

La vidéo soulève également des questions sur la meilleure façon de gérer les contenus qui brouillent les limites de ce qui est considéré comme une utilisation appropriée de l’IA, en particulier s’ils entrent dans la catégorie de la satire.

L'utilisateur original qui a posté la vidéo, un utilisateur de YouTube, connu sous le nom de M. Reagan, a révélé à la fois sur YouTube et sur X que la vidéo manipulée était une parodie. Mais le message de M. Musk, qui a été vu plus de 123 millions de fois, selon la plateforme, ne comprend que la légende «c'est incroyable» avec un emoji qui rit.

La politique de X possiblement enfreinte

Les utilisateurs du réseau social X qui connaissent bien la plateforme savent peut-être qu'il faut cliquer sur la publication d'Elon Musk pour accéder à la publication de l'utilisateur d'origine, où la mention de satire est faite. Or, la légende de Musk ne leur suggère pas directement de le faire.

Alors que certains usagers de la fonctionnalité «note communautaire» de X, qui sert à ajouter du contexte aux publications, ont suggéré d'étiqueter la publication d'Elon Musk, aucune étiquette de ce type n'y avait été ajoutée dimanche après-midi.

Certains utilisateurs en ligne se sont demandé si sa publication pourrait enfreindre les politiques de X, qui stipulent que les utilisateurs ne peuvent pas «partager des médias synthétiques ou manipulés à des fins de tromperie et susceptibles de causer des préjudices».

La politique prévoit une exception pour les mèmes et la satire, à condition qu'ils n'entraînent pas «de confusion majeure quant à l'authenticité des médias».

Au-delà de X, d’autres sociétés de médias sociaux ont également créé des politiques concernant les médias synthétiques et manipulés partagés sur leurs plateformes. Les utilisateurs de la plateforme vidéo YouTube, par exemple, doivent révéler s’ils ont utilisé l’intelligence artificielle générative pour créer des vidéos, sous peine de suspension.

Elon Musk a affirmé qu'il soutient l’ancien président Donald Trump, le candidat républicain, au début du mois. Ni M. Reagan ni M. Musk n'ont immédiatement répondu aux demandes de commentaires envoyées par courrier électronique dimanche.

Deux experts spécialisés dans les médias générés par l'IA ont examiné le son de la fausse publicité et ont confirmé qu'une grande partie avait été créée à l'aide de cette technologie.