Début du contenu principal.
Une fausse image d'une explosion au Pentagone relance le débat sur l'IA
Une fausse image montrant une explosion au Pentagone est brièvement devenue virale sur Twitter lundi, causant un léger affaissement des marchés pendant dix minutes.
Une fausse image montrant une explosion au Pentagone est brièvement devenue virale sur Twitter lundi, causant un léger affaissement des marchés pendant dix minutes, et relançant le débat autour des risques liés à l'intelligence artificielle (IA).
La fausse photographie, apparemment réalisée avec un programme d'IA générative (capable de produire du texte et des images à partir d'une simple requête en langage courant), a obligé le ministère américain de la Défense à réagir.
AI-Generated Image of Fake Explosion Outside Pentagon Causes Panic https://t.co/HWoyZuT7fD
— TMZ (@TMZ) May 22, 2023
«Nous pouvons confirmer qu'il s'agit d'une fausse information et que le Pentagone n'a pas été attaqué aujourd'hui», a déclaré un porte-parole.
Les pompiers de la zone où se trouve le bâtiment (à Arlington, près de Washington) sont aussi intervenus pour indiquer sur Twitter qu'aucune explosion ou incident n'avait eu lieu, ni au Pentagone ni à côté.
L'image semble avoir fait légèrement décrocher les marchés pendant quelques minutes, le S&P 500 perdant 0,29% par rapport à vendredi avant de se reprendre.
«Il y a eu une baisse liée à cette fausse information quand les machines l'ont détectée», a relevé Pat O'Hare de Briefing.com, faisant référence aux logiciels de transactions automatisés qui sont programmés pour réagir à des publications sur les réseaux sociaux.
«Mais le fait qu'elle soit restée mesurée par rapport à la teneur de cette fausse info suggère que d'autres l'ont aussi jugée vaseuse», a-t-il ajouté pour l'AFP.
Un compte de la mouvance conspirationniste QAnon a été parmi les premiers à relayer la fausse image, dont la source n'est pas connue.
L'incident intervient après que plusieurs fausses photographies produites avec de l'IA générative aient été largement relayées pour montrer les capacités de cette technologie, comme celle de l'arrestation de l'ancien président américain Donald Trump ou celle du Pape en doudoune.
Les logiciels comme DALL-E 2, Midjourney et Stable Diffusion permettent à des amateurs de créer de fausses images convaincantes sans avoir besoin de maîtriser des logiciels d'édition comme Photoshop.
Mais si l'IA générative facilite la création de faux contenus, le problème de leur dissémination et de leur viralité - les composantes les plus dangereuses de la désinformation - relève lui des plateformes, rappellent régulièrement des experts.
«Les utilisateurs se servent de ces outils pour générer des contenus plus efficacement qu'avant (...), mais ils se répandent toujours via les réseaux sociaux», a souligné Sam Altman, le patron d'OpenAI (DALL-E, ChatGPT), lors d'une audition au Congrès mi-mai.