Début du contenu principal.
Meta va identifier au cours des prochains mois les images générées par l'intelligence artificielle tant sur Facebook, Instagram et Thread, a annoncé l'entreprise mardi.
Meta identifiera au cours des prochains mois les images générées par l'intelligence artificielle tant sur Facebook, Instagram et Thread, a annoncé l'entreprise mardi.
Meta mentionne qu’elle est en mesure de «détecter des signaux standards de l’industrie» de l’IA et ainsi l’indiquer aux utilisateurs.
«À mesure que la différence entre le contenu humain et le contenu synthétique s’estompe, les utilisateurs souhaitent pouvoir les distinguer. Certains d’entre eux découvrent souvent le contenu généré par l’IA pour la première fois et nous ont indiqué qu’ils appréciaient la transparence autour de cette nouvelle technologie», précise Nick Clegg, président des affaires mondiales chez Meta dans un communiqué.
Ainsi, les utilisateurs des plateformes de Meta verront apparaitre dans un avenir rapproché une mention «imaginée avec l’IA» près des images produites à l’aide de l’outil d’intelligence artificielle Meta AI, mais aussi celles appartenant à d’autres entreprises comme Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock.
Le contexte des élections aux États-Unis et un peu partout dans le monde motive Meta à aller de l’avant avec le déploiement de ce nouvel outil. L’entreprise souhaite notamment «en apprendre beaucoup plus sur la façon dont les utilisateurs créent et partagent le contenu créé avec l’IA.»
Meta affirme œuvrer avec des partenaires du secteur de l’IA sur des normes techniques conjointes dans l’optique «d’identifier les contenus créés grâce à l’IA, y compris les contenus vidéo et audio.»
Pour le moment, on travaille encore à développer la fonctionnalité. Meta estime être capable dans les prochains mois de débuter «l’étiquetage dans toutes les langues prises en charge par chaque application.» En attendant l’arrivée de cette nouveauté, les utilisateurs peuvent identifier eux-mêmes les vidéos ou les sons générés par l’IA afin que l'entreprise puisse les étiqueter.
«Nous exigerons des utilisateurs qu’ils utilisent cet outil d’identification et de référencement lorsqu’ils publieront du contenu organique avec une vidéo photoréaliste ou un son réaliste qui a été créé ou modifié numériquement. Nous pourrons appliquer des sanctions s’ils ne le font pas», souligne Meta, sans préciser quels types de pénalités pourraient être appliqués.
Techniquement, Meta doit mettre sur pied des méthodes et d'autres outils afin de détecter les watermarks (ou filigranes numériques) invisibles «en particulier les informations générées par l’IA dans les normes techniques C2PA et IPTC, afin de pouvoir étiqueter les images» des entreprises qui peuvent créer du contenu avec de l’intelligence artificielle.
Meta affirme qu’il est pour le moment impossible «d’identifier tous les contenus générés par l’IA», mais que les moyens d’éliminer les marqueurs invisibles sont disponibles.
Les dangers sont réels, estime l’entreprise dirigée par Mark Zuckerberg. «Il est probable que cet espace devienne de plus en plus hostile dans les années à venir» et les individus et autres organisations cherchant à tromper les gens avec du matériel généré par l’IA «chercheront à contourner les mesures de protection mises en place pour les détecter.»