Début du contenu principal.
Bienvenue à l'ère de la pornographie artificielle pour le grand public.
Des jeunes filles du secondaire ciblées à l’aide de l'intelligence artificielle (IA) pour créer de fausses photos explicites, ensuite propagées sur internet. Des recherches Google qui font apparaître plusieurs sites Web gratuits capables de «déshabiller» les femmes en quelques minutes. La plus grande pop star du monde qui devient la proie d'un hypertrucage pornographique, dont les images ont été visionnées des dizaines de millions de fois.
Bienvenue à l'ère de la pornographie artificielle pour le grand public.
La technologie nécessaire pour créer de la fausse pornographie convaincante existe depuis des années, mais les experts préviennent qu'elle est désormais plus rapide et plus accessible que jamais et qu'elle représente un défi urgent pour les décideurs politiques canadiens.
Les progrès de l'intelligence artificielle ont permis de faire avec un téléphone portable ce qui aurait autrefois nécessité un superordinateur, avance Philippe Pasquier, professeur d'IA créative à l'Université Simon Fraser, en Colombie-Britannique.
Le professeur soutient que la société a «perdu la certitude» de discerner ce qui est réel et ce qui est modifié.
«La technologie s'est un peu améliorée en laboratoire, mais c'est surtout la qualité de la technologie à laquelle tout le monde a accès qui s'est améliorée, explique-t-il. Si on améliore l'accessibilité à la technologie, cela signifie que les bons et les mauvais acteurs seront beaucoup plus nombreux.»
Partout au Canada, des législateurs ont essayé de suivre le rythme. Huit provinces ont adopté des lois sur les images intimes, mais seulement la moitié d’entre elles font référence à des images altérées.
La Colombie-Britannique est la dernière province à avoir emboité le pas à l'Île-du-Prince-Édouard, à la Saskatchewan et au Nouveau-Brunswick.
La loi de la Colombie-Britannique, entrée en vigueur le 29 janvier, permet aux personnes de s'adresser à un tribunal civil pour faire retirer des images intimes, qu'elles soient réelles ou fausses, et de poursuivre les auteurs et les fournisseurs d'internet afin de réclamer des dommages-intérêts.
Les individus s'exposent à une amende allant jusqu'à 500 $ par jour et les sites Web jusqu'à 5000 $ par jour s'ils ne se conforment pas aux ordres de cesser de distribuer des images publiées sans consentement.
En entrevue, la procureure générale Niki Sharma dit avoir craint que les gens ne se manifestent pas lorsqu'ils sont victimes de partage non consensuel d'images intimes, réelles ou non.
«Nos systèmes juridiques doivent s'améliorer en ce qui concerne les impacts de la technologie sur la société et les individus, et cela n'en est qu'une partie», a-t-elle déclaré à propos de la nouvelle législation.
La province a indiqué qu'elle ne pouvait pas fournir de données spécifiques sur l'étendue des images modifiées par l'IA et par l'hypertrucage («deepfake») .
Mais des cas ont parfois été rendus publics ailleurs.
En décembre, une école de Winnipeg a informé les parents que des photos d’élèves mineures générées par l’IA circulaient en ligne.
Au moins 17 photos prises sur les réseaux sociaux d'étudiantes ont été explicitement modifiées grâce à l’intelligence artificielle. Les responsables de l'école ont affirmé avoir contacté la police et offert du soutien aux élèves directement ou indirectement concernés.
«Nous sommes reconnaissants du courage des élèves qui ont porté cette affaire à notre attention», a souligné Christian Michalik, directeur de la Division scolaire Louis-Riel, dans une lettre aux parents également publiée sur Facebook par un conseiller scolaire. Le Manitoba a des lois sur l'image intime, mais elles ne font pas référence aux images modifiées.
Brandon Laur est le directeur général de White Hatter, une entreprise de cybersécurité établie à Victoria.
Une expérience récemment menée par l'entreprise a permis de découvrir qu'il ne fallait que quelques minutes pour déshabiller virtuellement l'image d'une femme entièrement habillée en utilisant des sites Web gratuits, ce que M. Laur qualifie de «choquant».
La femme utilisée dans l’expérience n’était pas réelle – elle a également été créée grâce à l’IA.
«C'est assez surprenant, s'étonne Brandon Laur. Nous avons affaire à des cas (de fausses images sexuelles) depuis le début des années 2010, mais à l'époque, tout était fait sur Photoshop. Aujourd'hui, c'est beaucoup plus simple de faire ça sans aucune compétence.»
Angela Marie MacDougall, directrice de l'organisme Battered Women's Support Services, affirme que son organisation a été consultée au sujet de la loi de la Colombie-Britannique.
Selon elle, le cas de Taylor Swift a souligné le besoin urgent d'une législation complète pour lutter contre l'hypertrucage sur les réseaux sociaux. Elle a félicité la province d'en avoir fait une priorité.
Or, selon elle, la législation cible la distribution non consensuelle d'images explicites et la prochaine «étape cruciale» consiste en une législation ciblant les personnes qui créent ces images non consensuelles.
«C'est vraiment nécessaire, ajoute-t-elle. Il y a là une lacune. Il existe d'autres possibilités qui nécessiteraient d'avoir accès à des ressources, et les femmes avec lesquelles nous travaillons ne pourraient pas engager un avocat et entamer une procédure civile légale autour de la création d'images… parce que, bien sûr, ça coûte de l'argent.»
Mais d'autres voies juridiques peuvent être empruntées par les victimes.
Suzie Dunn, professeure adjointe de droit à l'Université Dalhousie à Halifax, a déclaré que plusieurs lois pouvaient s'appliquer aux images truquées et altérées, notamment celles liées à la diffamation et à la protection de la vie privée.
«Il y a ce nouveau problème social qui apparaît avec les générateurs de contenu et d'images générés par l'IA et l'hypertrucage, où il y a ce genre de nouveau préjudice social qui ne rentre parfaitement dans aucune des catégories juridiques que nous avons», explique-t-elle.
Selon elle, certaines formes de contrefaçon pourraient mériter des exceptions, comme une satire.
«À mesure que la technologie évolue, la loi doit constamment rattraper son retard et cela m'inquiète un peu, car il pourrait y avoir un certain rattrapage à faire avec cette IA générée.»
Pablo Tseng, avocat en propriété intellectuelle à Vancouver, estime que l'hypertrucage «accélère» un problème qui existe depuis des décennies: les fausses déclarations.
«Il y a toujours eu un ensemble de lois qui ont ciblé les fausses déclarations, qui existent depuis longtemps et qui sont encore très applicables aujourd'hui à l'hypertrucage (y compris) les délits de diffamation, de mauvaise représentation, ou en lien avec la vie privée, et le délit d'usurpation de personnalité.»
Il a ajouté que des lois spécifiques, comme celle de la Colombie-Britannique, représentaient des pas dans la bonne direction pour lutter davantage contre ce problème, en tandem avec les lois existantes.
Me Tseng a déclaré qu'il connaissait un cas québécois qui montrait comment l'utilisation abusive de la technologie d'hypertrucage pouvait s'appliquer aux lois sur la pornographie juvénile. Cette affaire a conduit à une peine de prison de plus de trois ans pour un homme de 61 ans qui avait utilisé l'IA pour produire de fausses vidéos pédopornographiques.
Mais Pablo Tseng ne connaît aucun jugement dans lequel la technologie serait référencée dans un contexte de fausse déclaration.
«Il est clair que ce n'est pas parce qu'aucun jugement n'a été rendu que cela ne se produit pas partout autour de nous. Taylor Swift n'est que le dernier exemple d'une série d'autres exemples où les visages, personnalités et portraits de célébrités ont tout simplement été mal utilisés» a-t-il soulevé.
Suzie Dunn croit que la modération du contenu par les sites Web était probablement la meilleure voie à suivre.
Elle a appelé les moteurs de recherche comme Google à désindexer les sites Web principalement axés sur la création de des hypertrucages à caractère sexuel.
«À un moment donné, je pense que certaines personnes abandonnent, même des gens comme Scarlett Johansson ou Taylor Swift, parce qu'il y a tellement de contenu produit et si peu de possibilités de recours juridiques puisqu'il faudrait poursuivre en justice chaque personne qui le partage», déplore Mme Dunn.