Début du contenu principal.
Intelligence artificielle: quels dangers pour la démocratie?
Yoshua Bengio soutient que nos élus ne sont pas assez bien outillés pour faire face aux défis du phénomène.
Alors que les risques de l’intelligence artificielle (IA) pour nos démocraties sont de plus en plus nombreux, le professeur à l’Université de Montréal et sommité mondiale dans le domaine, Yoshua Bengio, soutient que nos élus ne sont pas assez bien outillés pour faire face aux défis du phénomène.
«Les politiciens ne sont pas suffisamment au courant de la vitesse à laquelle les choses bougent et de l'importance des décisions collectives qui vont se prendre à travers nos parlements dans les prochaines années», soutient d'emblée le professeur en entrevue avec La Presse Canadienne.
L’institut Mila, que Yoshua Bengio a fondé, offre des formations sur l’IA, notamment aux élus. «On veut faire en sorte que les politiciens de toutes nos juridictions et de tous les partis puissent mieux comprendre les enjeux», explique celui qui a reçu mardi la Médaille d’honneur de l’Assemblée nationale du Québec.
«On a commencé ce genre de choses avec le gouvernement fédéral. On serait tout à fait intéressé à le faire avec notre Parlement québécois», ajoute-t-il.
L’Assemblée nationale indique ne pas avoir organisé de formation sur l’IA jusqu’à maintenant, mais que des activités sur le sujet se tiennent parfois.
Ingérence, désinformation, hypertrucage
Les dangers liés à l’IA pour les démocraties sont de plus en plus présents et nombreux: ingérence dans les élections, désinformation ou encore hypertrucage (deepfake). On peut notamment penser à une fausse entrevue du premier ministre Justin Trudeau avec le controversé animateur américain Joe Rogan. Bien que les voix étaient très réalistes, elles ont été générées par IA.
À l’image d’un roman dystopique, le professeur à l’Université de Montréal imagine un scénario où des partis politiques pourraient entraîner des IA qui dialogueraient sur un réseau social avec des électeurs dans le but d’influencer leur opinion politique et leur vote.
«Imaginez que les politiciens qui essaient de convaincre les citoyens puissent entrer dans le salon de chacun et dialoguer pendant des mois et des mois. Évidemment avec des êtres humains ce n'est pas possible, mais avec l'IA ça l'est», soutient M. Bengio, ajoutant que les électeurs ne sauraient pas qu’ils discutent avec une intelligence artificielle.
Et le discours des IA serait personnalisé. «Chaque personne pourrait être ciblée différemment», ajoute le professeur.
À VOIR AUSSI | Les professeurs de cégep et d’université s’inquiètent du recours abusif à l’intelligence artificielle
On sait déjà que les politiciens adaptent leur discours en fonction de la clientèle politique qu’ils courtisent, mais le scénario imaginé par Yoshua Bengio pourrait entraîner d'importantes dérives.
«Il faut baliser ce genre de chose avec un regard éthique et revenir au sens premier de la démocratie, c’est-à-dire un partage équitable du pouvoir entre tous, qu'on puisse tous participer aux décisions collectives et que ces décisions soient le résultat d'un débat éclairé, rationnel et inclusif», dit l’homme qui a été nommé parmi les 100 personnes les plus influentes au monde par le prestigieux magazine «Time».
Et si on pousse encore plus le scénario d'anticipation, est-il possible d’imaginer que nos élus puissent être remplacés par des IA?
«Même si on avait des IA plus intelligentes que nous, ce n'est pas clair qu'elles représenteraient fidèlement la volonté générale d'une population. Il n'est pas question que les décisions importantes soient prises par des IA. Pour moi, c'est quelque chose qui est dangereux et qu'il faut éviter», lance-t-il.
Les avantages de l’IA pour la démocratie
Yoshua Bengio tient tout de même à rappeler que l’IA pourrait apporter des choses positives au débat public et à la démocratie.
«À la vitesse à laquelle les choses avancent, on pourrait envisager que l'IA nous aide à identifier si un discours ou une réponse est réellement une contribution à la discussion et non pas une répétition de choses qui ne sont pas des réponses aux questions, par exemple», détaille le chercheur.
«Ça pourrait forcer une certaine discipline de débat qui soit orientée vers quelque chose de constructif plutôt qu'une "game" de hockey», ajoute-t-il.
L’IA peut aussi servir à faire de la recherche plus efficace afin que les députés soient bien préparés lorsqu’ils vont en commission parlementaire.
On pourrait aussi imaginer qu’elle synthétise un texte de loi afin de le rendre plus clair, ou encore de permettre de le comparer avec d’autres lois. «La capacité d'analyse du contenu textuel est déjà très avancée», dit le professeur, tout en rappelant qu’il reste encore du travail à faire.
Des outils d’IA comme ChatGPT peuvent servir à faire de la recherche, mais ils doivent être utilisés avec parcimonie, car ils peuvent produire des réponses erronées.
«Des robots qui viennent nous tuer»
Le chercheur affirme que les sondages montrent que les citoyens sont généralement favorables à un plus grand contrôle de l’IA.
Toutefois, cet enjeu est souvent bien bas dans leur liste de priorités. «Et donc, ce n'est pas une priorité pour les gouvernements», renchérit Yoshua Bengio.
Il trace un parallèle entre l’IA et les changements climatiques sur le fait que les impacts les plus concrets se verront dans le futur. «Quand on regarde dehors dans la rue, on ne voit pas des robots qui viennent nous tuer. On ne voit pas non plus le climat qui est complètement démoli», illustre-t-il.
Ainsi, bien qu’il s’agisse d’un enjeu majeur, le professeur affirme que les choses ne bougent pas suffisamment rapidement afin d’encadrer l’utilisation de l’IA.