L'IA pourrait aider à détecter une autre pandémie. Mais comment éliminer la désinformation ?

Ce texte est une traduction d'un article de CTV News

Au moment où les médecins, les scientifiques et les législateurs envisagent une meilleure utilisation de l'IA pour suivre une éventuelle pandémie, le Dr Kamran Khan, spécialiste des maladies infectieuses et fondateur de BlueDot, affirme que la première étape est «de s'assurer que nous ne créons aucun dommage potentiel dans le processus.»

Lors d'un entretien avec CTVNews.ca en juin lors d'une conférence à Toronto, Dr Khan a expliqué que «ce problème n'est pas seulement un problème pour un gouvernement», mais pour l'ensemble de la société.

Les grands modèles de langage (GML), essentiellement un algorithme capable de prendre d'énormes ensembles de données pour prédire et générer du texte, peuvent être sujets à des «hallucinations» ou inventer des choses, a averti Dr Khan.

«Nous devons créer des balises autour de cela, car comme vous pouvez l'imaginer, les GML pourraient amplifier la désinformation et cela ne nous aide pas», a-t-il déclaré.

BLUEDOT DÉTECTE LA COVID-19

Basée à Toronto, l'entreprise BlueDot est devenue célèbre pour avoir été l'une des premières à détecter les signes de ce qui serait plus tard appelé le SARS-CoV-2, le coronavirus responsable de la maladie COVID-19.

L'entreprise a accompli cela en utilisant l'IA pour parcourir des dizaines de milliers d'articles chaque jour dans des dizaines de langues, ce qui a permis à son système de repérer un article sur une «pneumonie de cause inconnue» le matin du 31 décembre 2019.

BlueDot a envoyé une alerte à ses clients le même jour, soit près d'une semaine avant que les Centers for Disease Control and Prevention des États-Unis et l'Organisation mondiale de la santé ne lancent leurs propres alertes.

En juin, la Harvard Public Health a rapporté que suite à l'envoi de l'alerte par BlueDot à ses clients, la base de clients de l'entreprise a augmenté de 475 pour cent.

TIRER PARTI DE L'IA POUR ANTICIPER LES MALADIES ÉMERGENTES

Les avantages de l'IA sont connus, notamment la vitesse à laquelle elle peut aider à identifier une maladie émergente.

Dr Khan a soutenu qu'il a fondé BlueDot parce qu'il estimait qu'il était nécessaire de pouvoir répondre rapidement et précisément aux urgences en matière de maladies infectieuses, de manière qui n'était pas forcément possible dans le domaine académique.

«Nous devrions exploiter les dernières technologies et innovations pour anticiper ce problème, qui ne concerne pas seulement le Canada, mais en réalité le reste du monde», a-t-il mentionné.

Cependant, tenter de le faire repose sur la confiance et il y a eu beaucoup «d'érosion de la confiance au cours des dernières années», a ajouté Dr Khan.

L'Organisation de coopération et de développement économiques a déclaré en avril 2020 que bien que l'IA ne soit pas une «solution miracle», les décideurs politiques devraient encourager le partage de données médicales, moléculaires et scientifiques pour aider les chercheurs en IA à développer les outils qui pourraient aider la communauté médicale, tout en veillant à ce que les systèmes d'IA soient «dignes de confiance».

«Au lieu de faire des analyses de données manuelles, de commencer l’étiquetage des données ou de passer du temps à consolider les données provenant de différentes sources, nous avons nos modules d’IA qui peuvent traiter les données et générer des informations pertinentes pour les décideurs dans le contexte», a expliqué Zahra Shakeri, professeure adjointe en informatique de la santé et en visualisation de l’information à l’Université de Toronto, dans une interview à CTVNews.ca.

«UNE COMBINAISON INTÉGRÉE D'EXPERTS» EST REQUISE

Mme Shakeri ajoute que bien que l'IA puisse contribuer à améliorer la préparation et la résilience du système de santé, «elle ne peut pas être le seul outil que nous pouvons utiliser pour arriver à la conclusion.»

Les modèles d'IA générative, a-t-elle dit, fonctionnent en essayant de détecter les relations entre les mots, pas nécessairement ce qui est factuel.

Et bien que certains textes puissent être signalés à l'IA comme désinformation, tout ne sera pas détecté.

Une solution pourrait être d'avoir des experts de différents domaines pour aider à déterminer ce qui est vrai ou de rendre les modèles d'IA capables de détecter la désinformation. Sensibiliser davantage le public aux dangers potentiels des informations produites par l'IA générative pourrait également aider.

Mais Shakeri estime que plus de leadership, de gouvernance, de chercheurs, de décideurs politiques et d'intervenants de différents secteurs doivent se réunir pour traiter le problème, de manière similaire à l'avènement de l'énergie nucléaire.

«Cela peut sembler très simple de parler de ces concepts, mais en ce qui concerne la mise en œuvre des solutions, nous avons vraiment besoin de plus d'expertise, de plus de soutien», a-t-elle avancé.

Dr Khan dit également que nous avons besoin d'une «combinaison intégrée d'experts qui comprennent le problème.»

«Nous avons des vétérinaires, d'autres personnes dans les sciences de la santé publique, et nous devons marier cela avec les scientifiques des données, les experts en apprentissage automatique et les ingénieurs qui construiront toute cette infrastructure», a-t-il déclaré.

C'est une question de «ne pas se faire prendre au dépourvu» et de se préparer dès maintenant, a-t-il ajouté.

«Et je ne pense pas que nous devons être en mode panique, mais nous devons utiliser chaque jour de manière productive, car le temps presse.»