Favoriser l’innovation responsable
Le CRDI est à l’avant-garde des efforts de développement mondial, prônant la recherche pour le développement qui renforce les collectivités, accélère les progrès et construit des avenirs durables.
Investissements du CRDI dans les pays du Sud en 2023-2024
L’intelligence artificielle (IA) est en train de transformer rapidement le paysage mondial. Qu’il s’agisse de révolutionner les soins de santé ou de lutter contre les changements climatiques, l’IA recèle un immense potentiel d’amélioration des conditions de vie dans le monde entier. Au fur et à mesure que le dialogue mondial évolue, les discussions tournent autour des implications éthiques du développement et du déploiement de l’IA. Des questions essentielles sont soulevées concernant les biais potentiels des algorithmes, les répercussions de l’IA sur l’emploi et la manière de garantir que l’IA profitera à l’ensemble de l’humanité. Ces discussions sont cruciales pour façonner un avenir où l’IA sera une force au service du bien, promouvant le développement durable et un monde plus équitable.
Cette année, le rapport annuel du CRDI met en lumière la capacité de la recherche à soutenir la création d’innovations en IA responsable. Le CRDI a commencé à investir dans la recherche et l’innovation de haute qualité en IA dans les pays du Sud il y a près de dix ans. Depuis lors, nos investissements se sont transformés en un écosystème de recherche en IA dynamique – un réseau complexe et interconnecté d’entités, d’organisations et de ressources qui contribuent à la création, à la diffusion et à l’application de connaissances.
Aujourd’hui, le CRDI est un chef de file mondial en faveur de la recherche et de l’innovation en IA responsable visant à faire progresser les objectifs de développement international. Nos investissements dans la recherche en Afrique, en Asie, en Amérique latine et au Moyen-Orient renforcent la capacité des personnes et des institutions à assurer un avenir meilleur, plus résilient et plus durable.
Guidés par nos partenaires des pays du Sud, nos efforts pour développer la recherche et les innovations en matière d’IA sont profondément ancrés dans les aspirations et les besoins locaux. Nous pensons que les personnes devant relever les défis du développement sont les mieux placées pour définir les problèmes et trouver des solutions. C’est pourquoi nous aidons les institutions de recherche, les gouvernements locaux, les organisations de la société civile et les communautés locales à créer ensemble des innovations en IA adaptées au contexte et à la réalité culturelle.
Entre de bonnes mains et avec la bonne orientation, les applications de l’IA peuvent être utilisées pour améliorer la qualité de vie et, comme le montrent nos investissements, nous reconnaissons leur immense potentiel d’augmenter les capacités de soins de santé, d’atténuer les effets des changements climatiques, de révolutionner les modèles d’éducation et bien d’autres choses encore.
Toutefois, nous sommes également conscients des risques importants que l’IA peut représenter. Entre de mauvaises mains, l’IA a le pouvoir d’exacerber les inégalités existantes et de menacer les emplois, les libertés civiles et les droits humains. C’est ici que la recherche en IA responsable devient cruciale. En soutenant la recherche et le développement de systèmes d’IA responsable fondés sur des données probantes et sur les droits, sûrs, inclusifs et durables, nous pouvons définir et corriger les biais de la technologie tout en acquérant des connaissances sur les avantages et les utilisations potentielles de l’IA responsable.
Alors qu’une conversation mondiale dynamique et urgente sur l’IA prend de l’élan, les investissements du CRDI dans la recherche se sont révélés prémonitoires. Le Canada est un pays qui participe activement aux discussions sur l’IA, et les recherches bien établies, soutenues par le CRDI, sont en mesure d’apporter des gains significatifs.
Dans ce rapport, nous examinons les efforts déployés par le CRDI pour créer des capacités de recherche durables en IA dans les pays du Sud – et soutenir les nombreuses innovations qui en résultent – tout en s’attaquant aux risques associés à l’IA dans la sphère du développement. Tout au long du document, nous explorons les différentes applications des innovations en IA dans nos domaines de programmes, tout en ancrant nos efforts dans les principes de la Stratégie 2030 du CRDI.
Des solutions inclusives grâce à l’innovation responsable en IA : l’impact croissant du CRDI
Après des années de partenariat avec des leaders émergents de la recherche et de l’innovation en IA dans les pays du Sud, le CRDI et l’Agence suédoise de coopération internationale au développement ont lancé le programme IA pour le développement (IAPD) Afrique en 2021. Le partenariat de quatre ans, d’une valeur de 20 millions de dollars, a mené à la création d’un réseau de recherche sur les politiques en IA, de deux groupes de réflexion et d’action sur les politiques en IA, de deux laboratoires d’IA et d’un programme de bourses dans les universités publiques, ainsi que de quatre réseaux de recherche sur l’innovation en IA. Tous ces programmes ont donné lieu à près de 100 innovations menées localement – de l’amélioration de la résilience climatique au soutien d’une approche féministe de la recherche et du développement en IA.
Ce partenariat profitera à tous les pays et veillera à ce que les pays en développement ne soient pas laissés pour compte dans la révolution de l’IA.
Cette année, le CRDI s’est associé au FCDO pour financer un élargissement du programme IAPD à hauteur de 70 millions de dollars, nouvelle phase qui se poursuivra jusqu’en 2029. Le programme IAPD : une IA responsable, une autonomisation des populations s’appuiera sur les fondements de la première phase du partenariat IAPD en coordonnant les programmes en IA du CRDI en Afrique avec le travail que nous soutenons en Asie, en Amérique latine et au Moyen-Orient (ex. : l’Indice mondial de l’IA responsable, le Réseau de recherche féministe sur l’IA, l’IA au service de la santé mondiale) afin de créer le plus grand impact possible.
Favoriser l’égalité en luttant contre les biais de l’IA
Le Réseau de recherche féministe sur l’IA (FAIR), qui fait partie de la nouvelle phase du programme IAPD du CRDI, est un réseau mondial de scientifiques, d’économistes et de féministes qui cherchent des moyens de rendre l’IA et les technologies connexes plus efficaces, inclusives et transformationnelles. L’une des principales menaces liées à l’émergence de l’IA est son potentiel à creuser les inégalités, en particulier pour les femmes et les populations vulnérables. Le FAIR soutient des projets qui repèrent et corrigent les biais numériques et qui développent des solutions d’IA reflétant les principes féministes.
Mettre l’IA au service de l’élaboration des politiques économiques en Afrique
Alors que l’IA continue de transformer divers secteurs, ses applications dans les services gouvernementaux et le développement des politiques restent largement inexplorées. L’African Center for Economic Transformation étudie le potentiel de l’IA à révolutionner l’élaboration des politiques économiques en Afrique dans le cadre du programme IAPD du CRDI. Le projet vise à :
- Générer des données probantes sur la façon dont l’IA peut être utilisée pour améliorer les décisions des politiques économiques en Afrique, conduisant ainsi à une croissance économique plus rapide et plus inclusive.
- Rechercher et expérimenter en collaboration avec les décideurs politiques, dans le but de favoriser une compréhension réaliste du potentiel de l’IA dans la sphère politique.
- Renforcer les capacités en rassemblant une communauté de décideurs et décideuses politiques, de praticiens et praticiennes, et de chercheurs et chercheuses qui partagent leurs connaissances.
- Promouvoir l’égalité en reconnaissant l’importance de traiter les biais potentiels dans les algorithmes et les données, et en veillant à ce que les outils d’IA soient mis en oeuvre d’une manière qui profite à l’ensemble de la population.
Renforcer les systèmes de santé pour l’équité et l’inclusion
L’utilisation de l’IA transforme la manière dont les systèmes et services de santé sont planifiés et fournis à l’échelle mondiale. Les innovations en IA qui donnent la priorité aux besoins humains et qui respectent les droits fondamentaux ont le potentiel de rationaliser la prestation des soins de santé et d’accélérer les progrès vers la réalisation des objectifs de développement durable axés sur la santé. Ces innovations peuvent être intégrées dans divers aspects des systèmes de soins de santé, de surveillance de la santé publique à grande échelle aux services sur place au point de soins.
Toutefois, les pays à revenu faible et intermédiaire doivent disposer de données probantes sur la manière dont l’IA peut être utilisée pour renforcer les systèmes de santé, améliorer l’équité en santé, soutenir l’égalité des genres et l’inclusion, et garantir une offre locale de personnel qualifié, de données crédibles et d’infrastructures informatiques.
Le programme Intelligence artificielle au service de la santé mondiale (IASM), qui fait également partie du nouveau programme IAPD du CRDI, est un investissement quinquennal du CRDI de 15,5 millions de dollars qui finance des projets de recherche interdisciplinaire en Afrique, en Asie, en Amérique latine et dans les Caraïbes, ainsi qu’au Moyen-Orient. Il réunit des spécialistes de divers domaines, notamment des soins de santé, de science des données et d’IA, qui participent au développement de solutions d’IA responsables et locales soutenant une préparation et des réponses renforcées et plus équitables aux épidémies et aux pandémies et améliorant la santé sexuelle, reproductive et maternelle des femmes et des filles.
Se préparer à la prochaine épidémie
Les éclosions de maladies sont de plus en plus fréquentes et graves, et les changements climatiques creusent les inégalités sanitaires et sociales dans le monde en créant des « points névralgiques » climatiques où les maladies sont plus susceptibles de surgir. Le réseau AI for Pandemic Preparedness and Response (AI4PEP) du Sud global soutient 16 centres composés de chercheurs et chercheuses interdisciplinaires et de décideurs et décideuses politiques en Afrique, en Asie, en Amérique latine et aux Caraïbes, ainsi qu’au Moyen-Orient, afin de détecter, de répondre et de contrôler les nouvelles éclosions de maladies avant qu’elles ne deviennent des épidémies ou des pandémies.
Cette initiative mondiale vise à décloisonner les disciplines. Elle rassemble des scientifiques de données, des épidémiologistes, des physiciens et physiciennes, des mathématiciens et mathématiciennes et des ingénieurs et ingénieures logiciel ainsi que des experts et expertes en gestion des catastrophes et des urgences, en santé publique clinique, en science citoyenne et en mobilisation communautaire. Des équipes interdisciplinaires de chercheurs et chercheuses travaillent à l’amélioration de la détection précoce, des systèmes d’alerte précoce, de l’intervention rapide et des moyens d’atténuer et de maîtriser les épidémies en développement, en utilisant l’IA comme point d’entrée.
AutoAI-Pandemics est une force potentiellement transformatrice, prête à relever des défis sociétaux cruciaux en proposant des solutions à la désinformation et en fournissant des outils informatiques efficaces… (Elle) vise à réduire considérablement les répercussions des épidémies et des pandémies, en évitant ou en atténuant les futures crises mondiales comme celle vécue au début de l’année 2020.
Pour ne citer qu’un exemple de projet AI4PEP, un groupe de chercheurs et chercheuses de l’Université de São Paulo au Brésil est en train de développer AutoAI-Pandemics, une plateforme conçue pour rendre l’IA accessible aux professionnels et professionnelles – tels que les biologistes, les médecins et les épidémiologistes – qui ne sont pas des experts en science des données ou en apprentissage automatique.
Les chercheurs et chercheuses visent plusieurs objectifs :
- Analyser automatiquement les épidémies et trouver les meilleurs moyens de les arrêter
- Découvrir de nouveaux médicaments et comprendre la composition génétique des agents pathogènes
- Lutter contre la désinformation sur les maladies en donnant aux gens des informations fiables
L’équipe de recherche d’AutoAI-Pandemics souhaite que sa plateforme soit facile à utiliser. Elle diffusera ses résultats dans des articles et formera des doctorants et doctorantes à l’utilisation de l’IA dans les soins de santé.
Une avancée de l’IA pour les femmes enceintes et les femmes en post-partum
Dans les régions reculées du Kenya, où l’accès à des services de santé maternelle de qualité peut être limité, une crise silencieuse s’annonce. Rien qu’en 2018, 38 000 mères et nouveau-nés ont perdu la vie faute d’accès à des soins maternels et néonatals fiables.
L’organisation à but non lucratif, Jacaranda Health, a mis au point un outil révolutionnaire pour les soins maternels et néonatals. Baptisé PROMPTS, cet outil est un système basé sur les messages textes (SMS) qui permet aux femmes enceintes et aux femmes en post-partum d’obtenir de l’aide d’un service d’assistance humain, quel que soit leur lieu de résidence.
Cependant, PROMPTS compte 350 000 utilisatrices et son succès a entraîné des difficultés. Compte tenu des 1,1 million de messages SMS reçus chaque mois, le service d’assistance de Jacaranda Health avait besoin d’un outil de triage pour l’aider à intervenir en temps voulu auprès des femmes qui en ont cruellement besoin. Jacaranda Health a collaboré avec une équipe de chercheurs et chercheuses pour créer Triage for Mothers using AI (TRIM-AI), un cadre de traitement du langage naturel à la pointe de la technologie.
TRIM-AI évalue le niveau d’urgence de la situation des femmes enceintes en fonction du contenu de leurs messages SMS. À titre de comparaison, la version TRIM-AI de PROMPTS était 17 % plus efficace pour repérer les conditions à haut risque dans les textos de mères kenyanes. La charge de travail du service d’assistance a été réduite de 12 %, ce qui lui a permis de consacrer plus de temps à aider les mères et les bébés.
Amplifier les voix des pays du Sud pour un développement éthique de l’IA
Bien que le discours actuel sur la gouvernance de l’IA soit animé et productif, les voix et les perspectives des pays du Sud n’y sont pas suffisamment représentées. Pour atténuer les préjudices et lutter efficacement contre les biais, il est essentiel d’impliquer des spécialistes de l’Afrique, de l’Asie et de l’Amérique latine à l’élaboration des recommandations et des normes.
Le CRDI finance des partenaires des pays du Sud pour qu’ils élaborent des lignes directrices, des cadres et des mécanismes de réglementation qui favorisent le déploiement responsable et éthique de l’IA dans les régions en développement. Le Centre facilite les dialogues multipartites, les partages de connaissances et les partenariats afin d’élaborer des normes et des pratiques exemplaires pour un déploiement responsable de l’IA qui favorise les droits humains, la protection de la vie privée, la responsabilité et l’inclusion sociale. Les réseaux dynamiques que le CRDI finance travaillent à la réalisation d’objectifs communs, favorisant ainsi un avenir où l’IA sera un facteur de changement positif dans le développement.
Il ne suffit pas d’adopter des stratégies nouvelles ou novatrices pour résoudre d’anciens problèmes. Nous devons procéder avec soin et prudence, y compris en rassemblant des informations à partir des vastes connaissances existantes sur les promesses et les pièges de l’exploitation de la technologie et de la science des données au service du développement.
Faire progresser la gouvernance mondiale pour une IA responsable
Le CRDI et Affaires mondiales Canada sont les fers de lance d’une initiative qui permettra aux gouvernements, aux organisations de la société civile et à d’autres de se doter de données probantes pour faire progresser les principes de gouvernance de l’IA fondée sur les droits. Bien que des progrès aient été réalisés dans la définition de cadres éthiques pour l’IA, il faut maintenant traduire ces principes en stratégies réalisables dans les secteurs public et privé.
Entre en scène l’indice mondial de l’IA responsable. Dirigé par le groupe de réflexion Research ICT Africa, basé en Afrique du Sud, ce projet vise à fournir une évaluation complète et fiable du développement et de l’utilisation de l’IA dans plus de 120 pays. Son but est de mieux informer la coopération internationale et de stimuler l’action locale pour une IA responsable.
L’équipe du projet a établi un cadre de mesure robuste de 87 indicateurs et 29 domaines thématiques conçus pour évaluer le déploiement de l’IA responsable. Tirant parti de l’expertise de 11 institutions de recherche, principalement situées dans les pays du Sud, et soutenu par 135 spécialistes des pays concernés, le projet examine le paysage des pratiques d’IA responsable par rapport au cadre de mesure. L’indice a été rendu public en juin 2024.
Aligner l’IA sur les droits humains et les valeurs démocratiques
Le Partenariat mondial sur l’intelligence artificielle (GPAI) rassemble des spécialistes des secteurs public, privé et à but non lucratif du monde entier pour favoriser le développement et l’utilisation de l’intelligence artificielle responsable dans le respect des droits humains et des valeurs démocratiques.
Grâce à ses groupes de travail, le GPAI se concentre sur des domaines clés tels que l’IA responsable, la réponse aux pandémies, la gouvernance des données et l’innovation. En 2020, le GPAI a créé le Centre d’expertise international de Montréal pour l’avancement de l’intelligence artificielle (CEIMIA) en vue de diriger des initiatives d’IA responsable, de réponse aux pandémies et de gouvernance des données.
Afin d’améliorer le caractère inclusif du GPAI et d’amplifier la perspective des pays du Sud, le CRDI finance un spécialiste de l’IA de la région. Thomas Hervé Mboa Nkoudou, chercheur camerounais installé à Montréal, collabore avec le CEIMIA, les groupes de travail et la communauté canadienne de l’IA pour intégrer les besoins et les intérêts des pays du Sud dans les efforts globaux du GPAI en faveur d’une adoption de l’IA responsable. Son rôle est essentiel pour renforcer les liens entre le GPAI, le CEIMIA et les parties prenantes de l’IA dans les pays du Sud.
Combattre la désinformation
Ces dernières années, la désinformation s’est répandue à grande échelle dans le paysage médiatique mondial en ligne, créant ce que les experts et expertes appellent une « infodémie ». Le problème est particulièrement criant au Moyen-Orient et en Afrique du Nord, où le manque de médias indépendants a conduit les gens à s’appuyer fortement sur les médias sociaux pour s’informer.
Le CRDI finance des recherches visant à évaluer l’état actuel de la désinformation en arabe en recueillant des données provenant d’initiatives de vérification des faits en arabe et en créant une base de données multilatérale unique. À l’aide de techniques de traitement du langage naturel, l’équipe de recherche, dirigée par Wael Alalwani de l’Open Transformation Lab Inc., analysera les données afin de cerner les tendances concernant les répercussions de la désinformation sur les groupes minoritaires, la perception de la désinformation par le public et la manière dont elle se propage.
Lutter contre les disparités en matière de données
Les données sont à la base des innovations en IA et servent de fondement à l’apprentissage et à l’évolution des algorithmes. Lorsque les données n’existent pas, sont obsolètes ou ne représentent pas les populations mal servies, il peut en résulter un outil d’IA biaisé et inexact.
En 2020, le CRDI, la Fondation Rockefeller et d’autres partenaires se sont unis pour créer le Fonds Lacunda, le premier effort de collaboration au monde visant à combler les lacunes importantes des données en IA dans les domaines de l’agriculture, de la langue, de la santé et du climat. À ce jour, 16 projets ont reçu un financement : 10 pour la langue et six pour l’agriculture. Les chercheurs et chercheuses ont créé 13 ensembles de données, tous librement accessibles.
Les lauréats et lauréates en agriculture ont produit des ensembles de données de formation dans toute l’Afrique subsaharienne pour répondre à divers besoins agricoles. Ceux et celles en langue ont produit des ensembles de données textuelles et vocales au profit des technologies de traitement du langage naturel en Afrique de l’Est, en Afrique de l’Ouest et en Afrique australe.
Chaque langue et culture a une histoire à raconter, et la langue maternelle parle à l’âme… Dans le cadre de ce projet, nous aurons l’occasion de travailler avec des locuteurs natifs sélectionnés au Kenya, de faire participer des étudiants et étudiantes à la collecte et à l’annotation de données tout en les guidant dans la création d’outils (de traitement du langage naturel) pour les langues africaines.
Dans le cadre du projet KenCorpus, une équipe de recherche de l’Université de Maseno, au Kenya, a mis au point de riches ressources textuelles et vocales pour les langues suivantes parlées au Kenya : kiswahili, luhya (y compris trois dialectes) et dholuo. Le projet s’attaque à la sous-représentation des langues africaines dans le domaine de l’IA et du traitement du langage naturel. Parmi ses nombreux avantages potentiels, citons la préservation des langues qu’il représente et la création de supports d’apprentissage des langues, tels que des manuels et des applications d’apprentissage des langues.
L’ensemble de données a été téléchargé 250 000 fois!
Regard vers l’avenir
Les doubles perturbations de l’IA et du changement climatique soulignent l’urgence de stratégies de développement inclusives et durables qui atténuent les risques, renforcent la résilience et donnent aux personnes et aux collectivités – en particulier aux femmes et aux personnes vulnérables – les moyens de prospérer. Alors que le monde se tourne de plus en plus vers le potentiel de transformation des innovations en IA, le CRDI continuera de jouer un rôle de chef de file en favorisant des solutions novatrices fondées sur la recherche.
À titre d’exemple, le CRDI a annoncé en novembre 2023 le lancement de FutureWORKS, une initiative de recherche interdisciplinaire de cinq ans, dirigée par des pays du Sud, qui aborde l’avenir du travail dans ces pays dans le contexte de ces réalités en évolution. Cinq centres régionaux, qui recevront chacun 1,7 million de dollars, ont été sélectionnés pour créer et diriger des écosystèmes de recherche en Asie, en Afrique, au Moyen-Orient et en Amérique latine qui reflètent les talents, les besoins et les intérêts locaux.
Le CRDI est fier de collaborer avec le gouvernement du Canada alors que nous naviguons dans le paysage en évolution des progrès technologiques. Tirant parti du leadership canadien en matière de politiques sur l’IA, nous continuerons d’appuyer l’élaboration de politiques, de pratiques et d’innovations inclusives et éthiques en IA qui répondent aux défis uniques et aux réalités locales des pays du Sud.
Alors que l’IA façonne de plus en plus les économies et les sociétés du monde entier, nous veillerons à ce que les technologies émergentes profitent à tous – en particulier aux communautés vulnérables – et favorisent le développement durable et l’accès équitable aux possibilités. Grâce à ses efforts continus, le CRDI vise à provoquer des changements positifs, ce qui favorise les progrès vers un avenir plus inclusif et prospère pour toutes et tous.
Gouvernance organisationnelle
Le Conseil des gouverneurs est responsable de la gérance du Centre : il en détermine l’orientation stratégique et supervise ses activités. Le Conseil agit conformément à la Loi sur le CRDI, au Règlement général du CRDI et aux pratiques exemplaires en matière de gouvernance.
Transparence
Le CRDI doit rendre compte au Parlement et à tous les Canadiens de son utilisation des ressources publiques. Voici quelques-unes des mesures qui nous aident à respecter, voire à surpasser les normes établies par le gouvernement du Canada en matière de reddition de comptes et de transparence.
Analyse de la direction
L’analyse de la direction est un compte rendu des résultats financiers et des changements opérationnels au cours de l’exercice qui a pris fin le 31 mars 2024. Elle devrait être lue en parallèle avec les états financiers, qui ont été préparés conformément aux Normes internationales d’information financière.