IA responsable, éthique et féministe au service du développement : défis et solutions

Les membres de la communauté de l’intelligence artificielle (IA) en Afrique de l’Est affirment qu’il existe un besoin urgent de considérations éthiques, d’approches féministes, ainsi que de politiques et stratégies africaines inclusives dans le développement et la mise en œuvre de l’IA sur le continent. Ce ne sont là que quelques-unes des recommandations issues d’un Café sur le genre, intitulé « IA responsable, éthique et féministe au service du développement », organisé conjointement par Affaires mondiales Canada et le CRDI à Nairobi en mars 2024. Lors de l’événement, un groupe de spécialistes, de praticiennes et praticiens, de décisionnaires, ainsi que de chercheuses et chercheurs établis à Nairobi, dont beaucoup sont soutenus par le CRDI, a examiné comment les technologies de l’IA sont porteuses de progrès et d’innovation, mais posent également des défis et des risques importants, en particulier en ce qui concerne les disparités entre les genres et l’inclusion.

Impact de l’IA sur l’emploi des femmes

L’Organisation internationale du Travail estime que l’IA pourrait déplacer 3,7 % de tous les emplois féminins dans le monde, soit 48 millions d’emplois. Cela se compare à une perte de 1,4 % pour les hommes. La recherche financée par le CRDI et menée par le Center for Intellectual Property and Information Technology Law (CIPIT) de l’Université Strathmore sur le secteur bancaire au Kenya a révélé que l’IA prendrait d’abord la relève dans des domaines tels que le service à la clientèle et les ressources humaines, qui sont principalement occupés par des femmes. Le projet de recherche a également étudié les attitudes des gens à l’égard des changements possibles. « Les personnes interrogées craignaient beaucoup le déploiement de l’IA et ce que cela signifiait pour leur travail. Mais du côté de l’employeur, il s’agissait [la réaction] d’une chose positive : [on pensait] je vais utiliser l’IA et tout ira bien », a noté une personne qui participait à la recherche.

Les personnes participant au Café ont également discuté de la façon dont les systèmes d’IA qui alimentent les données renforcent les préjugés fondés sur le genre. Par exemple, lorsque les gens renforcent les stéréotypes négatifs (« toutes les femmes aiment l’argent ») dans les médias sociaux, que l’information numérique est intégrée au processus d’apprentissage de l’IA, ce qui affecte la façon dont les systèmes d’IA comprennent le genre, ce qui perpétue, voire normalise, les stéréotypes et les préjugés.

Inclusion dans le développement de l’IA : Comment abordons-nous les questions de relations de pouvoir?

Le manque de représentation des femmes et des groupes marginalisés dans les processus de développement et de prise de décisions en matière d’IA a été cerné comme un problème critique. Les industries de l’IA et de la technologie sont principalement dirigées par des hommes de la classe moyenne. Cette hiérarchie laisse les groupes marginalisés, en particulier les femmes africaines, avec une influence et un accès limité au développement de l’IA.

Un autre défi soulevé était la prédominance des « modèles coloniaux » d’IA, qui ne sont pas conçus pour comprendre ou incorporer les perspectives ou les modèles africains indigènes. Une experte en systèmes sociotechniques et en éthique de l’IA a souligné que la véritable inclusion va au-delà de la simple représentation numérique. « Idéalement, nous devrions nous poser les questions suivantes : Comment abordons-nous les questions de relations de pouvoir? Qui a l’argent? Qui a une expertise? Qui conçoit quoi? Qui façonne ces perspectives et de qui défendons-nous les intérêts politiques et corporatifs? » a-t-elle demandé.

« Vous n’avez pas besoin d’être un expert pour parler d’IA, car si c’est le cas, la majorité mondiale ne pourra pas siéger à la table puisque, par conception, le bon siège ou le bon siège pour les technologies est [San] Francisco, c’est la Chine ou Dublin », a noté une participante. Elle a déclaré que la démocratisation des discussions sur l’IA garantit qu’un plus large éventail de points de vue, en particulier ceux des groupes sous-représentés, peuvent influencer le développement et l’application de l’IA, la rendant plus équitable et reflétant la diversité mondiale.

Politiques et stratégies d’IA en Afrique : Les Africaines et les Africains d’abord

Des pays comme le Kenya, l’Égypte, l’île Maurice, le Rwanda et le Sénégal élaborent des politiques en matière d’IA en reconnaissant de plus en plus son importance à travers le continent. L’Union africaine élabore également une feuille de route politique continentale en matière d’IA, avec le soutien du CRDI parmi d’autres partenaires de développement. Les personnes qui ont participé au Café ont salué l’élaboration d’une stratégie, mais ont souligné qu’elle devrait être guidée par une compréhension claire des objectifs, des défis et des occasions spécifiques que l’IA présente dans le contexte africain.

L’une des personnes invitées a émis une mise en garde quant à la possibilité de « l’effet Bruxelles », où les réglementations de l’UE influencent les normes mondiales en raison des exigences liées aux relations commerciales avec celle-ci. Elle a noté que les pays africains subissent souvent des pressions pour s’aligner sur les réglementations mondiales en matière d’IA, telles que le Règlement général sur la protection des données, qui ne correspondent pas nécessairement aux considérations communautaires de l’Afrique et ne reconnaissent pas les nuances des communautés marginalisées. Cela souligne l’importance d’adapter les politiques d’IA aux réalités locales.

Elle a ajouté que le déploiement de la technologie, y compris l’IA, est intrinsèquement politique, avec le potentiel de refléter et de renforcer la volonté politique des personnes au pouvoir. Par conséquent, l’élaboration de politiques et de stratégies en matière d’IA en Afrique nécessite un examen attentif du paysage politique afin de garantir que ces technologies profitent à la société dans son ensemble.

Au Kenya, par exemple, les lois existantes traitent à peine de l’IA, avec peu ou pas de mention des considérations de genre. Le rejet d’un projet de loi sur la robotique et l’IA par des spécialistes de l’IA en raison du manque de représentation des femmes met en évidence une lacune importante dans la mise en place de politiques d’IA inclusives en matière de genre. De plus, l’absence d’IA dans les programmes d’enseignement et l’absence d’une politique globale en matière d’IA indiquent des domaines nécessitant une attention urgente.

Les personnes invitées à prendre la parole ont également souligné l’importance de conversations mondiales inclusives dans l’élaboration de stratégies d’IA, soulignant la nécessité de faire entendre les voix des pays du Sud, en particulier de l’Afrique.

Voici quelques recommandations qui ont émergé de la discussion : 

• Favoriser l’élaboration de politiques inclusives en veillant à ce que les processus d’élaboration des politiques en matière d’IA impliquent diverses parties prenantes de divers milieux économiques, sociaux et culturels. Pour les politiques mondiales, une attention particulière doit être accordée à l’inclusion des voix des pays du Sud et des communautés marginalisées afin de garantir que les stratégies d’IA sont équitables et reflètent la diversité des besoins. 

• Aborder les préjugés dans l’IA par l’intermédiaire de plateformes et de forums afin de traiter et d’atténuer spécifiquement les préjugés sociaux dans le développement et l’utilisation de l’IA. Cela inclut les préjugés fondés sur le genre, en veillant à ce que les technologies de l’IA ne perpétuent pas les inégalités existantes, mais contribuent plutôt à l’égalité des genres. 

• Réviser et mettre à jour les cadres juridiques, en particulier dans des pays comme le Kenya, où les lois existantes ne reflètent pas le paysage technologique actuel. 

• Améliorer l’éducation et la sensibilisation à l’IA en intégrant cette dernière dans les programmes d’enseignement à tous les niveaux afin de développer une compréhension fondamentale de l’IA chez les élèves. 

• Promouvoir les initiatives locales de recherche et de développement en IA comme le meilleur moyen de s’assurer que les solutions en IA sont adaptées pour répondre aux besoins spécifiques de la population. 

• Travailler activement à l’inclusion des genres dans les équipes de développement de l’IA, les forums d’élaboration de politiques et les initiatives de recherche. 

Cet article est basé sur un Café sur le genre organisé conjointement par le Bureau régional de l’Afrique orientale et australe du CRDI et le Haut-commissariat du Canada à Nairobi le 15 février 2024, avec les contributions des panélistes Angella Ndaka (experte en systèmes sociotechniques et en éthique de l’IA), Nanjira Sambuli (experte en technologies, politiques publiques et gouvernance mondiale), Melissa Omino (experte en propriété intellectuelle), Irene Mwendwa (experte en droits de la personne et politiques technologiques) et d’autres participants et participantes.

Collaboratrices : Loise Ochanda, administratrice programme, CRDI, avec Elizabeth Muriithi, conseillère régionale, CRDI, Betsy Muriithi, récipiendaire d’une bourse de perfectionnement professionnel, CRDI, et Kagure Wakaba (spécialiste du genre).