CIAIRN : Reseau pour catalyser la recherche en IA inclusive

Les systèmes d’intelligence artificielle (IA) comportant des ensembles de données qui reflètent des préjugés historiques ou qui manquent de diversité peuvent perpétuer les inégalités existantes. Par exemple, les technologies de reconnaissance faciale ont démontré des taux d’erreur plus élevés pour les personnes à la peau plus foncée en raison d’une sous-représentation dans les données de formation. Une étude de 2023 publiée dans la revue Nature a révélé des écarts de performance dans les grands modèles linguistiques entre différents dialectes et langues, ce qui pourrait toucher les locutrices et locuteurs de langues moins représentées.

Les systèmes d’IA fondés sur des données qui intègrent des normes sociales néfastes existantes ont tendance à perpétuer ces préjugés et à produire des résultats injustes, tout en excluant les communautés vulnérables. Le développement général de l’IA se produit dans un système de sciences, technologies, ingénierie et mathématiques qui continue d’être inégal, avec beaucoup moins de femmes et de personnes handicapées représentées.

Généralement propulsés par les forces du marché, les systèmes d’IA donnent rarement la priorité aux exigences et aux expériences des communautés et des populations vulnérables. Ils offrent peu d’informations sur la façon dont les décisions sont prises, qui est responsable ou qui est exclu. Bien que les principes de l’IA responsable soient généralement compris, leur mise en œuvre demeure limitée, en particulier dans les environnements réglementaires plus faibles.

Le Reseau pour catalyser la recherche en IA inclusive (CIAIRN) vise à catalyser l’innovation en IA inclusive, fondée sur les droits de la personne et axée sur la communauté afin de résoudre le problème de la façon dont les systèmes d’IA reproduisent les normes sociales genrées nuisibles et, au lieu de cela, de développer des solutions qui garantissent que les avantages de l’IA sont répartis équitablement.

Ce projet vise à créer des solutions d’IA grâce à l’innovation centrée sur la communauté, en assurant des technologies socialement justes et réactives. Les experts collaboreront avec les communautés pour développer des outils d’IA adaptables qui répondent à leurs besoins. L’initiative renforcera la capacité de la communauté à comprendre le développement et la gouvernance de l’IA et à échanger les connaissances entre les développeurs, les décideurs et le public. Le CIAIRN est un réseau mondial qui comprend des institutions d’Amérique latine et des Caraïbes, d’Asie, d’Afrique subsaharienne, du Moyen-Orient et d’Afrique du Nord, ainsi qu’un organisme de coordination mondial pour consolider les connaissances et soutenir le réseau grandissant.