La sudafricana Rachel Adams, una verdadera experta en derechos humanos y en IA, fundó el Observatorio Africano de Inteligencia Artificial Responsable (OAIAR) a principios de 2022 para llamar a la reflexión. ¿Qué significa la IA para África? ¿Cuáles son los riesgos y los beneficios para las sociedades africanas? ¿La implementación de estas tecnologías puede afectar a la democracia? ¿Cómo podemos apoyarnos en los sistemas de valores, las tradiciones y los códigos culturales de África para establecer guías éticas? Y, ¿qué sería una IA de África y para África? Esas son las cuestiones a las que se dedican los miembros del Observatorio.
«Queremos aportar la experiencia africana a la escena mundial», expresa Rachel Adams, que también dirige el Centro Just AI. ”Las discusiones que abarcan la IA se ven influenciadas por los países del hemisferio norte. Por lo tanto, las herramientas desarrolladas reflejan sus estándares éticos, normativos y de gobierno: es necesario que los países del Sur tengan su lugar en las reflexiones”.
A través de OAIAR, organismo que cuenta con el aporte, entre otros, del Centro Internacional de Investigaciones para el Desarrollo, de Canadá, la investigadora quiere ofrecer herramientas a los países de África para supervisar la implantación de la IA y para darle un marco adecuado.
¿Solución O Desvío?
En concreto, ¿cómo se puede aplicar la IA en África?
El mundo bancario se encuentra entre los primeros en adoptarla. De Este a Oeste, las instituciones financieras proceden a incorporar la IA a sus sistemas de otorgamiento de crédito o de servicios al cliente. De forma paralela, la firma canadiense Proto ha tenido un gran éxito entre los bancos africanos: su tecnología automatiza la recepción de reclamos, y esto en una diversidad de lenguas locales como el kinyarwanda y el twi. La digitalización de los servicios bancarios es además un medio, según ADFI (Africa Digital Financial Inclusion Facility), para ofrecer servicios más eficaces e inclusivos.
Los miembros de OAIAR han criticado esto. «Cuando es una máquina quién decide que no tienes derecho a un préstamo bancario, un puesto, una visa… ¿a quién acudes?», pregunta en una entrevista la investigadora de Namibia Kristophina Shilongo.
La equidad de los sistemas inteligentes reposa, en gran parte, en los datos que se les han suministrado. «Los datos disponibles en África se basan, en gran medida, en las experiencias de los hombres», afirma Rachel Adams. «Por lo tanto, los servicios están sesgados. Pero esto no representa solamente un problema de IA: esto es el resultado de problemas estructurales profundos». Para contrarrestar esta tendencia, el OAIAR se compromete a incluir la dimensión de género y de raza en todos sus trabajos.
Además, la red del OAIAR trabaja en la descolonización de la IA. «Queremos identificar, en el mundo de la IA, las dinámicas heredadas del colonialismo para desactivarlas», detalla Rachel Adams.
Agrega que la importación de tecnologías inadecuadas a los contextos locales representa un problema. Por ejemplo, los sistemas de reconocimiento facial «probados» fuera del continente son susceptibles a cometer errores. Esto es inquietante, en particular, cuando se emplean con fines de vigilancia policial, como en Johannesburgo, donde más de 5000 cámaras asistidas por IA de la compañía danesa iSentry & Milestone registraron los hechos y los gestos de los transeúntes.
Además, África está en la mira de las empresas para las «pruebas beta» de sus innovaciones. Poblaciones que no siempre son capaces de dar un consentimiento libre y clarohacen las veces de conejillos de indias. La empresa especializada en perfiles psicológicos e ideológicos Cambridge Analytica puso a prueba su capacidad de influencia política en Nigeria y en Kenia antes de afrontar la elección de Donald Trump en los Estados Unidos.
También, hay abusos en los datos.
En Kenia, las aplicaciones de crédito prestan fondos con intereses muy altos sin evaluar la solvencia de los prestatarios y recolectan, de forma masiva, sus datos, como la ubicación, los mensajes de texto, los contactos y el historial de llamadas…
Para contrarrestar estos desvíos, la sudafricana Nokuthula Olorunju, miembro del Observatorio, trabaja en la gobernanza de la IA y en el marco jurídico del ciberespacio. Para ella, el marco de las tecnologías se logra con un enfoque colaborativo de abajo hacia arriba. «Vamos al encuentro de personas para escuchar sus experiencias y para saber qué significa la tecnología y sus datos para ellos. A partir de ahí, tenemos una mejor comprensión de sus percepciones y realidades para generarles protección».
Para identificar qué constituye la IA ética de cada país, Rachel Adams y un equipo internacional se han abocado a la creación del Índice Mundial de IA Responsable. Esta herramienta permitirá comparar los países a partir de criterios establecidos mundialmente y no solo recibidos de los Estados del Norte.
«Este instrumento se desarrolla desde el Sur y, sobre todo, del continente africano», explica Rachel Adams. «Se inspirará en las concepciones regionales de los derechos de las personas, con la esperanza de ser lo más inclusivo posible».
El índice tiene como objetivo ayudar a cada ciudadano/a a tomar conciencia sobre aquello que está en juego en su sociedad. Porque, a pesar de los reparos planteados por los investigadores, las innovaciones en IA forman parte del porvenir y representan valiosas ocasiones por aprovechar.
