Aller au contenu principal

Hatebase – Bâtir un réseau mondial et une intelligence artificielle pour la surveillance multilingue des discours haineux

Le discours haineux est largement reconnu comme un déclencheur de violence, en particulier contre les minorités vulnérables. Elle contribue à la polarisation sociale qui peut entraîner l’instabilité et les conflits. Les répercussions du discours haineux sur les États fragiles se sont accrues ces dernières années en raison de l’augmentation de la connectivité Internet. Cela permet de diffuser des propos haineux au moyen des médias sociaux, ce qui contribue à la persécution, aux conflits armés et au génocide dans divers pays. Le volume de discours haineux circulant en ligne dépasse les capacités des modérateurs humains, d’où la nécessité d’une automatisation toujours plus efficace. L’omniprésence des discours haineux en ligne est également une occasion à saisir, car ces grandes quantités de données sont potentiellement utiles comme indicateurs de l’instabilité croissante et elles peuvent offrir la possibilité d’une intervention précoce.

Le projet Sentinel, une ONG canadienne qui travaille à prévenir le génocide au moyen d’un système d’alerte rapide, met en œuvre ce projet. L’objectif est de lutter contre le discours haineux en ligne en mettant l’accent sur la technologie, les partenariats et la recherche. Sur le plan technologique, le projet améliorera la base de données et la plateforme de surveillance Hatebase, qui intègrent des éléments d’intelligence artificielle et de traitement du langage naturel pour élargir la portée et les capacités de l’algorithme qui l’alimente. Développée par le projet Sentinel, l’application primée est actuellement le plus grand répertoire structuré du monde de discours haineux régionaux et multilingues.

Les démarches de partenariat seront axées sur la mise en place d’un réseau mondial de nœuds de recherche afin de contribuer à la formation multilingue et contextuelle continue sur la plateforme. Les efforts de recherche porteront sur les corrélations entre le discours haineux en ligne et les incidents hors ligne, en particulier dans les contextes fragiles, et sur la façon dont ces corrélations peuvent être utilisées pour éclairer les mesures d’atténuation du discours haineux.

No projet
109128
État du projet
Terminé
Date de fin
Durée
24 months
Agent(e) responsable du crdi
Ruhiya Seward
Financement total
CA$ 350,000.00
Programmes
Éducation et sciences
Éducation et sciences
Économies en réseaux
Pays de l’institution
Canada
Chargé(e) de projet
Christopher Tuckwood
Institution
Sentinel Project for Genocide Prevention

Résultats

Research summary document :  hatebase - AI for hate speech monitoring

Research summary document : hatebase - AI for hate speech monitoring

Paper

Hate speech is widely acknowledged as a precipitator of violence, particularly against vulnerable minorities, and a contributor to societal polarization which can lead to instability and conflict escalation. The impact of hate speech on fragile states has risen in recent years as a result of increased internet connectivity, enabling hate speech to be disseminated through social media and contributing on a large scale to persecution, armed conflict, and genocide in various countries. The sheer volume of hate speech constantly circulating online exceeds the capabilities of human moderators, thus resulting in the need for increasingly effective automation. The pervasiveness of online hate speech also presents an opportunity since these large volumes of data are potentially useful as indicators of spiraling instability and introduce the possibility of early intervention. The purpose of this research is to provide a technical explanation of the processes involved while still attempting to make the material digestible for an audience with limited or no technical experience in the subject.

Auteur ou autrice(s) : Boyd, Drew

Télécharger le PDF

Langage : Anglais