Affecting Machines

AFFECTIONS ARTIFICIELLES:

Une boîte à outils pour l’utilisation équitable de l’intelligence artificielle  

À PROPOS

Au printemps 2023, l’Institut d’IA appliquée de Concordia a reçu une subvention de recherche de la Commission des partenaires du marché du travail dans le but d’améliorer l’équité entre les sexes dans les secteurs de l’intelligence artificielle (IA) et des sciences, technologies, génie, mathématiques (STGM). La recherche proposée a été réalisée selon une méthodologie d’action communautaire permettant d’établir ensemble des trajectoires significatives pour le projet. C’est ainsi qu’un groupe de travail interdisciplinaire, Affections Artificielles, a été lancé. Ce groupe de travail est composé de chercheuses et chercheurs, de représentantes et représentants communautaires ainsi que de spécialistes de l’IA qui travaillent à l’élaboration d’outils pratiques pour les personnes souhaitant améliorer l’équité entre les sexes.  

Nous exerçons un effet sur les machines : nous créons les données à l’aide desquelles elles apprennent et développons les algorithmes qui les guident. Et les machines exercent sur nous des effets bénins, bénéfiques ou nuisibles : elles nous recommandent les chansons que nous écoutons et les films que nous regardons, elles proposent des aliments que nous achetons dans les allées des caisses libre-service et elles peuvent même (mal) identifier nos visages dans les foules et signaler notre emplacement à la police. Grâce à ce projet, nous cherchons à exercer un effet sur les machines au moyen de méthodologies féministes intersectionnelles, en engageant l’éthique des données de soins, afin de contribuer au développement et au déploiement de systèmes équitables. 

POURQUOI?

Les femmes sont historiquement sous-représentées dans les domaines et les carrières des STGM, en particulier dans l’informatique et l’IA. Par exemple, en 2017, les femmes ne représentaient que 35 % des domaines liés aux STGM dans l’enseignement supérieur au niveau mondial (UNESCO, 2017). La sous-représentation des femmes dans les STGM s’étend bien au-delà de l’enseignement supérieur; il s’étend jusque dans le monde professionnel. En 2023, seules 29,2 % des personnes travaillant dans les STGM sur LinkedIn dans le monde sont des femmes, mais ce chiffre tombe à 12 % pour les postes de direction (Forum économique mondial, 2023). Sur le marché mondial du travail de l’IA, les femmes représenteront 30 % de la main-d’œuvre de l’IA en 2023 (Forum économique mondial, 2023).   

Ce taux de participation est beaucoup plus faible pour les femmes noires et les femmes de couleur. On peut également supposer que les personnes de genre non conforme sont sous-représentées dans les domaines et les carrières des STGM, de l’informatique et de l’IA, car il n’existe pas de données publiques sur la représentation des personnes transgenres et de genre divers au sein de la main-d’œuvre. Pour remédier à ces inégalités, nous adoptons une approche intersectionnelle de l’apprentissage automatique, en soulignant comment le sexisme est reproduit à la fois dans le lieu de travail et par les systèmes d’IA.   

Au-delà de la représentation des chercheuses et chercheurs ainsi que des professionnelles et professionnels dans ce domaine, la question du genre est délicate, d’un point de vue conceptuel, au sein des systèmes d’IA. Afin de recommander des produits ou de la musique, ou même de générer des textes ou des images, les algorithmes se fondent sur diverses hypothèses concernant le genre qui ne sont souvent pas conformes aux conceptions actuelles de ce qu’est le genre, de la manière dont il devrait être traité en programmation et de l’usage éthique d’une variable relative au genre.  

– OUTILS & RESSOURCES –