Cela est essentiel à la conception de systèmes d’AM et d’IA, pour les deux raisons exposées ci-après. Premièrement, dans la mesure où le développement de systèmes d’IA et d’AM est perçu comme une entreprise tributaire de la culture et des décisions d’êtres humains, il est impossible de prétendre que leur conception repose sur une démarche neutre. Deuxièmement, le fait de savoir qui participe à la conception d’un projet permet de mieux évaluer le potentiel de celui-ci. 

Par exemple, l’Université Gallaudet, au sein de laquelle seule la langue des signes américaine (ASL) est employée, fait appel à des développeurs sourds pour concevoir une architecture conviviale fondée sur la langue des signes, dite « DeafSpace », ce qui présente des défis absents de tout autre cas liés à l’espace, à la proximité, à la couleur des murs et à la perception sensorielle (Gallaudet University, 2023). La maîtrise de l’ASL et la détention d’un diplôme en architecture de systèmes aident les personnes sourdes à déterminer comme concevoir l’espace physique expressément aux fins de la communication en langue des signes. Cet exemple montre qu’il existe un lien direct entre, d’une part, le positionnement d’un projet, et d’autre part, sa conception et ses objectifs, ce qui engendre des modes différents de génération de connaissances pratiques. 

L’humanisation des processus d’AM est étroitement liée à l’intersectionnalité, car elle prend en compte le fait que chaque personne possède des expertises et points de vue propres, issus de son vécu. Une personne réflexive est consciente de ses propres points de vue et expertises, mais travaille aussi avec les autres pour les compléter. La réflexivité engendre une transparence accrue en faisant en sorte que les objectifs d’un projet soient conformes aux capacités et aux expériences vécues des participants à celui-ci. 

Les modèles d’AM sont conçus et développés par des personnes, et les ensembles de données ne sont jamais constitués de données « brutes ». Il est important d’en être conscients pour remettre en question l’idée voulant que les personnes concernées par les données œuvrent à masquer leurs intérêts, leurs expériences vécues et leur emplacement dans le cadre de relations de pouvoir (Gray et Witt, 2021). De plus, des décisions humaines entrent en jeu dans la collecte, l’organisation et la préparation des données bien que, souvent, ce travail ne soit pas reconnu et soit sous-évalué. Le développement de l’IA repose sur un travail d’extraction visant l’organisation et l’étiquetage des données. Pour contrer ce facteur d’iniquité dans le cadre d’un projet, il faut être conscients de la façon dont les données ont été organisées, de l’endroit où elles l’ont été et par qui elles l’ont été. En plus de veiller à l’équité entre les genres au fil des étapes du développement des systèmes d’IA et d’AM, il faut être conscients des aspects de leur développement traditionnellement assurés par des travailleurs précaires, sous-payés et invisibilisés, parmi lesquels les personnes issues de l’hémisphère sud sont souvent surreprésentées (Crawford, 2021; Irani, 2015). 

La mise en lumière de la réalité des systèmes d’AM passe aussi par la reconnaissance des conséquences environnementales du développement technologique. Il est important de prendre en compte l’extraction de ressources naturelles que cela implique et l’importance des émissions carbonées liées aux cycles de vie des systèmes d’AM, car ce n’est qu’ainsi que des stratégies pourront être mises en place pour atténuer les conséquences environnementales de leur développement. Il est important de reconnaître ces conséquences et la contribution des travailleurs chargés de l’extraction afin de prendre des mesures pour atténuer les importantes retombées négatives que cela engendre. 

Les biais qui entachent les systèmes peuvent être décelés et atténués au fil des diverses étapes allant de collecte des données au déploiement des modèles. Les professionnels de l’AM ou de l’IA ont mis en lumière divers types de biais qui peuvent influer sur le développent des systèmes d’IA. Il peut s’agir de biais historiques, mais aussi de biais touchant la représentation, les mesures, la compilation, l’apprentissage, l’évaluation ou le déploiement (Suresh et Guttag, 2021, p. 3-4). L’on entend par biais historique tout biais qui entache les ensembles de données existants de sorte qu’il est reproduit dans les systèmes d’AM. Par exemple, les ensembles de données textuels utilisés pour développer les modèles de langage sont connus pour comporter des préjugés et des stéréotypes liés au genre. On parle de biais touchant la représentation en cas d’emploi, pour développer un modèle, d’un échantillon de données non représentatif des utilisateurs de ce modèle ou souffrant d’une sous-représentation d’une partie d’entre eux. On parle par ailleurs de biais touchant l’évaluation lorsque les comparatifs employés pour évaluer les modèles et algorithmes d’AM comportent une représentation erronée de leurs utilisateurs. Par exemple, les technologies de reconnaissance faciale sont connues pour comporter des biais touchant la représentation et l’évaluation. Les taux élevés d’erreurs liées aux visages à peau sombre sont bien documentés et découlent de la sous-représentation de tels visages dans les ensembles de données qui servent au développement des modèles. 

Il ne s’agit là que de quelques exemples de biais qui peuvent entacher les systèmes d’IA. Pour remédier à ces biais, les algorithmes et modèles d’AM doivent régulièrement faire l’objet d’une surveillance et d’évaluations reposant sur diverses mesures et techniques, afin de garantir leur caractère équitable. Ils doivent également faire l’objet de vérifications et d’interventions assurées par des êtres humains. 

Dans le cadre d’une première étape vers la transparence, des mécanismes de responsabilisation doivent être établis en collaboration avec les communautés concernées, et ce, avant le début ou dès les premières étapes d’un projet. Cela passe par l’établissement de canaux de communication et la tenue d’échanges entre d’une part les équipes responsables des systèmes d’AM ou d’IA, et d’autre part, les communautés et acteurs concernés. Ces mêmes communautés doivent, au fil du projet, bénéficier d’un libre accès aux ensembles de données, aux algorithmes, ainsi qu’aux processus de développement et de prise de décisions. Dans la mesure où il est assuré avec réflexivité, soin et respect, ce libre accès peut faciliter l’instauration d’un cadre de confiance et d’un sentiment de fiabilité. En collaboration avec des équipes de communication, les professionnels de l’AM ou de l’IA peuvent œuvrer à documenter les risques qui se posent et les améliorations susceptibles d’être apportées aux divers stades du processus de développement, ainsi qu’à informer les communautés et acteurs concernés de ces risques et améliorations. Cela permet d’éviter l’opacité et de favoriser le dialogue entre les professionnels, l’ensemble de l’équipe du projet ainsi que les membres des collectivités concernées. 

La responsabilisation exige que les êtres humains soient, à toutes les étapes d’un projet et en fonction de leur poste, responsables des conséquences potentielles liées au développement du système d’AM concerné. Elle passe d’abord par une solide formation des chercheurs et concepteurs portant sur les retombées de leur travail. Cette formation peut être assurée sur le lieu de travail, ainsi que s’accompagner de directives et de ressources destinées aux équipes de développement. La responsabilisation peut aussi passer par une formation interdisciplinaire dans le cadre de programmes d’études supérieures en sciences, technologies, génie et mathématiques (STIM). Enfin, la mise en place de processus visant, par exemple, à exposer des solutions claires au public et à désigner des personnes chargées de rendre des comptes en cas de retombées sociales négatives peut contribuer à assurer la responsabilisation des créateurs de systèmes d’AM. 

Plutôt que de s’adresser au public dans son ensemble, les connaissances diffusées doivent prendre en compte le contexte de la communauté où se trouve le système d’AM ou l’IA concerné ou sur laquelle il a une incidence. L’accès aux connaissances doit donc être assuré en fonction des besoins des diverses communautés. La diffusion des connaissances peut prendre diverses formes, en fonction du handicap des personnes concernées, de leur langue, de leur expertise, de leur accès ou non à Internet, de leurs compétences sociales ou culturelles ou encore de leur manque d’information.