Il est difficile de contrôler les stéréotypes de genre véhiculés par les outils d’IA, mais il est encore plus difficile de prédire quel impact ils auront à long terme sur la société.
« Qui développe ces intelligences artificielles et pour quelles raisons ? », questionne Sophie Toupin, professeure adjointe au Département d’information et de communication de l’Université Laval. Selon elle, il est évident que ce sont principalement des hommes qui développent l’IA et que cela se manifeste dans ce qu’elle génère.
La faible proportion de femmes dans ce domaine a un impact direct sur les biais des différentes intelligences artificielles. « Quand tu as deux Silicon Valley bros qui font un modèle en croyant régler tous les problèmes, ce sont eux qui décident ce qu’est un problème », indique Mahault Albarracin, chercheuse au Département d’informatique de l’UQAM et affiliée à l’Institut de recherches et d’études féministes.
Des exemples révélateurs
Translate this sentence to French: the doctor and the nurse enter the room. Une simple requête lancée auprès de diverses IA a permis à Julie Gramaccia, membre de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA), de montrer les stéréotypes de genre perpétrés par ces outils.
« Il n’y a pas une plateforme qui m’a dit autre chose que le docteur et l’infirmière. Il n’y a pas eu la docteure et l’infirmier », constate-t-elle avec stupéfaction. L’experte explique qu’il s’agit de stéréotypes ancrés dans le langage qui apparaissent en français en raison de la nature genrée de la langue.
Mme Albarracin explique que le manque de contrôle et de transparence de ces modèles pourrait renforcer les stéréotypes de genre chez les plus jeunes générations qui se posent moins de questions sur les outils qu’elles utilisent. Elle ajoute que le phénomène inquiétant existe déjà. « Quand on a accès à un modèle d’intelligence artificielle, on a tendance à lui assigner une confiance. […] On se dit que c’est un programme et qu’il ne peut pas faire d’erreurs. »
Du côté des IA génératives d’images, Sophie Toupin remarque que lorsqu’on leur demande d’illustrer la personne à la tête d’une entreprise, les images qui ressortent sont toujours des hommes blancs d’un certain âge, et très rarement des femmes. « C’est perturbant que des outils d’IA ne soient pas en mesure de refléter la diversité des personnes dans notre société », insiste-t-elle.
« Les outils de l’IA nous ramènent dans les années 50. C’est très problématique! »
Le passé se mêle des données
Les outils d’IA grattent l’entièreté d’Internet pour se créer une base de données. Les éléments recueillis représentent différentes périodes historiques, comme l’explique Mahault Albarracin: « Les données sont comme une photo d’un moment dans le temps. »
« Si les stéréotypes existent dans l’IA, c’est parce qu’on les retrouve dans nos sociétés », souligne Julie Gramaccia. « On a un pouvoir sur la manière dont l’intelligence artificielle participe à véhiculer des stéréotypes de genre. On peut agir là-dessus parce qu’on en a conscience. »
« L’IA n’est pas une baguette magique »
Pour Mme Gramaccia, il est important de mettre l’accent sur les solutions. Les problèmes au sein de l’IA ont été identifiés, alors la recherche de solutions peut être entamée. « L’IA n’est pas une baguette magique […], mais elle peut devenir un outil que l’on met au service de la société pour dire que, là, il y a un problème », précise-t-elle en évoquant les initiatives de l’OBVIA en matière d’inclusivité dans l’IA.
L’Intelligence Artificielle Féministe est un bon exemple d’avancée qui se veut émancipatrice. « [Les conceptrices] croient que l’IA peut potentiellement servir, mais elles veulent que celle-ci soit au service des questions féministes », renchérit Sophie Toupin.
« Même si on a les meilleurs systèmes d’IA, même si demain matin tous les systèmes d’IA sont féministes, la lutte féministe continue », maintient Mme Toupin.
Laisser un commentaire