Prix L'Oréal-Unesco: Et si on promouvait les femmes pour une IA moins sexiste ?

RECHERCHE Ce jeudi, à l’occasion de la 21e édition du Prix L’Oréal-Unesco Pour les Femmes et la Science, zoom sur les conséquences du manque de mixité dans la recherche et dans l'IA

Oihana Gabriel

— 

Illustration d'une femme regardant du code avec des lunettes 3D.
Illustration d'une femme regardant du code avec des lunettes 3D. — Pixabay
  • Ce jeudi, le Prix L’Oréal Unesco Pour les Femmes et la science salue le travail de cinq chercheuses du monde entier.
  • Une façon de rappeler le manque de parité dans la recherche scientifique. Qui a des conséquences lourdes.
  • Plusieurs programmes de l’Intelligence artificielle reproduisent ainsi le racisme et le sexisme des humains, car ils sont construits par des hommes blancs.

Elles ont révolutionné la géométrie, la physique quantique, la santé, la compression des données ou créent de nouveaux matériaux. Cinq scientifiques du monde entier recevront ce jeudi soir le 21e Prix L’Oréal-Unesco Pour les Femmes et la Science. Un rendez-vous qui rappelle en creux le plafond de verre et la sous-représentation des femmes dans la recherche en général, et dans le champ de l'intelligence artificielle en particulier. Or, si demain des robots peuvent nous servir d’aide à domicile pour nos vieux jours et des algorithmes inventer une médecine prédictive, le manque de mixité chez leurs créateurs pose déjà quelques problèmes… Depuis deux ans, des études et articles  dénoncent ces biais racistes et sexistes dans l’IA. Avec quels effets ?

Reproduction des discriminations sexistes et racistes

Conduire, commander à distance, surveiller nos domiciles… On risque de confier à l’avenir de plus en plus de tâches à des programmes d'intelligence artificielle. Mais depuis 2017, on sait que l’IA reconnaît mieux des visages d’hommes blancs que de femmes ou de personnes noires. Même problème sur la reconnaissance vocale, qui a plus de difficultés à comprendre la voix d’une femme que d’un homme. Pire, ces outils utilisant l’IA nourrissent les discriminations et alimentent les stéréotypes de genre. « Les outils qui font de l’association d’images vont lier le mot "femme" aux activités de la maison, les hommes davantage avec le sport, illustre Alexandra Palt, directrice générale de la Fondation L’Oréal. On le voit aussi dans des processus décisionnels. On s’est rendu compte que le recrutement réalisé par une IA pour présélectionner des candidats dans des entreprises, pour obtenir un prêt bancaire ou entrer à l’université, était discriminatoire pour les femmes et les non blancs. » Tout simplement parce que le programme est basé sur l’analyse des données disponibles… qui privilégient les hommes blancs.

Une étude de l’entreprise canadienne Element AI dévoile que les femmes ne représentent que 12 % du nombre de chercheurs en IA dans le monde et 14,8 % en France. Les outils d’IA ne doivent pas être développés uniquement par des « mâles blancs quadragénaires », avait même taclé Emmanuel Macron  lors de la remise du rapport sur l’IA, le 29 mars 2018.

Prise de conscience

« Le premier progrès, c’est qu’on a pris conscience de ces biais qu’on n’avait pas anticipé, se réjouit  Isabelle Collet, maîtresse d’enseignement et de recherche sur les questions de genre à l’université de Genève. Voyant les résultats, assez rapidement les entreprises ont suspendu leurs programmes, notamment sur les assistants vocaux Siri ou Alexa, qui face à du harcèlement, se mettaient à flirter ou à détourner la discussion. » De même, en 2017, Amazon aurait mis fin à un algorithme qui mettait sur la touche les CV de femmes.

« En revanche, je pense qu’on ne fait pas suffisamment le lien avec le problème beaucoup plus global que l’IA, nuance Alexandra Palt. L’absence des femmes impacte la qualité de toute la recherche. » Pour rappel, seulement 29 % des chercheurs aujourd’hui sont en 2019 des chercheuses. « Si on ne prend pas en compte la perspective de genre, par exemple dans la recherche en santé, cela a des conséquences graves pour les femmes. Elles reçoivent des traitements non adaptés pour les maladies cardio-vasculaires. Les femmes ne sont pas juste de petits hommes ! Elles ont un corps, une vie, un fonctionnement différents. »

Et la directrice de la Fondation l’Oréal qui se bat pour une meilleure reconnaissance des chercheuses de citer un exemple moins connu : celui des crash tests des voitures. « Dans la plupart des crash tests américains et européens, on n’a pas utilisé de mannequin de femmes ou de femmes enceintes alors que 82 % des décès du fœtus aux Etats-Unis dont les causes sont connues résultent de collusions automobiles… Pour créer une société réellement inclusive, il faut qu’elle réponde aux besoins de l’ensemble de la population. »

« On n’est pas encore passé à l’étape d’après »

Et visiblement, on a encore du chemin à parcourir. « On n’est pas encore passé à l’étape d’après », regrette Isabelle Collet. Qui serait ? « Soit faire un travail en amont pour qu’il y ait autant de femmes que d’hommes et des minorités mieux représentées au sein des entreprises du numérique. Soit ajouter à l’IA des correctifs pendant la sélection des CV par exemple pour que les résultats ne soient pas discriminants. » Sur le premier pan, la chercheuse salue tout de même les efforts de certaines entreprises françaises… qui doivent aller plus loin. « Si vous voulez recruter des femmes dans la tech, il faut les intéresser, les recruter et les garder. Le volet le plus investi, c’est sur la partie recrutement, or, il ne suffit pas de mettre de grandes affiches pour dire "on veut des femmes !" Si on ne les intéresse pas, elles ne postulent pas. Et si elles sont victimes de discriminations, de harcèlement, du plafond de verre, elles vont partir. » Et les chiffres révèlent aussi le goulot d’étranglement dès qu’une scientifique aspire à monter les échelons : seulement 11 % des postes académiques en sciences les plus élevés sont occupés par des femmes.

Attirer les femmes dans les études scientifiques

Le rejet du code ou des sciences n’est pourtant pas inscrit sur le deuxième chromosome X. Pour preuve : dans les années 1970, les femmes étaient plus nombreuses dans l’informatique qu’aujourd’hui. « Jusqu’à 30 %, c’était une des filières scientifiques les plus féminisées comparé à l’ingénierie ou la mécanique !, assure Isabelle Collet, également vice-présidente du Conseil d’administration de l’INSA de Lyon. Il y a bien eu un retour en arrière puisque ces effectifs ont été divisés par deux : aujourd’hui 15 % des informaticiens sont des femmes, c’est peu, surtout que la part des étudiantes en école d’ingénieur augmente ! » Pourquoi ce renversement ? « Dans années 1970, on s’est rendu compte que c’était des métiers d’avenir, alors la communication et l’image de l’informatique et du codage ont changé et soudainement ils sont devenus des métiers auxquels les femmes ne s’intéresseraient pas, rappelle Alexandra Palt. Cette histoire montre qu’il n’y a pas un rejet inné des femmes pour l’informatique, mais que c’est un stéréotype véhiculé par la société. »

Le cercle vicieux est difficile à briser : moins il y a de femmes informaticiennes, moins les étudiantes souhaitent épouser cette carrière, par manque de modèle ou peur de débarquer dans un univers masculin et peu accueillant. Mais certaines formations en France et ailleurs tentent de rééquilibrer la balance des genres. Certaines universités proposent ainsi aux femmes des « safe places », pour les inviter à se rencontrer et se sentir ainsi moins isolées. D’autres mettent en place des quotas positifs pour recruter davantage de femmes. « Une école pour techniciens propose un stage non mixte de découverte de l’informatique, reprend Isabelle Collet. Une partie de ces femmes s’inscrivent ensuite ensemble. » Pour elle, les choses évoluent dans le bon sens. « Depuis deux ans, on n’a jamais eu autant de discours pro parité dans la technologie. Ces mesures disparates commencent à porter leurs fruits : les femmes sont davantage souhaitées dans les formations et les institutions comprennent que c’est entre leurs mains de proposer des mesures incitatives. » Ainsi, pour la première fois depuis les années 1980, l’école d’ingénieur INSA Lyon a quasiment la parité chez les informaticiens et les trois plus gros masters en informatique de gestion atteignent 30 % d’étudiantes. « Ce serait pas mal si on évitait de se priver de la moitié des talents ! s’agace Isabelle Collet. Aujourd’hui au bac S, les meilleures mentions sont obtenues par des femmes… »