Les femmes sous-représentées dans l’IA : quels impacts et comment y remédier ?

« Le rôle des femmes dans l’histoire de la technologie telle que nous la connaissons aujourd’hui n’est pas marginal, bien que la plupart de ces grandes figures soient encore totalement invisibles. Au-delà de braquer principalement l’attention vers les hommes du secteur, cela prive les jeunes filles en quête d’une voie professionnelle de réels modèles féminin auxquels elles pourraient s’identifier. »

Une contribution co-écrite avec Camille Souillart

La tendance actuelle est à l’inclusion des femmes dans le monde de la tech, mais les études internationales sont rares pour analyser leur taux de représentation dans ce secteur, et en particulier dans la data et l’IA. Dans un rapport publié en 2023, le Forum Economique Mondial statuait que seulement 30 % des professionnels de la donnée et de l’IA sont des femmes (contre 26% en 2020). L’un des principaux défis consiste à susciter l’intérêt des jeunes filles et à diminuer les influences sociales et culturelles qui considèrent qu’il s’agit d’un parcours professionnel « réservé aux garçons ».

Retour sur la place des femmes dans l’histoire de ces nouvelles technologies, un enjeu crucial qui met en lumière à la fois les grandes figures féminines de l’IA et les risques majeurs que l’absence des femmes engendre pour l’avenir de notre société.

Les invisibles

Alors que Charles Babbage est connu mondialement comme le « père de l’ordinateur » grâce à sa machine à différences et sa machine analytique, la « mère » de cette technologie est restée presqu’entièrement inconnue.

Au XIXe siècle, Ada Lovelace, passionnée de mathématiques rencontre Charles Babbage qui devient rapidement son mentor. Ada travaille alors sur un texte français à traduire en anglais, qu’elle annote de ses propres réflexions. Le programme résultant de ses notes est considéré comme le tout premier programme informatique !

Un siècle plus tard Grace Hopper, « Amazing Grace », joue un rôle central dans l’histoire de la programmation informatique avec l’ambition de révolutionner ce secteur en normalisant les langages informatiques pour les rendre plus accessibles. Plus tard encore, dans l’ombre de la conquête spatiale, le génie mathématique de Katherine Johnson a permis de calculer la trajectoire du premier voyage sur la lune. Mary Jackson et Dorothy Vaughan, deux autres femmes afro-américaines travaillant également à la NASA, ont largement contribué aux travaux de l’agence, considérées comme des « calculatrices humaines ».

Le rôle des femmes dans l’histoire de la technologie telle que nous la connaissons aujourd’hui n’est pas marginal, bien que la plupart de ces grandes figures soient encore totalement invisibles. Au-delà de braquer principalement l’attention vers les hommes du secteur, cela prive les jeunes filles en quête d’une voie professionnelle de réels modèles féminin auxquels elles pourraient s’identifier. Cela renforce les a priori collectifs selon lesquels une jeune fille ne peut pas s’orienter dans une voie scientifique…

Les biais

L’Intelligence Artificielle, pour fonctionner selon des standards de qualité élevés, a besoin d’un nombre considérable de données d’entraînement, permettant d’atteindre une granularité fine dans ses données de sortie et pouvoir ainsi éviter les hallucinations. Le rôle que jouent les data scientists est crucial dans la sélection des données d’entraînement et dans l’approche de création des modèles. De même, la formation qu’ils reçoivent joue un rôle prépondérant dans leur manière d’appréhender leur métier et de le mettre en pratique. Déjà, les prémices de potentiels biais peuvent apparaître, par le choix des données d’entrainement pauvre en éléments féminins ou par un style de codage inconsciemment orienté vers des aspects masculins. Actuellement, l’attention se tourne sur l’utilisation de données synthétiques pour parer au problème du manque de données d’entraînement. Or, utiliser ce type de données accroît le risque de provoquer l’effondrement de modèles. Ces données synthétiques agissent comme des catalyseurs de biais – de genre notamment – car le modèle exclut les valeurs considérées comme aberrantes (celles reliées au féminin par exemple) accentuant la tendance des systèmes d’IA à halluciner. En somme, ces données représentent un facteur de risque accentuant l’apparition de biais, impactant négativement l’éthique des systèmes d’IA, et accentuant l’invisibilité des femmes et des minorités en général.

Comme avec l’utilisation de jeux de données synthétiques, l’homogénéité des profils des professionnels travaillant à la création de nouveaux modèles d’IA risque d’induire des biais réduisant le spectre final de l’outil.

Avec des perceptions différentes, les hommes et les femmes apportent des visions complémentaires d’un même problème. Ainsi, la sur-représentation des hommes dans les métiers de la data et de l’IA, induit automatiquement un biais de genre dès l’étape de création des algorithmes et accentue les risques de discrimination dans les modèles.

Dans le meilleur des cas, les algorithmes devront être remaniés après avoir été évalués. Au pire, les organisations pourraient être confrontées à des risques réglementaires ou réputationnels.

Les initiatives

Des collectifs se positionnent pour ouvrir les esprits en intégrant des dimensions de complémentarité des profils et en prônant la diversité à grande échelle. Des initiatives émergent pour rendre les systèmes d’IA plus inclusifs. C’est notamment la raison d’être du collectif français Femmes@Numérique qui agit en faveur d’un numérique plus inclusif en menant notamment des actions ciblées auprès des jeunes filles dès le primaire.

De plus en plus, les écoles prennent le sujet en compte dans les programmes qu’ils établissent. C’est notamment le cas de Ada Tech School, qui accompagne ses étudiants dans leur projet de réorientation et de reconversion dans la tech et où les femmes représentent 70% de leur cible.

La fondation suisse Impact IA s’est quant à elle fixé l’objectif d’atteindre 30% de femmes dans l’IA d’ici 2027, grâce à son programme Women in AI.

Au niveau international, de nombreuses autres initiatives existent pour orienter l’IA vers la voie de l’inclusion, comme notamment le Réseau des femmes pour une IA éthique de l’Unesco ou encore le programme du MIT « Break Through Tech » qui cible les populations sous-représentées dans l’informatique.

Le chemin à suivre … quelques pistes 

1. Construire et mettre en avant des rôles modèles de femmes dans l’IA, lors de publications, panels ou conférences (par exemple), afin de mettre en évidence les opportunités qui s’offrent aux femmes dans les STEM

2. Eduquer, former, acculturer à l’IA et lever l’ambiguïté sur les carrières : Les organisations doivent mettre en avant les nombreuses opportunités qu’offrent les carrières de l’IA au-delà des rôles d’ingénierie et de sciences techniques. Les femmes issues d’un large éventail professionnel ont la capacité d’exceller dans le domaine de l’IA: éthique, marketing, relation client, gestion de produits, expérience utilisateur, science des données…

3. Créer des programmes de mentorat (formels et informels) : Pour former la prochaine génération de leaders de l’IA, les managers d’aujourd’hui – hommes et femmes – devraient trouver et encadrer des femmes ayant des ambitions en matière d’intelligence artificielle.

4. Promouvoir une culture de la diversité et de l’inclusion à tous les niveaux : Mettre l’accent sur l’établissement d’une culture qui promeut activement la diversité des genres et l’inclusion, en particulier au niveau de la direction afin d’aider à recruter et à retenir des femmes de talent. Dans le cadre de cette culture, il convient d’être transparent en divulguant les écarts entre les hommes et les femmes dans le domaine de l’IA, ainsi que les mécanismes prévus pour combler cet écart. Une politique officielle de diversité ne suffit pas : engagez-vous à prendre des mesures concrètes en faveur de la parité femmes-hommes.

Pour conclure

Une diversification franche des profils de professionnels de la data et de l’IA est nécessaire pour prévenir l’invisibilisation des profils minoritaires, en incluant davantage de femmes, mais aussi d’autres groupes telles que les seniors ou les personnes porteuses de handicap.

Même si le chemin semble long pour atteindre un niveau satisfaisant de diversité et d’inclusion dans ce secteur, la voie est belle et bien ouverte. L’IA est encore un domaine naissant dans lequel relativement peu de personnes possèdent une expertise de premier plan, il est encore temps pour les femmes d’y prendre leur place.