L’intelligence artificielle a besoin des femmes

L’intelligence artificielle (IA) contribue à  façonner la société de demain. C’est elle qui révolutionne le monde des services, de l’industrie, et même de l’agriculture ou des télécommunications. Pour créer et gérer des projets liés à l’intelligence artificielle, il est nécessaire de disposer des bonnes données avec lesquelles entraîner des algorithmes souvent complexes. Or, c’est sur la qualité de ces données et leur pertinence que repose tout projet d’IA. Et si ces dernières ne sont pas fiables ou représentatives de la société, cela peut poser de sérieux problèmes. 

Une recherche menée en 2017 par le magazine Wired montrait que 12 % des chercheurs qui travaillent dans l’intelligence artificielle sont des femmes. Le rapport 2018 de l’Artificial Intelligence Index indique que 80 % des professeurs en intelligence artificielle sont des hommes. Dans la Silicon Valley, chez Facebook, 15 % des membres de l’équipe de recherche en IA sont des femmes, contre 10 % chez Google. Toutes ces données convergent vers une chose : le monde de l’intelligence artificielle est très largement dominé par les hommes. Et c’est justement là où est le problème.

En effet, les algorithmes qui nourrissent les projets d’IA sont donc programmés par des développeurs masculins et leur travail, de manière consciente ou inconsciente, est impacté par leur vision du monde. Autrement dit, au niveau du développement, de la conception et du codage du projet, ces développeurs répliquent leur vision, leurs habitudes de vie et reproduisent automatiquement leurs stéréotypes de genre plus ou moins conscients avant de les diffuser à grande échelle.

Le laboratoire de l’égalité était très clair sur ce sujet : l’intelligence artificielle créée par l’intelligence humaine reproduit les inégalités existantes entre les femmes et les hommes. En cause, le manque de diversité chez les professionnels de l’IA, mais aussi des bases de données qui alimentent l’apprentissage des algorithmes. Puisque ces dernières sont issues de données réelles provenant de notre société, elles ne font que refléter et développer fidèlement les inégalités qui existent dans nos sociétés.

La question qui compte est donc de savoir s’il faut faire confiance aux données qui nourrissent l’IA pour qu’elle devienne ce qu’elle est. Prenons un exemple avec le sujet de la diversité. Si on présente à un programme 10 000 images qui ne contiennent que des personnes à la peau blanche, le programme ne saura pas reconnaître une personne qui sort de ces critères d’apprentissage. C’est ce qui est notamment arrivé à Google en 2015 lorsqu’un Afro-Américain n’avait pas été assimilé à un humain par le programme de reconnaissance de l’entreprise au sein de sa solution Google Photos. On pensait le sujet clos en raison de l’évolution des technologies et de la prise de conscience sur le sujet, mais en 2021, c’est cette fois au tour de Facebook de faire face aux mêmes enjeux. La diversité dans les données est donc cruciale pour construire une IA qui a du sens. Et plus cette diversité se retrouve dans les équipes qui travaillent sur ces sujets et à tous les niveaux (sexe, ethnicité, âge, handicap, etc.), plus l’IA peut être effectivement efficace.

La part des femmes dans les métiers scientifiques et technologiques reste faible. Dans les écoles d’ingénieurs et du numérique, elles représentent en moyenne 20 % des effectifs. Dans les métiers de la data science et de l’IA, elles sont autour de 29%. Ce mouvement de désintérêt des filles pour ces carrières a débuté dans les années 80 et il reste très prégnant malgré des initiatives menées par un grand nombre d’acteurs.

Ce décalage renforce les stéréotypes et les risques de biais dans les programmes d’intelligence artificielle. De manière très symbolique, les robots utilisés dans l’industrie sont affublés de noms masculins comme Syrano ou Barakuda. À l’inverse, les dénominations de l’IA de type « assistant personnel » dont la fonction principale est de rendre service, d’écouter et de servir sont davantage féminines, comme Siri, Alexa ou Cortana. À partir du moment où un groupe social n’est pas suffisamment bien représenté au moment du développement d’une technologie, il existe un risque qu’il soit impacté négativement. En cause, un manque de connaissance sur la réalité de ce groupe dont la technologie ne va pas refléter les besoins et les valeurs.

La place des femmes dans le monde de l’IA est pourtant stratégique. Il est donc urgent d’encourager les carrières dans le monde des sciences et du numérique pour que les femmes soient davantage présentes. Un travail déjà amorcé au sein du MBA Management de l’Intelligence Artificielle de l’ILV qui était composé à 60% de femmes lors de la dernière promotion mais encore au prix d’un effort considérable de promotion ciblée et d’activation de réseaux pour y parvenir.