30 / 10 / 2018

L’avenir de l’intelligence artificielle appartient-il aux femmes ?

  • Linkedin
L’avenir de l’intelligence artificielle appartient-il aux femmes ?
L’intelligence artificielle va changer le monde, nous dit-on : de la santé à la mobilité en passant par l’éducation ou la sécurité publique, la capacité des machines à imiter la cognition humaine est déjà en train de transformer de nombreuses activités humaines. Or, les personnes impliquées dans cette révolution ne ressemblent pas franchement à la société qu’elles sont censées transformer.

La tech, un monde encore très peu mixte

Ce n’est un secret pour personne : le monde de la tech en général n’est pas un eldorado pour la mixité. Aux États-Unis, selon un rapport de the Equal Employment Opportunity Commission publié en 2016, la tech emploie moins de femmes et de minorités que les autres industries, en particulier pour les rôles de management et de direction. Et c’est encore pire quand ça touche à l’IA. Les femmes représentent 10% des salariés de Google qui travaillent sur l’intelligence machine et 15% de l’équipe IA de Facebook. D’après une enquête menée par le magazine WIRED et la start-up canadienne Element AI, seuls 12% des leaders dans le domaine du machine learning sont des femmes. Comme l’écrit le magazine américain, cette estimation “suggère que le groupe qui est censé être en train de dessiner le futur de la société est encore moins inclusif que l’industrie de la tech en général, qui a des problèmes de diversité bien connus.” Or, comme l’explique Joelle Pineau, qui dirige la branche montréalaise du AI Lab de Facebook, “nous avons une plus grande responsabilité scientifique à agir que d’autres secteurs, parce que nous développons une technologie qui affecte une grande part de la population.”
La diversité est importante non pas uniquement pour le principe, mais aussi et surtout afin d’éviter des biais qui pourraient avoir des effets délétères sur la société. Les inquiétudes sont fondées sur des épisodes récents. En 2015, le service photo de Google avait identifié des personnes noires comme des gorilles ; on se souvient qu’en 2016, Tay, le chatbot lancé par Microsoft sur Twitter, avait été transformé en troll raciste et sexiste en moins de vingt-quatre heures. En 2017, des chercheurs des universités de Virginie et de Washington ont montré que des algorithmes entraînés à partir de deux grandes banques d’images avaient intégré et renforçaient des préjugés sexistes. Et ces exemples ne sont sûrement que la partie émergée de l’iceberg, celle qui parvient jusqu’au grand public.

Une question d’éducation

Or, face au risque de développer une intelligence artificielle biaisée, l’une des solutions est justement la diversité. Comme l’explique à WIRED Anima Anandkumar, professeure au California Institute of Technology, “les équipes diverses sont plus susceptibles de repérer des problèmes qui pourraient avoir des conséquences sociales négatives avant le lancement d’un produit.” Pour Fei-Fei Li, directrice du Stanford Artificial Intelligence Lab et du Stanford Vision Lab, il faut agir dès maintenant : “Tenter de corriger les choses dans une décennie ou deux sera beaucoup plus difficile, pour ne pas dire quasiment impossible. C’est aujourd’hui qu’il faut associer des femmes et des voix plus diverses pour s’assurer que nous construisons correctement (ce système)”, dit-elle à Venture Beat.
La tâche est claire, mais pas forcément aisée. Il existe un certain nombre de freins structurels et culturels à la présence des femmes dans l’industrie. D’abord, le faible nombre d’étudiantes dans les STEM (science, technologie, ingénierie et mathématiques), qui se reflète sur le marché du travail. Aux États-Unis, selon une étude du Pew Research Center publiée en janvier 2018, les emplois dans les STEM ont progressé de 79% depuis 1990, mais la part des femmes y est restée à peu près la même. Elles restent très minoritaires dans l’ingénierie (14%), et leur part dans l’informatique a diminué (de 32% en 1990 à 25% aujourd’hui).
L’une des causes de cette disparité est certainement à chercher du côté d’un système éducatif qui n’encourage pas les filles à embrasser ces thématiques. Certaines s’attaquent donc à la racine du problème, en organisant des programmes éducatifs à destination des jeunes filles. L’organisation à but non lucratif AI4All, qui bénéficie du soutien de Melinda Gates, développe ainsi des programmes d’été dans plusieurs universités américaines pour enseigner l’intelligence artificielle aux lycéens, aux femmes, aux minorités et aux étudiants à faibles revenus. En juin 2018, s’est tenu à Station F le premier atelier à destination des lycéennes organisé par Women in AI, un groupe international d’expertes de l’IA. L’événement, gratuit, a permis aux trente participantes d’apprendre les bases de l’intelligence artificielle et de créer un vrai robot.

©codingwithkids.com

Des résistances culturelles fortes

Restent ensuite les résistances culturelles à l’inclusion des femmes dans un environnement encore très masculin. Et elles sont fortes. L’année dernière, un ingénieur de Google, James Damore, en est devenu le parfait symbole lorsqu’a fuité un mémo interne dans lequel il justifiait le manque de diversité de la tech par le fait que les femmes sont biologiquement inférieures aux hommes. Suite à son renvoi, il a annoncé vouloir porter plainte contre Google pour discrimination envers les hommes blancs conservateurs.

Au-delà du symbole, les femmes qui travaillent dans l’IA évoquent dans WIRED un milieu peu accueillant, voire franchement hostile. D’après The Elephant in the Valley, une enquête menée en 2016 auprès de 200 femmes dans l’industrie de la tech, 60% des femmes interrogées avaient été l’objet d’avances sexuelles non désirées, 66% se sentaient exclues d’activités de networking à cause de leur genre et 90% avaient observé des comportements sexistes lors de conférences ou de séminaires.

Face à cela, les femmes s’organisent. Au sein de Women in AI, dont l’une des missions est d’aider les entreprises et les organisateurs d’événements à identifier les femmes expertes en intelligence artificielle. De son côté, Women in ML est un atelier organisé pendant la conférence NIPS pour permettre aux femmes de présenter leurs travaux. Des efforts de visibilité qui commencent à payer : comme le note la MIT Technology Review, Apple, Facebook et Microsoft ont choisi de mettre à la tête de leur consortium Partnership for AI Terah Lyons, qui avait notamment contribué aux travaux de l’administration Obama sur le sujet. Il y a pile un an, l’université NYU a lancé un institut de recherche baptisé AI Now, avec aux manettes Kate Crawford, chercheuse chez Microsoft Research, et Meredith Whittaker, l’une des fondatrices de Google Open Research. AI Now a pour mission d’étudier les implications sociales de l’IA.

Pour la revue du MIT, ces deux organisations, ainsi que AI4All, sont appelées à façonner la manière dont l’IA est conçue et mise en place : la présence de femmes à ces postes n’est donc pas tout à fait anecdotique. Au point de se demander si l’avenir de la tech appartient aux femmes ? C’est en tous cas la question qui sera posée lors d’une session des Microsoft Expériences qui se tiendra le 6 novembre à Paris. L’occasion d’explorer le triple enjeu économique, socio-culturel et technique que représente l’intégration des femmes dans la tech — et les solutions pour y parvenir.

 

La conférence L’avenir de la Tech appartient-ils aux femmes ?dans le cadre des Microsoft Expériences, en partenariat avec RSLN, se tient à Paris le 6 novembre 2018, à 16h, au Palais des Congrès. Pour vous inscrire, c’est ici.

Avec Merete Buljo, CDO & Customer Experience Officer de Natives Eurotitres, et Fondatrice et Présidente des Digital Ladies & Allies

Laurence Lafont, Directrice de la Division Marketing & Opérations de Microsoft France

Benoît Raphael, fondateur de Flint, parrain de l’école IA Microsoft, membre fondateur de #JamaisSansElles

Delphine Remy-Boutang, CEO the bureau, Fondatrice de la Journée de la Femme Digitale et de la Fondation Margareth

Salwa Toko, Présidente du CNNum, fondatrice de Wifilles et Becomtech