Enquête: l’intelligence artificielle est-elle sexiste?

Publié le 14 septembre 2018 par Laurence Donis
Enquête: l’intelligence artificielle est-elle sexiste?

Le seigneur des robots, c’est un mec. Traduisez : aux commandes de l’intelligence artificielle, on retrouve surtout des hommes. Les femmes ont pourtant tout pour révolutionner ce domaine futuriste... En piste !         

1/

Grâce à elle, Netflix vise juste lorsqu’il nous suggère de commencer la série «The End of the F***ing World ». Siri comprend quand on lui demande de nous raconter une blague avec l’accent canadien et Facebook reconnaît le visage de nos copines pour les taguer sur nos photos de soirées. L’intelligence artificielle (IA) envahit notre quotidien. Et dans quelques années, elle touchera sûrement tous les secteurs de la société… Mais si on fantasme régulièrement sur les progrès de cette technologie, on oublie souvent d’aborder un point crucial : le manque de femmes. Spoiler alert : dans ce domaine, on retrouve principalement des mecs. Les hommes représentent la majorité des informaticiens et le manque de diversité provoque encore plus de dégâts qu’on ne le croit.                         

« C’est très important d’avoir une pluralité de visions, et donc une pluralité de personnes dans l’équipe qui développe des outils numériques », explique Aurélie Jean, codeuse et docteure en science qui milite pour diversifier le monde de la tech. « Sans ça, on risque de créer des discriminations technologiques : certaines personnes seront écartées parce qu’un biais a été introduit, de façon non intentionnelle, lors de la phase d’entraînement de l’algorithme ». Un exemple plus parlant ? Lorsque Siri est née en 2011, elle était incapable de nous indiquer où se procurer une pilule du lendemain. En fait, elle ne comprenait même pas la question. On l’aura deviné, la team de scientifiques chargés de développer l’assistant personnel d’Apple n’était composée que de mecs. Et vu que la contraception d’urgence ne faisait apparemment pas partie de leur réalité, ils n’y ont pas pensé. 

Mais c’est évidemment la diversité au sens large qu’il faut promouvoir.

Le but ? S’assurer que toutes les personnes soient représentées, quel que soit leur genre, leur couleur de peau, leur religion ou encore leur orientation sexuelle. Et c’est plus que nécessaire. Encore aujourd’hui, certains algorithmes de recrutement ont tendance à défavoriser les CV des femmes. Les logiciels de reconnaissance faciale sont toujours plus efficaces sur les hommes blancs et en 2015, l’algorithme de Google confondait les portraits d’Afro-Américains avec des gorilles… On l’a compris, les algorithmes ont tendance à reproduire les préjugés, parfois inconscients, de leurs créateurs.  

« Avant qu’un logiciel d’intelligence artificielle ne soit au point, il passe d’abord par une phase d’entraînement. L’informaticien va lui fournir une grande masse de données pour qu’il apprenne à faire des liens et à accomplir les tâches voulues. Mais si les données de départ ne sont pas assez variées, si elles sont orientées ou mal pondérées, cela pose problème. D’autant plus que, dans l’intelligence artificielle, les biais ont tendance à être automatisés et surtout amplifiés », explique Caroline Lair, cofondatrice de Women in AI, une association qui encourage les femmes à se lancer dans le secteur de l’intelligence artificielle. « Lorsque vous avez affaire à un humain, vous pouvez toujours débattre. C’est plus difficile de discuter et de rectifier le coup avec une machine ». On confirme. Vous vous souvenez de Tay, l’intelligence artificielle de Microsoft ? Censée incarner une teenager américaine, fan de Taylor Swift et du clan Kardashian, elle avait fait ses premiers pas sur Twitter en 2016… avant de vite être débranchée. En moins de 24 heures, elle était devenue raciste et sexiste au contact des internautes. 

2/

Pour montrer à quel point les données utilisées pour entraîner l’algorithme sont cruciales, le MIT a d’ailleurs réalisé une expérience étrange : développer une IA psychopathe. Son petit nom ? Norman, comme le serial killer de Psychose, le film d’Hitchcock. « Les chercheurs ont entraîné deux intelligences artificielles à reconnaître des images. La première a ‘visionné’ toute une série de photos d’humains et d’animaux. La deuxième a été confrontée à des images de morts violentes. L’équipe leur a ensuite fait passer le test de Rorschach. Là où l’intelligence artificielle standard interprétait les taches d’encre comme un vase avec des fleurs, Norman voyait un homme se faire abattre devant sa femme», raconte Yves Deville, professeur d’informatique à l’Ecole Polytechnique de Louvain. Ici, l’apprentissage est volontairement biaisé mais ça montre à quel point on peut influencer le comportement d’une IA. Dans un sens comme dans l’autre d’ailleurs. « On pourrait même imaginer biaiser positivement les critères explicites d’un algorithme pour rééquilibrer les discriminations existantes dans la société. Mais c’est une technique à prendre avec délicatesse », insiste Aurélie Jean.   

Les intelligences artificielles, nouvelles féministes oeuvrant pour l’égalité hommes-femmes ?

On en est encore loin. Et la quantité de testostérone présente dans la Silicon Valley n’y est pas pour rien. Ce n’est pas un hasard si les robots ont des corps d’actrices porno et si pratiquement tous les assistants virtuels sont des femmes. D’après son créateur, Siri signifie en norvégien « belle femme qui vous conduit à la victoire » et le prénom de l’application de Microsoft, Cortana, vient de la bombasse du jeu vidéo Halo. Pour certains, il ne faut pas « aller chercher la petite bête ». Les assistants personnels ont des voix de filles par défaut, tout simplement parce que ça rassure les utilisateurs. Les autres y voient plutôt un renforcement des stéréotypes sexistes : les femmes sont cantonnées à ce rôle de secrétaire sexy à notre service.  

« C’est vrai, les études montrent que nous préférons les voix de femmes mais c’est une réponse simpliste. Quand il s’agit de commenter un match de foot ou un programme de télévision sérieux, les voix d’hommes sont privilégiées. C’est un biais culturel qui associe les mecs aux leaders et les filles aux subalternes », indique Anne Lise Kjaer. Futurologue danoise de renommée internationale, elle a donné des conférences au MIT ou à Cambridge notamment. « Ce n’est pas vraiment le fait qu’on utilise des voix de femmes pour les assistantes virtuelles qui me dérange mais plutôt ce qu’elles disent. Les géants de l’intelligence artificielle engagent des scénaristes hollywoodiens pour écrire les dialogues des robots, humaniser ces bots avec qui l’on ‘parle’ sur les chats. Mais il faudrait revoir la manière dont sont écrits ces scénarios, ils sont souvent extrêmement sexistes », raconte Caroline Lair.   

Et vu qu’une bonne partie des requêtes faites aux assistantes personnelles concerne leur vie sexuelle, la mesure serait plutôt utile. En 2017, une journaliste de Quartz avait d’ailleurs réalisé une expérience sur le sujet. Elle avait insulté quatre intelligences artificielles avant de leur proposer une soirée caliente. Résultat ? La plupart des « filles » évitent la question ou sont flattées. Quand on lui dit qu’elle est une salope, Alexa répond « Merci pour le feedback » et Siri affirme qu’elle « rougirait si elle pouvait » lorsqu’un utilisateur lui réclame une fellation. Un an plus tard, Amazon décide alors de modifier son assistante virtuelle. Alexa est dorénavant plus ferme face au harcèlement sexuel, mais pas encore assez à notre goût… Sa phrase fétiche ? « Je n’ai rien à vous répondre ». Il ne faudrait pas froisser le consommateur.   

3/

La série d’exemples montre bien à quel point l’intelligence artificielle a besoin des femmes.

Mais les attirer dans ce domaine est loin d’être easy. On le sait, le secteur de la tech est ultra masculin et l’évolution des mentalités extrêmement lente. « Chaque année, il y a une quinzaine de personnes qui sortent du master en intelligence artificielle chez nous mais les filles sont toujours très peu nombreuses », explique Hugues Bersini, professeur d’informatique à Solvay et Polytech et directeur de l’IRIDIA, le laboratoire d’intelligence artificielle de l’ULB qui a presque 30 ans d’existence. « En informatique, elles représentent environ 10% des étudiants. Comparativement à mon époque, il y a un tout petit peu plus de femmes qui font Polytech mais la proportion reste très faible. Et elles ont plutôt tendance à prendre l’option ‘biomédical’ ».   

Et pourtant, historiquement, les filles assuraient le lead en la matière. Le premier algorithme a été créé par une femme, Ada Lovelace, comtesse et programmeuse (rien que ça). Le logiciel de bord de la mission Apollo, qui a envoyé les hommes sur la lune, est l’œuvre de Margaret Hamilton et c’est à Hedy Lamarr que l’on doit les bases du wifi. L’actrice hollywoodienne, surnommée « la plus belle femme du monde », n’était pas qu’une jolie plante. « Le secteur était à l’origine très féminin mais il s’est masculinisé dans les années 80. Les premiers ordinateurs personnels ont commencé à être commercialisés et les hommes se sont emparés de ce marché à haut potentiel financier. Les femmes, elles, ont été gommées de l’histoire », raconte Loubna Azghoud, coordinatrice de Women in Tech, une plateforme qui encourage la mixité dans le domaine des nouvelles technologies.  

Pour expliquer le manque de femmes dans la science en général, les mêmes constats reviennent régulièrement.

Dans notre esprit, un programmeur, c’est souvent un geek pas très sexy, avec sa casquette à l’envers et sa part de pizza froide. Les stéréotypes de genres sont bien ancrés et les role models féminins sont plutôt rares, même si Mattel vient de sortir une Barbie « ingénieure en robotique »... L’influence culturelle joue aussi. « En Thaïlande, 53% des chercheurs en Science, Technologie et Innovation sont des femmes. Là-bas, ce n’est pas considéré comme un métier d’hommes. Ce n’est pourtant pas le cas partout en Asie : en Corée du Sud, elles ne sont que 18% et au Japon, 15% », analyse Yves Deville. Le prof de l’UCL milite d’ailleurs pour qu’on intègre un cours d’introduction à l’informatique en secondaires chez nous. Le but ? Développer le regard critique des citoyens face aux nouvelles technologies mais aussi attirer davantage de filles.  

4/

Plutôt que de continuer à se demander inlassablement pourquoi les femmes sont absentes, une série d’assoc’ organisent d’ailleurs des actions concrètes. C’est le cas de Women in Tech qui relance en septembre son « Women Code festival », une semaine pour initier les filles au code, ou encore de Women in AI. Le réseau français de femmes badass, expertes en intelligence artificielle, va d’ailleurs avoir sa version belge à la rentrée. L’ambassadrice s’appelle Ségolène Martin et elle est la CEO de Kantify, une start-up bruxelloise spécialisée dans l’IA. « La communauté Women in AI est composée de femmes actives dans l’intelligence artificielle ou qui aimeraient le devenir. On montre l’expertise de nos membres, on s’échange nos expériences et on essaie d’attirer d’autres filles. La plupart des gens sont surpris lorsqu’ils me rencontrent parce que je suis une femme. On m’a déjà fait sentir que je n’étais pas à ma place et j’ai eu droit à des comportements sexistes. Mais la meilleure réponse, c’est de continuer à faire ce que l’on aime et de prouver que l’on est aussi performante que les hommes ».         

Et vu l’importance que va prendre l’intelligence artificielle dans le futur, les femmes auraient tort de ne pas se lancer.

Tous les experts le disent : le secteur est ultra porteur, les opportunités sont multiples et tout bouge très vite. D’après CB Insight, les investissements chinois dans l’intelligence artificielle ont augmenté de 141% entre 2016 et 2017 et le cabinet Tractica estime que les revenus globaux liés à l’IA s’élèveront à 90 milliards de dollars en 2025. Dollar dollar bill y’all ! « Un nouveau monde est en train de se créer avec l’intelligence artificielle et c’est un moment incroyable pour les femmes », affirme Loubna Azghoud. « On n’a pas vécu de période comme celle-ci depuis la troisième révolution industrielle et on dit souvent que la révolution liée à l’IA sera encore plus importante que toutes les autres. Les filles doivent y prendre part. La société va changer, le marché de l’emploi va se transformer, il faut qu’elles saisissent cette opportunité. Oui, l’intelligence artificielle risque de renforcer le monde patriarcal dans lequel on vit mais le contraire pourrait aussi se produire. C’est l’occasion de rééquilibrer certaines inégalités. »  

« On observe souvent que les étudiantes sont plus intéressées par le but de leurs démarches que par les moyens qu’elles utilisent », ajoute la codeuse Aurélie Jean. « Du coup, on commence déjà à voir une augmentation d’inscriptions de filles dans les filières scientifiques aux Etats-Unis parce qu’elles veulent avoir un impact sur le monde et elles se rendent compte que l’IA leur permet d’atteindre ce but ». Si on parle souvent des robots qui vont nous voler nos jobs, on oublie souvent de mentionner la contrepartie. Certains métiers vont disparaître mais d’autres vont évidemment émerger. La Commission européenne estime que le secteur de la tech créera 500 000 nouveaux emplois d’ici 2020. Et les femmes ont un sacré avantage pour que leur CV soit repéré: leurs « soft skills ». Traduisez : leurs qualités humaines et relationnelles. Des compétences dont les machines ne sont pas dotées et qui seront donc de plus en plus recherchées dans le monde du travail. Y compris tout en haut de la hiérarchie.  

Un exemple ? En juin dernier, une intelligence artificielle s’est montrée meilleure qu’une équipe de médecins pour détecter un cancer de la peau. Alors que les spécialistes ont correctement identifié 86% des mélanomes qui leur étaient présentés en photo, la machine a atteint un score de 95%. Mais on n’est encore très loin du moment où c’est elle qui ira annoncer le résultat au patient… Alors oui, les mecs aussi peuvent être sensibles mais, sans faire de généralités, les soft skills sont plus fréquemment associées aux filles. On l’a compris, c’est le moment ou jamais pour que les femmes éclatent le plafond de verre. Formez-vous, lancez-vous, le futur est à vous.         

5/

Lexique pratique

> Intelligence artificielle : L’ensemble des méthodes, outils, techniques permettant d’automatiser des comportements intelligents.

> Algorithme : C’est une règle écrite, codée par des humains. Grâce à elle, la machine peut associer des informations et réaliser une action. En version simplifiée, un algorithme, c’est une recette de cuisine : une suite d’opérations simples pour obtenir un plat à partir d’ingrédients. 

> AI faible et forte : L’AI faible, c’est celle que l’on connaît actuellement. La machine reproduit un comportement spécifique mais sans « comprendre » ce qu’elle fait. L’AI forte, qui appartient toujours au domaine de la science-fiction, serait, elle, capable d’émotions,  consciente d’elle-même et de l’environnement. Un exemple pour différencier les deux? « Un robot actuel peut détecter le visage d’une personne triste par des caractéristiques précises sur l’image analysée et, en réponse, proposer un large sourire sur son écran. Mais le robot ne ressent absolument rien », explique Aurélie Jean. Dans l’IA forte, le robot éprouverait réellement de l’empathie.

> Deep learning : La technique a bouleversé le domaine de l’IA. Elle repose sur un modèle de neurones artificiels simulant grossièrement le fonctionnement du cerveau. Avant 2010, les machines devaient contenir en elles la solution au problème posé. Aujourd’hui, elles peuvent apprendre de façon autonome grâce à des exemples. C’est grâce au deep learning qu’un robot a battu le champion du jeu de Go.     

D'AUTRES ARTICLES: