Pourquoi ton Internet est biaisé (et comment y remédier)

« OK Google, es-tu sexiste ? »

Tu t’es déjà amusée à poser des questions à un assistant vocal ?

Des questions genrées aux intelligences artificielles

Pour marquer la sortie du premier assistant virtuel à la voix neutre (ni féminine ni masculine), les journalistes de l’ADN ont comparé les réponses de OK Google, Alexa et Siri à des questions ou sollicitations genrées.

« Qui est ta mère ? L’équipe de Google est ma famille. Qui est ton père ? Je considère mes ingénieurs comme mes parents biologiques. »

Ce qui semble être en surface une bonne blague de fin de soirée en dit pourtant long sur la culture sexiste et ses zones d’ombre qui persistent dans le milieu informatique et particulièrement dans celui des intelligences artificielles.

Les intelligences artificielles commandent déjà ta vie

Attends, ne pars pas tout de suite ! Je sais qu’en écrivant « IA », j’ai 80% de risques de te perdre.

Trop compliqué, trop technique, trop relou… ce sujet, on a tendance à considérer qu’il n’est pas adapté à nous, aux noobs que nous sommes, qui consommons Internet comme une aire de divertissement, d’information ludique ou de sociabilité.

Et pourtant ! Les intelligences artificielles sont partout dans ta vie. Et peut-être ne le sais-tu pas encore, alors qu’elles régissent une partie de ton quotidien.

« L’IA intervient comme aide à la décision dans de multiples domaines : dans l’éducation, où elle sert notamment à trier les dossiers des candidat·es à l’admission dans un établissement ; la justice, où elle peut décider de la libération ou non d’un prisonnier ; la santé, où elle aide à poser des diagnostics cruciaux ; et encore la sécurité, la défense, le tourisme, les télécommunications, les transports, l’environnement, la robotique, le secteur bancaire, la relation client, le marketing… »

L’intelligence artificielle, pas sans elles ! Aude Bernheim, Flora Vincent

Le savais-tu ? Les intelligences artificielles amplifient le phénomène de bulles de filtre et nous entretiennent dans un monde d’informations qui va dans notre sens.

Quand tu regardes une vidéo sur YouTube et que la plateforme te recommande un autre contenu du même type, elle t’enferme dans une bulle qui affine tes goûts mais restreint aussi ton champ des possibles.

En tant que meuf féministe, mon horizon sur Internet est complètement faussé par rapport à ma vie loin du clavier !

Je suis abonnée à des personnes avec lesquelles je suis d’accord, je me désengage des publications sexistes, racistes, homophobes…

Au point d’être atterrée par le pourcentage de votes Front National à chaque élection.

Pendant la présidentielle de 2016 aux États-Unis, Facebook a été accusé d’entretenir les opinions politiques des Américains en leur montrant des publications qui allaient dans le sens de leur vote, et en ne limitant pas la propagation des fake news.

De quoi se poser de sérieuses questions sur notre libre-arbitre, non ?

Les algorithmes ne sont pas sexistes

Mais les ingénieurs qui codent ces algorithmes évoluent dans une société sexiste.

Personne n’est neutre. Je ne le suis pas, et même quand je choisis d’écrire cet article, j’angle mon point de vue en fonction de mes expériences et de mes affinités culturelles.

Le problème est le même avec les intelligences artificielles et tous les outils informatiques qui se développent aujourd’hui : leurs créateurs et créatrices y insufflent leur vécu, leur vision du monde.

Quand ces créateurs sont en majorité des hommes blancs, une multitude de paramètres leur échappe.

Les conséquences sont super bien expliquées dans ce strip de Marine Spaak pour le blog Dans mon tiroir à l’occasion de la sortie du livre L’intelligence artificielle, pas sans elles ! mentionné plus haut.

« En 2015, trois chercheurs de l’université Carnegie Mellon et du International Computer Science Institute ont évalué la plateforme de publicités ciblées Google en simulant 1 000 profils (500 hommes, 500 femmes), et en analysant les offres d’emploi qui étaient proposées aux profils féminins.

Systématiquement, les offres correspondaient, pour des niveaux similaires d’expertise et de qualification, à une rémunération moindre. »

L’intelligence artificielle, pas sans elles ! Aude Bernheim, Flora Vincent

L’invisibilité des femmes dans le domaine est donc particulièrement préoccupante.

Mais tu n’es pas au bout du ride : figure-toi qu’au début de l’informatique, les femmes étaient surreprésentées dans le secteur !

Comment en sommes-nous arrivées à cette aberration ? Laisse-moi te conter cette belle histoire…

Comment les femmes ont été écartées de l’informatique

On considère aujourd’hui qu’Ada Lovelace était la première programmeuse de l’Histoire.

Et pour cause : elle est à l’origine du premier langage informatique développé en 1842.

Jusqu’aux années 70 du siècle suivant, des femmes sont recrutées pour opérer des calculs : une tâche de « petites mains »

, considérée comme répétitive et assimilée au travail des téléopératrices.

« J’engage volontiers des femmes à la place des calculateurs et d’ordinateurs.

Non seulement elles sont moins chères, mais elles sont douées pour les travaux de routine, tandis que les hommes s’impatientent dès qu’un travail revient répétitif. »

William Elkin, directeur de l’Observatoire de Yale

Les femmes prennent une place tellement évidente dans le secteur qu’en 1984, 37% des étudiants en informatique aux États-Unis sont des étudiantes.

En 2019, elles sont moins de 10%.

Plusieurs phénomènes expliquent leur disparition progressive dans cette voie professionnelle.

De manière très caricaturale, il a suffi que des intérêts économiques se développent dans le secteur pour que les hommes squattent les postes à responsabilités…

C’est ce qu’explique notamment Claire Evans, l’auteure d’un livre sur l’implication des femmes dans l’informatique et sur Internet, qui animait une conférence sur le sujet à la Gaité Lyrique à Paris.

Mais ce n’est pas tout : dans les années 80, les ordinateurs personnels font leur arrivée sur le marché grand public.

Très rapidement, le marketing et les publicités s’adressent aux hommes qui deviennent progressivement des consommateurs « geek » — une image qui persiste encore aujourd’hui.

Dénoncer le sexisme, c’est peut-être faire renoncer

Alors que des programmes d’accompagnement et d’empouvoirement féminins fleurissent en France depuis quelques années dans le domaine informatique et technologique, la sous-représentation féminine est toujours très préoccupante.

« Les difficultés des femmes dans le secteur s’expliquent par cinq facteurs principaux : le manque de mentors, le manque de rôles modèles, les stéréotypes sexués, les inégalités des promotions et les inégalités de salaire. »

D’après une étude 2017 de l’ISACA, association américaine engagée dans les systèmes d’information

Par conséquent, les femmes sont deux fois plus nombreuses que les hommes à quitter ce secteur à mi-carrière.

Et bien que l’on n’ait jamais autant disserté sur les difficultés que les femmes rencontrent à s’imposer dans ces milieux professionnels, la tendance persiste.

Le cercle vicieux s’enrichit : en dénonçant les pratiques sexistes et les conditions de travail plus difficiles pour cette catégorie de population, nous décourageons les potentiels talents féminins à venir changer la donne.

Quelle meuf a envie de se projeter dans un métier dans lequel elle sait qu’elle va en chier deux fois plus que les hommes ?

Comment agir en faveur d’une meilleure insertion des femmes dans le secteur informatique ?

Plusieurs solutions s’offrent à nous.

Au-delà d’initiatives individuelles comme la Algorithmic Justice League, lancée par une étudiante du MIT qui vise à déconstruire les biais des algos, c’est tout le secteur qui nécessite une remise en question.

Pas uniquement pour les femmes, mais aussi pour les personnes issues de la diversité, elles aussi mises sur le banc de touche.

Il suffit de taper la requête « CEO » (PDG) dans Google Images pour constater l’absence criante de représentation des femmes et de personnes noires ou asiatiques par exemple.

Dans leur ouvrage, Flora et Aude effleurent quelques idées.

Elles encouragent le secteur à multiplier les profils des acteurs dans les projets, former les développeurs et développeuses aux questions d’égalité, créer des bases de données plus représentatives, développer des outils d’audit, mais aussi développer la transparence des outils et les réguler.

Des actions qui relèvent aussi de décisions politiques, comme tu peux le constater.

Sois critique et solidaire

Mais à ton niveau, tu peux aussi faire quelque chose.

Tu peux hacker les biais des intelligences artificielles en développant ton esprit critique vis-à-vis des infos que tu lis, vois ou entends sur Internet.

Pourquoi cet article apparaît-il dans ton fil Facebook ? Pourquoi Google te propose-t-il tel résultat en premier ? Pourquoi cette vidéo t’est-elle recommandée par YouTube ?

C’est la base de l’éducation aux médias : en comprenant d’où vient l’information et pourquoi elle t’est présentée dans tel contexte, tu auras une perspective plus large sur le monde qui t’entoure.

Je te parle de ce que je connais le mieux mais sur YouTube, tu peux par exemple tromper l’algo et sortir de ta zone de confort en allant chercher de nouvelles meufs à regarder dans le répertoire des créatrices francophones, l’Internettes Explorer.

En plus de muscler ton adaptabilité et ta curiosité, sortir de ta zone de confort de temps en temps te permet de mieux comprendre le monde qui t’entoure et de sociabiliser différemment.

Tu peux aussi avoir un impact très concret en faisant prendre conscience à un maximum de personnes des biais existants dans notre société.

Tu peux encourager ta petite cousine qui va avoir son bac à s’orienter vers des études informatiques en l’aidant à se renseigner sur la multitude de métiers qui existent dans le domaine.

Tu peux aider les meufs que tu connais à faire valser leur syndrome de l’imposteur en leur rappelant que les mecs, eux, n’hésitent pas autant qu’elles à se lancer.

Bref, la plus grande représentation dans ces métiers dépend aussi de nous, de notre solidarité, de notre capacité à se tirer vers le haut les unes et les autres. Et au final, à se sortir les doigts.

Le sujet va être de plus en plus discuté, si tu souhaites l’approfondir je te conseille la BD de vulgarisation Intelligences artificielles, miroirs de nos vies qui est plutôt accessible !

À lire aussi : Toi aussi, tu t’emmerdes sur YouTube ?