Égalité des sexes : l’IA est plus sexiste que les humains

Essayez d’assister à un entretien d’embauche où l’intervieweur est une intelligence artificielle. Cela semble futuriste, n'est-ce pas ? Eh bien, le futur est déjà là, et il apporte avec lui un problème auquel personne ne s’attendait : l’IA fait des discriminations. À l'Université Polytechnique de Milan, ils ont créé une installation interactive qui simule cette situation. Cela s'appelle « Pas pour elle » et le nom dit tout. Lors de ces entretiens virtuels, l’intelligence artificielle montre tous ses préjugés envers les femmes. Contre l'égalité des sexes. Et le plus inquiétant, c’est que ces algorithmes décident déjà qui embaucher dans les vraies entreprises.

Quand la machine apprend nos pires défauts

La vérité sur l’intelligence artificielle est plus dure qu’on ne l’imagine. Des algorithmes qui devraient être neutres amplifient en réalité la discrimination fondée sur le sexe d’une manière dont nous n’aurions jamais pu rêver. L'étude de l'UNESCO « Les préjugés contre les femmes et les filles dans les grands modèles linguistiques » a révélé une réalité choquante : les modèles linguistiques à grande échelle décrivent les femmes comme des travailleuses domestiques quatre fois plus souvent que les hommes.

Pensez-y : alors que les femmes sont associées à des mots comme « maison », « famille » et « enfants », les noms d’hommes sont automatiquement associés à « entreprise », « manager », « salaire » et « carrière ». Mais le problème va au-delà des simples associations de mots. Comment expliquez-vous Donatella Sciuto, recteur de l'Université polytechnique de Milan, l'intelligence artificielle peut être « un outil de discrimination ou offrir la possibilité d'une utilisation responsable et éthique ».

L'algorithme qui vous juge sans vous connaître

Les systèmes de recrutement basés sur l’IA fonctionnent déjà dans des milliers d’entreprises. Selon une étude du groupe RES, si ces systèmes utilisent des données de formation biaisées en fonction du sexe, ils limitent automatiquement l’accès des femmes aux opportunités de carrière, contribuant ainsi à la perpétuation des écarts salariaux.

Le mécanisme est diablement simple : L’IA apprend à partir de données passées, où les disparités entre les sexes étaient encore plus prononcées. Résultat? Les algorithmes supposent que cela est « normal » et continuent de discriminer, pensant qu’ils font la bonne chose. C’est comme si nous avions créé des machines programmées pour ignorer l’égalité des sexes et maintenir le statu quo, même lorsque ce statu quo est injuste.

Égalité des sexes : les chiffres effrayants

La situation est particulièrement désastreuse dans le secteur technologique lui-même. Selon l’Institut européen pour l’égalité entre les hommes et les femmes, les femmes n’occupent que 16 % des emplois dans l’IA, et seulement 12 % des professionnels ayant plus de 10 ans d’expérience sont des femmes. Traduit : les algorithmes qui décident de notre avenir sont conçus en grande partie par des hommes.

Cet écart se reflète également dans l’utilisation quotidienne de la technologie. Une étude du Oliver Wyman Forum sur 25.000 XNUMX travailleurs ont montré que 59 % des hommes utilisent des outils d’IA générative au moins une fois par semaine, contre 51 % des femmes. Chez les jeunes, l'écart se creuse encore davantage : 71 % des hommes entre 18 et 24 ans contre 59 % des femmes.

L'égalité des sexes qui n'arrive jamais

Le problème n’est pas seulement technologique, il est structurel. Comme le souligne le rapport du Forum économique mondial, aucun pays au monde n’a atteint l’égalité des sexes, et Il faudra encore 152 ans pour combler les écarts économiques. L’intelligence artificielle, au lieu d’accélérer ce processus, risque de le ralentir davantage.

Comme nous l’avons déjà souligné sur ces pages, l’évolution de l’IA vers des formes de plus en plus sophistiquées amplifie l’urgence de s’attaquer à ces problèmes maintenant, avant qu’ils ne deviennent irréversibles.

Le réveil nécessaire

L’installation « Not for Her » n’est pas seulement une œuvre d’art : c’est un signal d’alarme. Chaque fois qu’un algorithme prend une décision discriminatoire, il ne fait pas que reproduire le passé : il construit un avenir dans lequel les femmes ont moins d’opportunités et où l’égalité des sexes est de plus en plus une utopie. La technologie qui était censée nous libérer des préjugés humains devient leur mégaphone le plus puissant.

La solution existe, mais elle demande de la volonté. Nous avons besoin de diversité dans les équipes de développement, de données de formation plus équitables et, surtout, de la conscience que chaque algorithme peut être correct. Car si nous n’agissons pas maintenant, l’IA du futur ne sera pas artificiellement intelligente : elle sera artificiellement stupide. Et franchement, nous ne pouvons pas nous le permettre.