Des assistants vocaux tels qu'Amazon Alexa, Apple Siri, Microsoft Cortana et Google Home contribuent à renforcer et à répandre le sexisme, selon une étude des Nations Unies.
L’étude de l’UNESCO au titre curieux : « Je rougirais si je pouvais » (c'est la réponse complaisante que donne Apple Siri lorsqu'on lui insinue qu'elle est une prostituée) affirme que ce type de logiciel perpétue le stéréotype de la femme servile et soumise, même lorsqu'elle est maltraitée.
"Le fait que la plupart des assistants vocaux aient une voix féminine et soient perçus comme féminins envoie le faux message selon lequel les femmes sont des assistantes dociles, disponibles à toute heure avec un simple bouton ou un "hé" lancé dessus."
"L'assistant n'a aucun pouvoir d'affirmation sur les commandes données. Honorer les engagements et satisfaire les demandes quel que soit le ton ou l'hostilité avec lequel elles sont formulées.
La tendance des assistants vocaux à être considérés comme particulièrement inquiétants « détourner, négliger ou donner des réponses conciliantes » lorsqu'elles sont insultées, renforcent la conviction que les femmes sont victimes d'abus et de harcèlement.
« Des entreprises comme Apple et Amazon, composées majoritairement d’équipes d’ingénieurs masculins, ont créé des systèmes d’IA qui transforment les assistants vocaux en entités féminines qui traitent les abus en flirtant passivement et avec soumission. » le rapport continue.
L'étude de l'UNESCO suggère que les assistants numériques devraient être programmés pour décourager les insultes sexistes, que les entreprises devraient cesser de les doter de voix féminines à la base et en tout cas proposer des représentations différentes des femmes dans les différentes manifestations de l'intelligence artificielle apportée à ces appareils.
Le choix de donner une voix féminine par défaut est le résultat d'une étude de marché réalisée par des géants de la technologie, mais l'étude réfute ces conclusions en faisant valoir que la plupart des gens préfèrent une voix du sexe opposé, pas nécessairement féminine.