La nouvelle recherche menée par des data scientists de l’Université de Géorgie est paradoxale.
Malgré les inquiétudes croissantes concernant l’intrusion des algorithmes dans la vie quotidienne, les gens peuvent être plus disposés à faire confiance à un ordinateur que leurs pairs, surtout si une tâche devient difficile.
Du choix de la chanson suivante de la playlist au choix du pantalon de la bonne taille, les gens s'appuient de plus en plus sur les conseils d'algorithmes pour prendre des décisions quotidiennes et se simplifier la vie.
Demandez à l'algorithme
"Les algorithmes sont capables d'effectuer un très grand nombre de tâches, un nombre qui augmente pratiquement chaque jour", dit-il. Éric Bogert du Département des systèmes d'information de gestion du Terry College of Business.
Il semble y avoir une tendance à s'appuyer sur des algorithmes à mesure qu'une tâche devient plus difficile, et cet effet est plus fort que la tendance à s'appuyer sur les conseils d'autrui.
Bogert a travaillé avec le professeur des systèmes d'information de gestion Rick Watson et le professeur assistant Aaron Schecter sur un papier publié aujourd'hui dans la revue Nature's Scientific Reports.
l'étude
La recherche a impliqué 1.500 XNUMX personnes et fait partie d'un ensemble de travaux plus large qui analyse comment et quand les gens interagissent avec des algorithmes pour traiter les informations et prendre des décisions.
Pour cette étude, l'équipe a demandé à des volontaires de compter le nombre de personnes sur une photographie d'une foule, fournissant à l'appui des suggestions générées par un groupe d'autres personnes et des suggestions générées par un algorithme.
À mesure que le nombre de personnes sur la photo augmentait, le comptage devenait plus difficile et les gens commençaient à suivre la suggestion générée par l'algorithme plutôt que de se compter eux-mêmes ou de suivre les suggestions des autres.
Des algorithmes sur lesquels vous pouvez compter
Schecter a expliqué que le choix de compter comme une tâche de test était important car le nombre de personnes sur la photo rend la tâche objectivement plus difficile à mesure qu'elle augmente. C'est aussi le genre d'entreprise dans laquelle tout le monde s'attend à ce que les ordinateurs soient performants.
C'est une tâche pour laquelle les gens perçoivent un ordinateur comme étant bon, bien qu'il puisse être plus sujet aux préjugés que le comptage d'objets.
Aaron Schecter
La dépendance est un risque
« L’un des problèmes courants de l’IA est lorsqu’elle est utilisée pour accorder des crédits ou approuver des prêts. Il y a de nombreux paramètres à prendre en compte (par exemple le revenu ou le « score de crédit ») : cela en fait un bon travail pour un algorithme.
Cependant, la dépendance aux algorithmes est un risque. J'en dis plus: ça peut être mauvais pour moi. Parce que cela conduit à des pratiques discriminatoires, peut-être en raison de facteurs sociaux qui ne sont pas pris en compte.
Vous avez sans doute entendu parler des algorithmes de reconnaissance faciale, et comment ils ont été inculpés. Leur utilisation a révélé préjugés culturels dans la façon dont ils ont été construits, ce qui peut entraîner des inexactitudes lors de la mise en correspondance des visages et des identités ou de la sélection de candidats qualifiés.
Les biais qui peuvent ne pas être présents dans des activités telles que le comptage, cependant, il est important de comprendre comment les gens se fient aux algorithmes pour prendre des décisions.
Confiance mutuelle
Cette étude, comme mentionné, faisait partie du programme de recherche plus vaste de Schecter sur la collaboration homme-machine, financé par le bureau de recherche de l'armée américaine.
Le but ultime est d'observer des groupes d'humains et de machines prenant des décisions et de découvrir comment nous pouvons les amener à se faire confiance et comment cela modifie leur comportement.
Comme il existe très peu de recherches dans ce contexte, les chercheurs sont partis de zéro. Schecter, Watson et Bogert étudient actuellement la manière dont les gens s'appuient sur des algorithmes pour émettre des jugements créatifs et moraux. Parmi les exemples ? Écrivez des passages descriptifs ou fixez la caution des prisonniers.
