L’IA permet d’en apprendre davantage sur les humains et sur la façon de travailler avec eux. Une étude récente a démontré comment l’IA peut apprendre à identifier les faiblesses des habitudes et des comportements humains et à les utiliser pour influencer la prise de décision humaine.
Cela peut sembler cliché de dire que l’IA transforme tous les aspects de notre façon de vivre et de travailler, mais c’est vrai. Différentes formes d’intelligence artificielle sont à l’œuvre dans différents domaines : du développement de vaccins à la gestion de l’environnement, en passant par l’administration de bureau.
Et bien que l’IA ne possède pas une intelligence et des émotions comparables à celles des humains, ses capacités sont puissantes et se développent rapidement.
Dans quelle mesure est-ce déjà? Comme je le dis souvent, le « Skynet » de Terminator n'est pas encore là (Dieu merci), mais une découverte récente met en évidence la puissance de l'intelligence artificielle et souligne la nécessité d'une gouvernance appropriée pour empêcher son utilisation abusive.
Comment l’IA peut apprendre à influencer le comportement humain en apprenant ses faiblesses
L'équipe de chercheurs Date61 du CSIRO, la branche données et numérique de l'agence scientifique nationale australienne, a mis au point une méthode systématique pour trouver et exploiter les faiblesses dans la manière dont les gens font des choix, en utilisant une sorte de système d'intelligence artificielle appelé réseau neuronal récurrent de renforcement et d'apprentissage en profondeur.
Pour tester leur modèle, ils ont mené trois expériences dans lesquelles des participants humains ont joué contre un ordinateur.
La première expérience
Il s'agissait pour les participants de cliquer sur des cases de couleur rouge ou bleue pour gagner une « récompense », l'IA apprenant les modèles de choix des participants et les guidant vers un choix spécifique. L’IA a réussi environ 70 % du temps.
La deuxième expérience
Les participants devaient regarder un écran et appuyer sur un bouton lorsqu'on leur montrait un symbole particulier (un triangle orange) et ne pas appuyer dessus lorsqu'on leur montrait un autre symbole (un cercle bleu). Ici, l'IA a décidé d'organiser la séquence de symboles de manière à ce que les participants fassent plus d'erreurs.
La troisième expérience
Il s'agissait de plusieurs tours au cours desquels un participant se faisait passer pour un investisseur donnant de l'argent à un fiduciaire (l'IA). L’intelligence artificielle restituerait une somme d’argent au participant, qui déciderait alors du montant à réinvestir lors du tour suivant. Ce jeu se jouait selon deux modes différents : dans l'un, l'IA visait à maximiser la somme d'argent pour elle-même, et dans l'autre, l'IA visait à une répartition équitable de l'argent entre elle-même et l'investisseur humain. L'IA a connu beaucoup de succès dans les deux modes.
Dans chacune de ces expériences, la machine a appris des réponses des participants et identifié et ciblé les faiblesses dans la prise de décision des gens.
Le résultat final a été que la machine a appris à guider les participants vers des actions particulières.
Ce que la recherche signifie pour l’avenir de l’IA
Ces résultats sont encore assez abstraits et concernent des situations limitées. Des recherches supplémentaires sont nécessaires pour déterminer comment cette approche peut être mise en œuvre et utilisée au profit de la société.
Mais la recherche fait progresser notre compréhension non seulement de ce que l’IA peut faire, mais aussi de la façon dont les gens font des choix.
Cela montre que les machines peuvent apprendre à guider la prise de décision humaine à travers leurs interactions avec nous.
La recherche sur les faiblesses humaines a un large éventail d'applications possibles
De nombreuses applications peuvent découler de cette étude : améliorer les sciences du comportement et les politiques publiques pour améliorer le bien-être social. Comprendre et influencer la manière dont les gens adoptent des habitudes alimentaires saines ou utilisent les énergies renouvelables.
L'l'intelligence artificielle et l'apprentissage automatique pourrait être utilisé pour reconnaître les faiblesses des gens dans certaines situations et les aider à éviter de mauvais choix.
Quelle est la prochaine étape?
Comme toute technologie, l’IA peut être utilisée pour le meilleur ou pour le pire, et une bonne gouvernance est essentielle pour garantir qu’elle soit mise en œuvre de manière responsable.
L'année dernière, le CSIRO a développé un cadre d'éthique de l'IA pour le gouvernement australien comme première étape de ce voyage.
L'intelligence artificielle et l'apprentissage automatique sont généralement gourmands en données, ce qui signifie qu'il est essentiel de garantir que vous disposez de systèmes efficaces pour la gouvernance et l'accès aux données.
La mise en œuvre de processus de consentement appropriés et de protection de la vie privée lors de la collecte de données sera essentielle.
