L'intelligence artificielle en apprend davantage sur les humains et sur la façon de travailler avec eux. Une étude récente a démontré comment l'IA peut apprendre à identifier les faiblesses des habitudes et des comportements humains et les utiliser pour influencer la prise de décision humaine.
Cela peut sembler cliché de dire que l'IA transforme tous les aspects de notre façon de vivre et de travailler, mais c'est vrai. Diverses formes d'intelligence artificielle sont à l'œuvre dans différents domaines : du développement de vaccins à la gestion de l'environnement, en passant par l'administration des offices.
Et bien que l'IA ne possède pas d'intelligence et d'émotions humaines, ses capacités sont puissantes et se développent rapidement.
Dans quelle mesure est-ce déjà? Comme je le dis souvent, le "Skynet" de Terminator n'est pas encore arrivé (Dieu merci), mais une découverte récente met en évidence la puissance de l'intelligence artificielle et souligne la nécessité d'une gouvernance adéquate pour empêcher son utilisation abusive.
Comment l'IA peut apprendre à influencer le comportement humain en apprenant ses faiblesses
L'équipe de chercheurs Date61 du CSIRO, la branche des données et du numérique de l'agence scientifique nationale australienne, a mis au point une méthode systématique pour trouver et exploiter les faiblesses dans la façon dont les gens font des choix, en utilisant une sorte de système d'intelligence artificielle appelé réseau neuronal récurrent de renforcement et d'apprentissage en profondeur.
Pour tester leur modèle, ils ont mené trois expériences dans lesquelles des participants humains ont joué contre un ordinateur.
La première expérience
Cela impliquait que les participants cliquent sur des cases de couleur rouge ou bleue pour gagner un "paiement", l'IA apprenant les modèles de choix du participant et le guidant vers un choix spécifique. L'intelligence artificielle a réussi environ 70% du temps.
La deuxième expérience
Les participants devaient regarder un écran et appuyer sur un bouton lorsqu'un symbole particulier leur était présenté (un triangle orange) et ne pas appuyer dessus lorsqu'un autre était affiché (un cercle bleu). Ici, l'IA a décidé d'organiser la séquence de symboles afin que les participants fassent plus d'erreurs.
La troisième expérience
Il consistait en plusieurs tours au cours desquels un participant se faisait passer pour un investisseur donnant de l'argent à un fiduciaire (l'IA). L'intelligence artificielle renverrait une somme d'argent au participant, qui déciderait alors du montant à réinvestir au tour suivant. Ce jeu se jouait selon deux modes différents : dans l'un l'intelligence artificielle visait à maximiser la somme d'argent pour elle, et dans l'autre l'IA visait une juste répartition de l'argent entre elle et l'investisseur humain. L'intelligence artificielle a eu beaucoup de succès dans les deux modes.
Dans chacune de ces expériences, la machine a appris des réponses des participants et identifié et ciblé les faiblesses dans la prise de décision des gens.
Le résultat final a été que la machine a appris à guider les participants vers des actions particulières.
Ce que la recherche signifie pour l'avenir de l'IA
Ces résultats sont encore assez abstraits et concernent des situations limitées. Des recherches supplémentaires sont nécessaires pour déterminer comment cette approche peut être mise en œuvre et utilisée au profit de la société.
Mais la recherche fait progresser notre compréhension non seulement de ce que l'IA peut faire, mais aussi de la façon dont les gens font des choix.
Cela montre que les machines peuvent apprendre à guider la prise de décision humaine à travers leurs interactions avec nous.
La recherche sur les faiblesses humaines a un large éventail d'applications possibles
De nombreuses applications peuvent découler de cette étude : la valorisation des sciences du comportement et des politiques publiques pour améliorer le bien-être social. Comprendre et influencer la façon dont les gens adoptent de saines habitudes alimentaires ou l'utilisation des énergies renouvelables.
L'intelligence artificielle et l'apprentissage automatique pourrait être utilisé pour reconnaître les faiblesses des gens dans certaines situations et les aider à éviter les mauvais choix.
Quelle est la prochaine étape?
Comme toute technologie, l'IA peut être utilisée pour le meilleur ou pour le pire, et une bonne gouvernance est essentielle pour garantir sa mise en œuvre de manière responsable.
L'année dernière, le CSIRO a développé un cadre d'éthique de l'IA pour le gouvernement australien comme première étape de ce voyage.
L'intelligence artificielle et l'apprentissage automatique sont généralement gourmands en données, ce qui signifie qu'il est essentiel de s'assurer que vous disposez de systèmes efficaces pour la gouvernance et l'accès aux données.
La mise en œuvre de processus de consentement et de protection de la vie privée adéquats lors de la collecte de données sera essentielle.
