Vous êtes-vous déjà demandé si vos décisions vous appartenaient vraiment ? Les experts de l’Université de Cambridge ont une réponse inquiétante à cette question : l’IA sera bientôt capable de prédire (et surtout de vendre) nos intentions avant même que nous en soyons conscients.
Bienvenue sur le marché « d’anticipation », qui transforme nos désirs naissants en monnaie d’échange.
À l'intérieur du marché des désirs
La première fois que j'ai lu cette recherche de Centre Leverhulme pour l'avenir du renseignement (vous pouvez retrouver le lien pour le consulter en bas de l'article) J'ai dû m'arrêter et le relire plusieurs fois. Tout est vrai : nous entrons dans une ère dans laquelle nos pensées les plus intimes, nos intentions encore informes, peut-être même des rêves ils deviendront une monnaie d’échange.
C'est comme si quelqu'un pouvait jeter un coup d'œil dans nos esprits pendant que nous sommes encore en train de décider quoi faire. Et ne vous contentez pas de regarder, mais, comme mentionné, vendez ces informations au plus offrant. Le Dr Yaqub Chaudhary le dit clairement : « Les assistants IA infiltrent tous les aspects de nos vies, mais nous devons nous demander : à qui servent-ils réellement ?
Cela me fait penser à toutes ces fois où ma mère parlait à Siri ou à Alexa, pensant qu'elle avait une conversation privée. Dans quelle mesure ce qu’il a dit a-t-il été analysé, prédit, vendu ? Probablement tout.
Comment fonctionne cette économie cachée
Il Dr Jonnie Penn utilise une métaphore que je trouve parfaite : si avant l’économie numérique reposait sur notre attention (likes, vues, temps passé en ligne), désormais elle vise quelque chose de plus profond. C'est comme passer de la photographie de la surface de l'océan à la cartographie de ses courants sous-marins.
Les chercheurs de Cambridge appellent cela « l’économie de l’intention », mais je le vois comme un système géant de prédiction du désir. Penser à Minority Report, mais au lieu de prédire les crimes, l’IA prédit les achats, les choix, les décisions.
La chose qui me fait le plus peur ? Ce système pourrait tout influencer, depuis nos choix d’achat les plus banals jusqu’aux décisions électorales. Comment pouvons-nous être sûrs que nos désirs sont vraiment les nôtres ?
La technologie qui lit dans nos pensées
Je trouve fascinant l’exemple que donnent les chercheurs pour simplement comprendre le niveau de sophistication de cette technologie. Si les modèles linguistiques actuels « anticipent » les phrases et les structures linguistiques (ils sont une sorte de « méga T9 » du smartphone), progressivement l'intelligence artificielle non seulement comprendra ce que l'on dit, mais va aussi analyser (au point de le prédire) comment nous le disons, quand nous le disons, avec quel ton émotionnel nous le disons.
Avez-vous déjà eu une application qui vous a suggéré quelque chose au moment précis où vous étiez sur le point de décider de le faire ? Pas encore, je pense, j'espère. Mais si cela se produit dans un avenir proche, ce n’est peut-être pas une coïncidence. L’IA apprend à reconnaître les cheminements de nos intentions : celles qui précèdent nos choix. À partir d'un instant après que nous ayons fait un vœu, ils reviendront à un instant avant.
Et les grandes entreprises technologiques le savent bien. OpenAI recherche activement des données sur les intentions humaines, Shopify développe des chatbots qui « extraient » nos intentions, Meta étudiez comment comprendre nos désirs cachés. Ce n'est pas une hypothèse : c'est la simple observation du contexte.
Les intentions (et les signaux) que nous ne pouvons ignorer
L'année dernière Pomme il a fait quelque chose qui devrait nous faire réfléchir : il a créé les « App Intents », un système qui permet aux applications de prédire nos actions futures. Il ne s’agit plus seulement de répondre à nos ordres, mais de les anticiper.
Et à propos de CICERO, l'IA de Meta jouant à Diplomacy. Si une IA peut prédire et manipuler les intentions dans un jeu basé sur la négociation, que peut-elle faire avec nos décisions quotidiennes ?
Il Dr Chaudhary il le dit sans ambages :
Aujourd’hui déjà, les entreprises vendent notre attention. La prochaine étape logique est de vendre nos désirs avant même d’en avoir conscience.
Économie d’intentions : un avenir à planifier ensemble
La recherche publiée sur Examen de la science des données de Harvard (je te le mets en lien ici) nous présente un choix. En tant que société, nous devons décider si nous voulons un avenir où nos intentions sont une marchandise à acheter et à vendre.
Soyons clairs : comme le conclut le Dr Penn lui-même dans son analyse, ces évolutions ne sont pas nécessairement négatives, mais elles ont certainement un potentiel perturbateur. La clé est la sensibilisation du public. Nous devons comprendre ce qui se passe afin d’influencer la direction que prendra cette technologie.
Personnellement, je pense que nous sommes à la croisée des chemins. Nous pouvons laisser l’économie des intentions se développer dans l’ombre, ou nous pouvons exiger de la transparence et des règles claires. Le choix, du moins pour le moment, est toujours entre nos mains. Ou peut-être qu’une IA l’a déjà prédit aussi ?
