À New York, aux États-Unis, il existe une petite startup appelée Hume IA qui a une noble idée. Quel est? Ceci : les systèmes d'intelligence artificielle ne peuvent pas seulement comprendre le langage et les informations, mais doivent également comprendre les sentiments, les relations et les émotions humaines.
Trop idéaliste ? Sara. Pendant ce temps, autour de cette idée a déjà levé des fonds pour près de 13 millions de dollars.
S'ils veulent comprendre le monde, ils doivent aussi nous comprendre
Le PDG de Hume AI, Alain Cowen, un informaticien spécialisé dans l'étude des émotions, semble avoir les idées assez claires. Cela souligne la nécessité pour l’IA de se concentrer sur les émotions humaines plutôt que d’imiter la pensée critique.
Pour cela, dit-il, sa startup vise à aider les systèmes automatisés à mieux comprendre les sentiments des êtres humains, comme le bonheur ou la frustration.
La technologie de l’intelligence artificielle combinée à la capacité de détecter les émotions humaines pourrait améliorer l’efficacité des systèmes basés sur l’IA.
Tu les appelles, si tu veux, émotions (humaines)
Pas seulement des lumières, en fait. En matière d'intelligence artificielle, comme pour toutes les technologies qui viennent d'exploser, les zones d'ombre sont nombreuses. Un avant tout : créer une IA capable de comprendre les émotions humaines augmente le risque de manipulation de ces émotions.
Cowen affirme avoir intégré des garanties dans ses protocoles et assure que Hume AI demandera à ses clients de respecter une série de limites lors de l'utilisation de la technologie.
Parmi celles-ci, précisément l'interdiction d'utilisation à des fins de surveillance ou de manipulation, pour éviter que les gens ne soient jamais trompés. Comme, comment? Leur faire croire qu'ils conversent avec un être sensible, voire une personne réelle.
"L'intelligence artificielle doit être utilisée pour améliorer notre bonheur, et non pour pousser les achats ou générer des clics."
J'espere.
