Pensez (cela vaut la peine de le dire) à une intelligence artificielle qui, avant de répondre à une question, s'arrête un instant pour réfléchir, réfléchir, considérer différentes possibilités et choisir la meilleure. "Comme elle est humaine!" (cit.). C'est ce qu'un groupe de chercheurs est parvenu à réaliser grâce à une méthode de formation innovante appelée "Silencieux-STAR" .
Cette technique, qui confère à l'IA une sorte de « monologue intérieur », s'avère capable d'améliorer considérablement les capacités de raisonnement des systèmes d'intelligence artificielle, ouvrant ainsi de nouvelles et incroyables perspectives pour l'avenir de cette technologie.
Si l’IA apprend à « réfléchir » avant de parler
Jusqu’à présent, les chatbots les plus populaires comme ChatGPT étaient formés pour générer des réponses fluides et convaincantes, mais sans réelle capacité à « raisonner » sur ce qu’ils s’apprêtent à dire ni à anticiper les orientations possibles d’une conversation. Dans la pratique, ils sont très doués pour donner des réponses qui « semblent bonnes », mais qui manquent souvent de logique, de cohérence et de bon sens.
Avec Quiet-STAR, tout pourrait changer. Cet algorithme développé par Erik Zelikman et des collègues de l'Université Cornell (vous pouvez trouver le document ici) fait quelque chose de nouveau. Il demande à l’IA de générer une multitude de « raisonnements internes » en parallèle, avant de répondre à une entrée. Quand vient le temps de donner une réponse, l’IA génère un mélange de prédictions, avec et sans raisonnement, et choisit la meilleure (qui peut être vérifiée par un humain, selon le type de question).
Enfin, apprenez à « penser » en rejetant les raisonnements qui se sont révélés erronés. En pratique, c’est comme si l’IA faisait une « répétition générale » dans sa tête avant de parler, tout comme nous, les humains, le faisons !
Laissez-moi réfléchir… QuietStar. Où ai-je déjà entendu ce nom ? EST-CE Q* ?
Ces derniers mois, le nom Q*, ou QStar a commencé à circuler en relation avec le « psychodrame » survenu à OpenAI. Un tremblement de terre qui il a détrôné, puis remettre en selle PDG Sam Altman (dirigé par Microsoft). QStar est le projet qui, selon certains, a provoqué le « schisme » dans l'Open AI. Un projet qui vise à développer une intelligence artificielle dotée de capacités de raisonnement, de mémoire et de contextualisation similaires à celles de l'humain, se positionnant comme une étape intermédiaire vers l'objectif final de créer une IA avec capacités cognitives égales puis supérieur aux humains, connus sous le nom de Superintelligence Artificielle (ASI). Ce QuietStar est-il une « émanation » de Q* ? Nous le saurons dans les prochaines semaines.
Un bond en avant dans le raisonnement (et les mathématiques)
Les chercheurs ont appliqué Quiet-STAR à Mistral7B, un modèle de langage open source, et les résultats ont été impressionnants. La version « pensante » de Mistral 7B a obtenu un score de 47,2% dans un test de raisonnement, contre le 36,3% de la version « vanille ». Bien sûr, il a quand même échoué à un test de mathématiques à l’école, avec un score dérisoire de 10,9 %. Mais bon, c'est quand même presque le double des 5,9% de départ ! Un résultat qui fait… Réfléchir.
Attention, nous sommes encore loin de combler le fossé entre les réseaux de neurones artificiels et les capacités de raisonnement humain. Mais Quiet-STAR semble être un pas dans la bonne direction. Contrairement à d’autres tentatives d’amélioration du raisonnement de l’IA, qui sont très spécifiques et non généralisables, cette méthode peut être appliquée « en silence » à différents types de modèles, quelles que soient les données d’entraînement d’origine.
L'avenir de l'IA ? Un dialogue interne et une pincée de bon sens
Apparemment, le secret d’une IA plus intelligente est de la faire parler à elle-même. Un jour, nous aurons des chatbots qui, avant de répondre à nos questions, feront une pause pour réfléchir, en disant peut-être : "Hmm, laisse-moi réfléchir un instant...". Et qui sait, ce monologue interne pourrait conduire à une IA avec un peu plus de bon sens, capable de comprendre le contexte, de saisir les nuances, de prédire les conséquences de leurs propos.
Bien entendu, le chemin est encore long. Mais des recherches comme celle-ci nous rappellent que l’intelligence, qu’elle soit artificielle ou humaine, n’est pas seulement une question de vitesse ou de puissance de calcul. C'est aussi et surtout une question de réflexion, de raisonnement, de capacité à se mettre à la place des autres. En fin de compte, qu’est-ce qui fait de nous des humains sinon notre capacité à penser, à nous parler, à imaginer des scénarios futurs, à apprendre de nos erreurs ?
En attendant que les machines le fassent, recommençons aussi à le faire. S’il y a une chose que j’apprends de cette actualité, c’est que parfois, pour être plus intelligent, il faut simplement apprendre à réfléchir avant de parler. Et cela, croyez-moi, s'applique autant aux circuits qu'aux synapses.