D'accord. C'est juste arrivé. Un jour d’automne, une intelligence artificielle a réussi le test Mensa avec un score bien supérieur à la moyenne humaine. O1, le modèle récemment présenté par OpenAI, l'a fait. Et avec son QI de 120, il n'a pas seulement dépassé la moyenne humaine : il a ouvert une boîte de Pandore remplie de questions éthiques, philosophiques et pratiques. Voulons-nous ou non décider de redéfinir les paramètres qui définissent ce qu'on appelle « l'intelligence » dans un monde où les machines peuvent surpasser nos systèmes d'évaluation ?
La montée de o1 : le « mauvais garçon » dans le sanctuaire de l'IA
Il Projet Fraise di OpenAI produit ce que l'entreprise décrit comme une percée dansintelligence artificielle générale (AGI). Le modèle o1 n’est pas un simple algorithme, mais une IA « pensante » qui utilise l’apprentissage par renforcement et le traitement de la chaîne de pensée pour imiter le raisonnement humain et faciliter la résolution de problèmes par inférence déductive.
Les résultats des tests ? Impressionnant pour le moins :
- 89e percentile dans les candidatures au doctorat,
surpassant la plupart des humains; - 83% des problèmes résolus à l'examen de qualification pour l'Olympiade internationale de mathématiques ;
- QI de 120 dans un test Mensa.
Des « talents » qui se situent bien au-dessus de la moyenne humaine, qui se situe entre 1 et 85 points de QI. Je le répète, comme je l'ai dit le lendemain réussir le test de Turing de GPT-4 : que devons-nous faire ?
Au-delà du test Mensa : les implications d’une IA « brillante »
Le succès d'o1 au test Mensa n'est pas seulement une réussite technologique, comme mentionné, mais un tournant qui soulève de profondes questions sur l'avenir de l'humanité et de la technologie. Yuval Noah Harari, historien et philosophe, dans son livre « Nexus : A Brief History of Information Networks from the Stone Age to AI » décrit l’IA comme un agent, fondamentalement différente de toute autre technologie inventée par l’homme.
"L'IA est la technologie la plus dangereuse que nous ayons jamais créée" dit Harari, soulignant sa capacité unique à fonctionner de manière autonome et à évoluer.
Potentiel et dangers : le double visage d'AGI qui gagne aux tests Mensa
Le potentiel de l'AGI à venir (et ils disent qui viendra bientôt) est vaste et prometteur. Cela pourrait être :
- Personnaliser l'éducation;
- Réinventer les industries dans une perspective de durabilité ;
- Accélérer la recherche scientifique ;
- Résoudre les pénuries de nourriture et d’eau à l’échelle mondiale ;
- Intervenir dans les conflits humains (je n'y crois pas beaucoup, ici).
Le revers de la médaille ? Terrifiant, il va sans dire. Si elle est mal mise en œuvre, cette technologie pourrait également :
- Produire de fausses nouvelles, des reconstitutions et des informations encore plus trompeuses ;
- Favoriser les régimes totalitaires et répressifs ;
- Accroître considérablement la destruction des postes de travail ;
Autrement dit, un avenir qui ne nous prévoit plus.
La course à l’AGI : une compétition sans règles ?
Je vous l’assure : malgré mon approche prudemment optimiste, la rapidité avec laquelle les grandes entreprises technologiques intègrent l’IA au grand public me préoccupe également. Hormis quelques e des avertissements clairsNous manquons de garde-fous adéquats et de gouvernements aussi les volontaires, ont du mal à suivre le rythme du changement.
Que faudrait-il pour avoir véritablement une AGI au service de l’humanité ?
- Tout le contraire de ce que je perçois actuellement : une mise en œuvre progressive dans des environnements contrôlés ;
- Un alignement clair des systèmes AGI avec les objectifs déterminés par l’homme ;
- Un accord commun entre les gouvernements sur les paramètres de développement et de mise en œuvre ;
- Un débat en cours sur l'orientation de la recherche AGI, avec de fortes contributions éthiques et sociologique.
L’avenir est déjà là : sommes-nous prêts ?
Le modèle o1 d'OpenAI et son exploit de test Mensa représentent une étape importante, mais comme le souligne Harari, il existe un danger implicite lorsqu'une invention humaine devient un agent autonome, capable d'ignorer ses créateurs dans sa quête de connaissance et de croissance.
Le défi qui nous attend n’est pas seulement technologique, mais profondément éthique et philosophique. En tant que société, nous sommes confrontés à des questions cruciales. Je me les demande et je vous les demande :
- Comment pouvons-nous garantir qu’AGI reste aligné sur les valeurs humaines ?
- Quel rôle l’humanité aura-t-elle dans un monde où les machines peuvent nous surpasser en « intelligence » ?
- Comment pouvons-nous exploiter le potentiel de l’AGI tout en minimisant les risques ?
Le test Mensa réussi par o1 n’est qu’un autre signe d’une nouvelle ère. Le véritable test sera de savoir comment nous réagirons à cette révolution technologique. À partir de notre réponse, nous verrons, au-delà de tout test, quelle véritable intelligence nous possédons.
