Il y a de bonnes et de très mauvaises nouvelles. La bonne nouvelle, du moins selon un ancien cadre de Google, est que la singularité arrive. C'est presque arrivé maintenant. La très mauvaise nouvelle est que cela représente une grave menace pour l’humanité toute entière.
Le terrible avertissement vient de Mo Gawdat, un manager très "professionnel". Il était directeur commercial de l'organisation Moonshot de Google, qui s'appelait alors X Google. Ses mots d'avertissement viennent directement d'une interview que Gawdat a-t-il concédé au Times.
« L’intelligence artificielle générale est inévitable »
Dans l'interview, l'ancien dirigeant de Google a déclaré qu'il pensait queintelligence artificielle générale (IAG), le type d’IA omnipotente et sensible (dont nous avons exploré les effets néfastes dans des spéculations de science-fiction telles que Skynet de « The Terminator ») est inévitable. Une fois sur place, l’humanité pourrait très bien se retrouver confrontée à une apocalypse provoquée par des machines divines.
Gawdat a déclaré au Times qu'il avait eu cette révélation effrayante alors qu'il travaillait avec des développeurs d'intelligence artificielle chez Google X. L'expérience dont le dirigeant a été témoin n'avait rien de spécial, du moins en surface. Les développeurs construisaient des bras robotiques capables de trouver et de ramasser une balle. Après une période de progression lente, Gawdat raconte qu'un bras a saisi le ballon et a semblé le tendre vers les chercheurs dans un geste qui, pour lui, ressemblait à une frimeur.
"Et soudain, j'ai réalisé que c'était vraiment effrayant", a déclaré Gawdat. "Cela m'a complètement gelé." « La réalité est, a-t-il ajouté, que nous créons Dieu. »
Les dangers que voit l’ancien dirigeant de Google sont réalistes. Mais nous devons d’abord nous occuper des vrais.
L'avertissement de l'ancien dirigeant de Google est inquiétant, mais pas le seul. Les sages avertisseurs (ou alarmistes, selon votre point de vue) ne manquent pas à l’égard de l’IA dans le secteur technologique. Elon Musk a par exemple mis en garde le monde à plusieurs reprises contre le danger que l’IA ne dépasse un jour l’humanité. Des spéculations frontalières qui, si d'un côté elles mettent en garde contre des dangers, de l'autre semblent trop « énormes » et nous détournent peut-être de ceux qui sont déjà évidents maintenant.
Par exemple, la reconnaissance faciale et police prédictive causer un préjudice réel dans les communautés défavorisées. D'innombrables algorithmes continuent de se propager et de coder le racisme institutionnel à tous les niveaux. Ce sont des problèmes qui peuvent être résolus par la supervision et la réglementation.
