Il y a une bonne et une très mauvaise nouvelle. La bonne nouvelle, du moins selon un ancien cadre de Google, est que la singularité est en route. C'est maintenant sur nous. La très mauvaise nouvelle est qu'elle représente une grave menace pour toute l'humanité.
Le terrible avertissement vient de Mo Gawdat, gestionnaire très "expert". Il était directeur commercial de l'organisation Moonshot de Google, qui s'appelait à l'époque. X Google. Ses mots d'avertissement viennent directement d'une interview que Gawdat a-t-il concédé au Times.
"L'intelligence artificielle générale est inévitable"
Dans l'interview, l'ancien dirigeant de Google a déclaré qu'il croyait que leintelligence artificielle générale (IAG), le genre d'IA omnipotente et sensible (dont nous avons exploré les effets néfastes dans des spéculations de science-fiction comme Skynet de "The Terminator") est inévitable. Une fois ici, l'humanité pourrait très bien se retrouver en train de subir une apocalypse causée par des machines divines.
Gawdat a déclaré au Times qu'il avait eu cette révélation effrayante alors qu'il travaillait avec des développeurs d'intelligence artificielle chez Google X. L'expérience dont l'exécutif a été témoin n'avait rien de spécial, du moins en surface. Les développeurs construisaient des bras robotiques capables de trouver et de ramasser une balle. Après une période de lent progrès, Gawdat rapporte qu'un bras a saisi le ballon et a semblé le tenir vers les chercheurs dans un geste qui, pour lui, ressemblait à un geste d'exhibition.
"Et soudain, j'ai réalisé que c'était vraiment effrayant", a déclaré Gawdat. "Ça m'a complètement gelé." "La réalité est", a-t-il ajouté, "que nous créons Dieu".
Les dangers que l'ancien dirigeant de Google voit sont réalistes. Mais vous devez d'abord affronter les vrais.
L'avertissement de l'ancien cadre de Google est inquiétant, mais pas le seul. Les sages précautions (ou les vendeurs de peur, selon votre point de vue) de l'intelligence artificielle dans le secteur de la technologie ne manquent pas. Elon Musk a averti à plusieurs reprises le monde du danger que l'IA surclasse un jour l'humanité, par exemple. Des spéculations frontalières qui, d'un côté avertissent des dangers, de l'autre semblent trop "énormes" et nous détournent peut-être de ceux qui sont déjà évidents maintenant.
Par exemple, la reconnaissance faciale et police prédictive causer un préjudice réel dans les communautés défavorisées. D'innombrables algorithmes continuent de se propager et de coder le racisme institutionnel à tous les niveaux. Ce sont des problèmes qui peuvent être résolus par la supervision et la réglementation.
