Cet article fait partie de "Periscopio", la newsletter Linkedin qui aborde chaque semaine les thématiques de Futuro Prossimo, et est publiée en avance sur la plateforme LinkedIn. Si vous souhaitez vous abonner et le prévisualiser, retrouvez tout ici.
Un monde entièrement robotique, dans lequel les machines collaborent avec l’humanité de toutes les manières possibles, est récurrent depuis des années dans les œuvres de science-fiction : livres, films, jeux. Et comme toujours, le récit est polarisé.
Allons-nous nous retrouver dans une décharge mondiale où les machines nous aident à retrouver le sens perdu de la vie parmi les déchets et la ferraille ? Dans un scénario post-apocalyptique dominé par une intelligence artificielle (et hostile) ? Ou sur une planète où l'humanité et les machines coexistent dans un équilibre robotique et vaguement aseptique (comme Asimov, pour comprendre) ?
La forme du futur que nous imaginons
Si nous mettions toutes nos versions du futur robotique sur un seul graphique, nous pourrions obtenir un aspect comme celui-ci :
Ne le nions pas : la plupart de nos opinions sont pessimistes. A-t-on raison de craindre le pire ? Comparons les robotique et des recherches surl'intelligence artificielle (ira de plus en plus de pair) avec d’autres avancées technologiques de même ampleur. Un exemple avant tout : la recherche sur l'énergie atomique. Ils ont commencé avec une bombe, pilotée par des programmes militaires. Et devinez ce qui se passe aujourd'hui ?
Rien de nouveau. Malheureusement.
Tous les acteurs travaillant aujourd’hui dans le domaine de la robotique et de l’IA s’accordent généralement sur la nécessité de concevoir des machines avec des règles éthiques précises, qui privilégient la vie humaine. Tout appareil robotique doté d’une intelligence artificielle doit être capable de reconnaître les humains et d’éviter de leur nuire. À tout prix.
C'est vraiment comme ça ? Au moment où je vous écris, les États-Unis, la Russie, la Chine et d’autres pays mènent tous des programmes visant à créer (et déployer) des drones et des robots de terrain pilotés par l’IA pour tuer des gens.
Des robots similaires à celui de la vidéo ci-dessous pourront se « diriger » eux-mêmes.
C'est une récidive dramatique : une fois de plus, avant même d’entrer dans l’ère de la robotique, nous ignorons les conseils de deux générations de scientifiques et de futuristes qui réfléchissent à ces problèmes depuis des années et des années. Inutilement?
Le monde robotique que nous voulons est un autre
« Nous, le peuple », dirait quelqu’un, nous ne voulons pas d’une Terre dominée par robots tueurs. Avec notre esprit, nous craignons la dystopie, avec notre cœur, nous désirons l’utopie.
Nous voulons un monde où les robots et l'intelligence artificielle nous aident à tout améliorer. Mais pour y arriver, nous pourrions traverser l'enfer si des cibles militaires conduisaient à nouveau l'avenir robotique.
Ne sous-estimez JAMAIS la science-fiction. Inspirez le futur, mais photographie aussi le présent. Il y a une raison pour laquelle une grande partie de notre science-fiction tourne autour de robots prenant conscience d'eux-mêmes et essayant de conquérir le monde ou d'éliminer les humains.
Nous reconnaissons que c'est une possibilité, mais ce n'est pas la faute des machines. C'est le nôtre. Nous sommes ceux qui excellons à toujours trouver de nouvelles façons de nous mettre en danger. Est-ce la méfiance envers notre espèce ? Ou connaissance intime de ses limites ? Les deux.
Deux façons d'éviter la catastrophe
Abandonner et/ou interdire tous les travaux sur l’intelligence artificielle ? Cela ne fonctionnerait probablement pas. Tout comme toute tentative de contrôle des armes nucléaires ou de recherche médicale éthiquement douteuse.
Certains seront d’accord, beaucoup ne le seront pas. Et il suffit d’une seule personne pour s’y opposer : le désir humain de satisfaire sa curiosité et d’obtenir un avantage sur les autres est insurmontable.
Deuxièmement : éduquer, éduquer, éduquer. Éduquer les hommes et les machines. Essayez de faire en sorte que chacun comprenne les dangers potentiels, et construise un cadre de référence social, politique, culturel, mais surtout technologique.
Un cadre dans lequel le monde robotique n’est pas un lieu hostile aux humains. Qu'il arrive ou non, le Singularité technologique c'est par définition quelque chose de violent et de soudain, un passage de relais important.
Si nous ne préparons pas bien le terrain, il ne sera pas possible de perdre le contrôle mais une certitude naturelle et soudaine. L’évolution des machines sera hors de notre contrôle et nous nous retrouverons dans une position similaire à celle dans laquelle nous avons placé le gorille des plaines ou le panda géant.
C'est pourquoi j'applaudis aux premiers efforts, presque touchants, des techniciens et des scientifiques pour « inculquer » une moralité aux machines que nous-mêmes ne savons pas respecter.
Nous devons le faire avant que ces machines n’ouvrent les yeux et ne montrent une étincelle. Nous devons le faire, pour que ce soit une étincelle d'amour : que peut-être cela nous apprenne aussi quelque chose sur nous-mêmes.
