L’avènement de l’intelligence artificielle, une IA hostile et sa domination sur l’humanité sont au centre des débats depuis le siècle dernier.
Extrait du livre d'EM Forster « The Machine Stops », daté de 1909 De la récente série télévisée « Westworld » en passant par la saga « Terminator », notre imaginaire collectif a déjà envisagé cette hypothèse. Et il pensait que l’avènement d’une IA hostile serait un carnage.
Il s’agit cependant d’un problème qui pourrait rester hypothétique encore un petit moment. Scientifiques et ingénieurs craignent sérieusement que ce « dépassement » entre intelligence humaine et intelligence artificielle (qui devrait donner naissance à la singularité technologique redoutée par les transhumanistes) ne soit la plus grande erreur humaine.
Les tendances actuelles nous montrent une véritable « course aux armements » pour obtenir cette technologie, qui donnerait un énorme avantage concurrentiel. La vraie question devient, à y regarder de plus près : comment arrêter cette course effrénée avec peu de jugement ? Comment permettre le développement plus harmonieux d’une IA respectant ses propres paramètres « éthiques » et de sécurité ?
Développer une super intelligence artificielle comporte deux défis pour ne pas devenir une IA hostile.
Premier défi : l’unité d’objectif. Cette IA doit avoir en mémoire (en esprit ?) les mêmes objectifs que l’humanité. Sans elle, l’IA pourrait détruire « distraitement » l’humanité en l’évaluant comme une superficialité inutile, ou un obstacle à lever.
Deuxième défi: la mutualité. C'est un problème politique, il s'agit de s'assurer que les bénéfices d'une IA ne vont pas à une petite élite, provoquant des inégalités sociales effrayantes.
Avec le modèle actuel de « course aux armements », tout développement de l’IA a tendance à ignorer ces deux défis pour aller de l’avant. Cela rend vraiment concret le danger de la naissance d’une IA hostile.
Solutions possibles
Des politiques nationales sont nécessaires pour empêcher une concurrence effrénée, réduire l'encombrement des entreprises et des entités qui développent l'IA et imposer des postes de sécurité à ceux qui veulent rivaliser. Moins de batailles et plus de règles signifient moins de pression et plus d'attention à la sécurité.
Suggérer des initiatives pratiques pour éviter l’avènement d’une IA hostile est une étude par les chercheurs Wim Naudé et Nicola Dimitri. Le tableau actuel est décrit avec précision, et il commence aussitôt par un déni: curieusement, il y a déjà peu de concurrents, et cela ne garantit cependant pas la sécurité.
Les groupes et entités des États-Unis, de Chine et d'Europe sont peu nombreux en raison des énormes coûts de développement d'une IA, mais ils sont toujours hyper compétitifs.
Pour cette raison, d'autres stratégies seraient utiles aux États-nations
Les Etats ont le devoir de « calmer » la bataille en proposant des contrats qui les lient au plus grand nombre de sujets possible. Plus d’argent, voire beaucoup plus pour le développement de l’IA, mais sous certaines conditions de sécurité.
Ils peuvent également offrir de l'aide à ceux qui souhaitent développer des technologies de « confinement » pour le développement d'une IA, en supposant que même la plus intelligente et la plus hostile puisse avoir des faiblesses et ne pas être complètement invulnérable.
En outre, la coopération peut être encouragée en modifiant les impôts et les incitations en faveur de ceux qui décident de collaborer.
Bien commun
À ces solutions (que l'étude explique plus en détail) s'ajoute une solution suprême, celle de voler ce champ aux particuliers. Comme pour l’énergie atomique ou d’autres technologies et ressources considérées comme avantageuses et dangereuses pour tous, l’IA doit également être considérée comme un bien commun, et protégée afin qu’elle ne prenne pas de mauvaises voies.
Personne n’est sûr de rien pour le moment. La nature potentiellement hostile de l’IA elle-même est un sujet de débat. Pour certains scientifiques, une « rébellion » de la création contre le créateur n’aura jamais lieu. Pour beaucoup d’autres il y aura une fusion des hommes et de l’IA, nous ne serons pas détruits mais améliorés.
Quoi qu’il en soit, notre planète et l’humanité bénéficieront énormément de l’IA, et les signes sont déjà visibles aujourd'hui.