L’intelligence artificielle (IA) a le potentiel de révolutionner notre monde. Et évidemment, cette promesse comporte des risques importants.
Eh bien, au moins dans mon horizon cognitif, je vois clairement la partie pessimiste de la discussion prévaloir. Pour une raison que je ne connais pas, même les développeurs d'IA eux-mêmes ont tendance à se pourchasser avec "nous allons tous mourir", seulement pour gagner beaucoup d'argent avec leurs plateformes.
En revanche, une poignée de personnes estiment que la perspective d’un boom de l’intelligence artificielle est salvatrice.
En d’autres termes, il semble que l’humanité n’ait que deux options dans son approche de l’intelligence artificielle :
- Nous craignons les conséquences négatives potentielles de l’IA avancée et essayons donc d’arrêter son développement ;
- Nous apprécions les avantages de l’IA avancée et nous nous efforçons donc d’obtenir ces avantages le plus rapidement possible malgré les risques.
Dans ma Naples, la synthèse efficace serait dans un dicton célèbre : "soit 1, soit 90". A quoi est dû ce déséquilibre total ? Existe-t-il un juste milieu ?
Le chemin de la responsabilité
Notre vision « binaire », sclérifiée par les réseaux sociaux et les médias qui relancent le déclarations sensationnalistes ou apocalyptique, négliger un chemin. Et c’est vraiment dommage, car c’est la meilleure voie, la seule qui peut nous aider à obtenir les bénéfices souhaités de l’IA avancée : le développement responsable.
Faisons une analogie : imaginons un voyage dans une sorte de vallée dorée. Imaginez alors qu'en face de cette vallée se trouve une sorte de marécage incertain, peut-être peuplé de prédateurs affamés cachés dans l'ombre.
Avons-nous seulement le choix entre le traverser et nous enfuir ? Entre peur (et fuite) et imprudence (avancer sans précautions) ? Ou existe-t-il une troisième voie, celle de mieux comprendre la situation et de rechercher avec équilibre le chemin le plus sûr pour traverser le fleuve ? Vous connaissez déjà la réponse. Même les plus effrayés d’entre vous la connaissent. Et pour ceux qui se concentrent uniquement sur le « risque existentiel » et non sur le fait qu’il existe aussi une « opportunité existentielle », je recommande cette réflexion du philosophe et expert des technologies émergentes, Max Plus.
L’évaluation des risques passe par l’équilibre
Métaphore mise à part, le voyage se dirige vers une « super-abondance durable » qui pourrait être obtenue avec l’aide d’une IA avancée, à condition que nous agissions avec sagesse et équilibre.
Et comment agir avec sagesse ? Tout d’abord en posant les bases d’une régulation traditionnelle. Selon certains philosophes et experts des technologies émergentes, mettre l’intelligence artificielle dans des « binaires » réduit sa capacité d’apprentissage et ses bénéfices potentiels. Ça dépend.
Dans le contexte d'un futur proche où nous disposerons de plus en plus d'intelligences artificielles « locales » et spécifiques (même assistants entièrement personnels), ils peuvent et doivent être sensibles à l’ampleur des échecs potentiels. Lorsque les échecs sont locaux, il est alors avantageux de permettre à ces échecs de se produire. Mais face au risque d’une issue mondiale, une mentalité différente sera nécessaire, celle du développement responsable.
En un mot : il n’est pas sage d’arrêter l’intelligence artificielle, et il n’est pas sage de la laisser aller en roue libre. Comme mentionné, aucune des deux voies actuelles (arrêter ou courir) ne nous mène à quelque chose de bon.
Il ne faut pas s'arrêter, il ne faut pas courir
Il est urgent de mener une enquête plus approfondie et plus réfléchie sur les différents scénarios dans lesquels les défaillances de l’IA peuvent avoir des conséquences catastrophiques. Nous devons évaluer quels secteurs sont les plus à risque et quels dommages nous pourrions subir, puis introduire de nouvelles « règles » (éventuellement non contournables comme ceux d'Asimov) pour ne pas déborder.
Ce n’est qu’ainsi que nous pourrons augmenter considérablement la probabilité de trouver un moyen sûr de traverser ce marais d’incertitude qui nous sépare de la Singularité technologique.
